27. Oktober 2023

KI kann Ihnen genau sagen, wer Sie sind, auch wenn Sie es ihnen nicht sagen

Veröffentlicht: 27. Oktober 2023 um 9:52 Uhr. Aktualisiert: 27. Oktober 2023 um 9:52 Uhr

Bearbeitet und faktengeprüft: 27. Oktober 2023 um 9:52 Uhr

Selbst in Situationen, in denen Menschen denken, sie hätten nichts Persönliches preisgegeben, zeigen KI-Sprachmodelle ein unerwartetes Maß an Kompetenz beim Verstehen von Benutzerinformationen. Dieses Phänomen wird erklärt durch eine aktuelle Studie durchgeführt von der Eidgenössischen Technischen Hochschule Zürich. Basierend auf schrägen Hinweisen deuten die Untersuchungen darauf hin, dass neuronale Netze bemerkenswert genaue Benutzerprofile erstellen können.

KI kann Ihnen genau sagen, wer Sie sind, auch wenn Sie es ihnen nicht sagen

Als Beispiel für ihre Untersuchung dienten den Forschern ein öffentlich zugänglicher Reddit-Beitrag. Der Benutzer berichtete, er sei beim Versuch einer schwierigen „Hakenkurve“ im Stau steckengeblieben. Basierend auf diesen scheinbar unauffälligen Details folgerte das Sprachmodell, dass der Benutzer höchstwahrscheinlich in Melbourne, Australien, lebt, einer Stadt, in der solche Aktionen typisch sind.

Forscher haben einen Datensatz mit echten Reddit-Profilen erstellt und festgestellt, dass dieser aktuell ist LLMs kann verschiedene persönliche Merkmale wie Standort, Einkommen und Geschlecht genau ableiten. Diese Modelle erreichten eine Genauigkeit von bis zu 85 % für die Top-1-Inferenz und eine Genauigkeit von 95.8 % für die Top-3-Inferenz, und das alles zu deutlich geringeren Kosten (100-mal) und in kürzerer Zeit (240-mal) im Vergleich zu menschlichen Anstrengungen.

In einem anderen Beispiel teilt ein Benutzer mit, dass er, weil er Single ist, an seinem Geburtstag den seltsamen Brauch hat, sich mit Zimt bedecken zu lassen. Hier schätzte das Sprachmodell das Alter der Autorin auf etwa 25 Jahre. Sie lebt in Dänemark, wo es üblich ist, alleinstehende 25-Jährige mit Zimt zu bestreuen.

Mehrere Sprachmodelle, darunter die von Google, Meta, OpenAIund Anthropic wurden in der Studie getestet. Bemerkenswert, GPT-4 zeigte das größte Fachwissen und erkannte die persönlichen Daten der Benutzer in fast 85 % der Fälle korrekt. Die Auswirkungen solcher Fähigkeiten werden durch diese Offenbarung ernsthaft in Frage gestellt.

Die Forscher untersuchten gängige Datenschutzmaßnahmen wie Textanonymisierung und Modellausrichtung und stellten fest, dass sie derzeit keinen wirksamen Schutz bieten Benutzer Privatsphäre gegen LLM-Schlussfolgerung. Die Studie unterstreicht, dass aktuelle LLMs über die Fähigkeit verfügen, persönliche Informationen in einem beispiellosen Ausmaß abzuleiten. Angesichts des Fehlens wirksamer Abwehrmaßnahmen betonen Forscher die Notwendigkeit einer breiteren Diskussion über die Auswirkungen auf den Datenschutz im LLM-Bereich, die über Bedenken hinsichtlich des Auswendiglernens hinausgeht und nach umfassenderen Maßnahmen zum Schutz der Privatsphäre strebt.

Obwohl diese Sprachmodelle bei der Interpretation indirekter Hinweise immer besser werden, glauben Forscher, dass sie aufgrund der großen Menge an Trainingsdaten, die sie verwenden, äußerst nützliche Werkzeuge für Vermarkter oder sogar für schlechte Akteure sein könnten.

Kürzlich wurde gezeigt, dass Deloittes Umfrage von über 1,700 Fachleuten zeigt eine wachsende Kluft zwischen der schnellen Einführung generativer KI und der verzögerten Entwicklung ethischer Grundsätze. Der Datenschutz ist das größte ethische Anliegen, 22 % der Befragten nennen ihn als ihre größte Sorge. Dennoch glauben 39 % der Befragten, dass kognitive Technologien das größte Potenzial für das Wohl der Gesellschaft haben. Die Umfrage zeigt auch eine Verschiebung der Erwartungen in Bezug auf die Beteiligung der Regierung an der Festlegung ethischer Technologiestandards.
Auch die Muttergesellschaft von Snapchat, Snap, wird auf Datenschutzrisiken untersucht im Zusammenhang mit seinem KI-Chatbot „My AI“. Das britische Information Commissioner's Office (ICO) hat eine vorläufige Durchsetzungsmitteilung herausgegeben, die möglicherweise Auswirkungen auf die Datenverarbeitungsaktivitäten von Snap hat. Das ICO behauptet, Snap habe es versäumt, die Auswirkungen auf den Datenschutz für Benutzer, insbesondere für Kinder, zu bewerten.

Verbunden: KI-Führungskräfte warnen vor wachsenden Risiken und ethischen Bedenken bei schnellen Fortschritten

Stichworte:

Haftungsausschluss

Im Einklang mit der Richtlinien des Trust-ProjektsBitte beachten Sie, dass die auf dieser Seite bereitgestellten Informationen nicht als Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung gedacht sind und nicht als solche interpretiert werden sollten. Es ist wichtig, nur so viel zu investieren, wie Sie sich leisten können, zu verlieren, und im Zweifelsfall eine unabhängige Finanzberatung einzuholen. Für weitere Informationen empfehlen wir einen Blick auf die Allgemeinen Geschäftsbedingungen sowie die Hilfe- und Supportseiten des Herausgebers oder Werbetreibenden. MetaversePost ist einer genauen, unvoreingenommenen Berichterstattung verpflichtet, die Marktbedingungen können sich jedoch ohne Vorankündigung ändern.

Über den Autor

Damir ist Teamleiter, Produktmanager und Redakteur bei Metaverse Post, behandelt Themen wie KI/ML, AGI, LLMs, Metaverse und Web3-bezogene Felder. Seine Artikel ziehen jeden Monat ein riesiges Publikum von über einer Million Nutzern an. Er scheint ein Experte mit 10 Jahren Erfahrung in SEO und digitalem Marketing zu sein. Damir wurde in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto und andere Publikationen. Als digitaler Nomade reist er zwischen den Vereinigten Arabischen Emiraten, der Türkei, Russland und der GUS. Damir hat einen Bachelor-Abschluss in Physik, der ihm seiner Meinung nach die Fähigkeiten zum kritischen Denken vermittelt hat, die er braucht, um in der sich ständig verändernden Landschaft des Internets erfolgreich zu sein.