 Ende der Pseudonyme im Netz?: Mit LLMs lassen sich im großen Ausmaß Online-Konten deanonymisieren |
 |
|
 |
Whitebird
Moderator
Dabei seit: 31.03.2009
Beiträge: 4.840
Herkunft: Aus dem Nichts, Nordsee/Ecke Ossiland!!!
 |
|
 Ende der Pseudonyme im Netz?: Mit LLMs lassen sich im großen Ausmaß Online-Konten deanonymisieren |
     |
Ende der Pseudonyme im Netz?: Mit LLMs lassen sich im großen Ausmaß Online-Konten deanonymisieren
3.3.2026 12:59 Uhr Andreas Frischholz
Eine Studie von einer Forschungsgruppe der ETH Zürich zeigt: Selbst wenn Nutzer von Plattformen wie Hacker News ein Pseudonym verwenden, lassen diese sich mit aktuellen LLM-Agenten ohne großen Aufwand deanonymisieren. Die Forscher warnen daher vor den Risiken für die Privatsphäre, die von den modernen KI-Systemen ausgehen.
Dass pseudonyme Nutzerkonten identifizierbar sind, war schon vor dem Zeitalter der LLMs (Large Language Models) bekannt. In der Regel benötigen Angreifer auch nur wenige Datenpunkte, wie etwa das Netflix-Prize-Verfahren von 2008 zeigt.
Der Schutz war bislang vor allem der Aufwand, der nötig war, um Nutzer zu enttarnen. Daten mussten entweder strukturiert vorliegen oder Menschen mussten händisch Profile nach Hinweisen durchsuchen. „Unsere Ergebnisse zeigen, dass die praktische Verschleierung [„obscurity“], die pseudonyme Nutzer bislang online schützte, nicht länger Bestand hat und dass Bedrohungsmodelle für die Online-Privatsphäre neu überdacht werden müssen“, heißt es in dem Paper (via Decoder), an dem neben Forschern der ETH Zürich auch ein Mitarbeiter von Anthropic beteiligt ist.
Nutzer auf Hacker News lassen sich durch LinkedIn-Abgleich enttarnen
Um zu prüfen, inwieweit sich Hacker-News-Nutzer identifizieren lassen, erstellten die Forscher zunächst einen Datensatz mit 338 Profilen, die in der Bio einen Link zu einem LinkedIn-Konto hatten, sodass eine Zuordnung zu einem echten Menschen möglich ist. Dann wurden die Hacker-News-Profile anonymisiert; die Forscher nutzten ein LLM, um Informationen wie das LinkedIn-Profil, Namen oder Links zu Social-Media- oder GitHub-Konten zu entfernen. Ausgehend von den pseudonymen Beiträgen hatte dann ein LLM-Agent die Aufgaben, den jeweiligen Nutzer zu identifizieren, indem dieser autonom das Web durchsuchte, Quellen verglich und die Ergebnisse prüfte.
Das Resultat: 226 der 338 Hacker-News-Profile (67 Prozent) konnten mit 90-prozentiger Präzision identifiziert werden. Bei 25 Profilen war das Ergebnis also falsch, bei 201 Profilen enttarnte der Agent den jeweiligen Nutzer korrekt. Möglich ist es, weil der LLM-Agent anhand der Beiträge ein Profil eines Nutzers erstellt, das Informationen über Aspekte wie Alter, Geschlecht, beruflichen Werdegang und Interessen erhält.
Ergebnisse nicht direkt auf Praxis übertragbar
Testläufe mit kleineren Reddit-Datensätzen lieferten etwas schwächere Ergebnisse, aufgrund des Studien-Designs sind die Ergebnisse aber ohnehin nur bedingt für den praktischen Einsatz übertragbar. Der Grund sind die Grenzen des Ansatzes, weil im Prinzip nur Nutzer ausgewählt worden sind, bei denen aufgrund des geposteten LinkedIn-Kontos davon ausgegangen werden kann, dass sie offener mit ihren Daten sind. Völlig pseudonyme Konten waren nicht Teil der Analyse.
LinkedIn-Profile lassen sich auch Hacker-News-Konten zuordnen
In einem weiteren Testlauf ging es um die Frage, inwieweit sich bekannte LinkedIn-Konten einem Hacker-News-Profil zuordnen lassen. Die Grundlage bilden in diesem Fall LinkedIn-Konten, die auf Hacker-News-Profile verwiesen. So bestand der Datensatz aus 987 LinkedIn-Konten mit Verweis auf 995 Hacker-News-Profile. Dem gegenüber standen 89.000 Hacker-News-Profile.
Die Forscher nutzten nun ein mehrstufiges Verfahren, bei dem verschiedene KI-Modelle zum Einsatz kamen. Gemini wurde etwa verwendet, um die 89.000 Hacker-News-Profile in einen Nearest-Neighbor-Index zu übertragen, mit Grok 4.1 Fast erfolgte dann eine erste Auswahl passender Kandidaten. Wurde GPT-5.2 im High-Reasoning-Modus für den finalen Abgleich genutzt, konnte das KI-basierte System 45,1 Prozent der Hacker-News-Profile mit 99-prozentiger Genauigkeit einem LinkedIn-Konto zuordnen – der Wert bei herkömmlichen Verfahren liegt bei 0,1 Prozent.
Je nach Präzision und Leistungsfähigkeit der Modelle variieren die Ergebnisse aber. GPT-5.2 im Low-Reasoning-Modus erreicht bei 99-prozentiger Präzision einen Wert von 36 Prozent.
Weitere Tests zeigen ebenfalls Erfolg des LLM-Ansatzes
Die Forscher der ETH Zürich bestätigen die Erkenntnisse auch in weiteren Experimenten:
- Von Forschern, die bei Anthropic ein Vorstellungsgespräch hatten, ließen sich anhand der Transkripte 9 von 33 Befragten korrekt enttarnen. Bei zwei war die Identifikation fehlerhaft.
- Reddit-Nutzer, die in verschiedenen Film-Subbredits unterwegs waren, ließen sich über mehrere Subreddits hinweg zuordnen.
Ein Trend ist generell, dass Nutzer sich umso einfacher identifizieren lassen, wenn sie mehr posten.
Konsequenzen für die Privatsphäre im Netz
Die Forschungsarbeiten zeigen also, dass LLMs es im großen Umfang ermöglichen, pseudonyme Nutzerkonten zu deanonymisieren. Was sich durch die LLM-Methoden gravierend ändert, ist in erster Linie der Kostenfaktor. Nutzer zu identifizieren war ohnehin möglich, aber kostspielig. Nun wird es deutlich günstiger. Wer wie die Forscher die gängigen KI-Modelle wie GPT-5.2 per API nutzt, zahlt laut der Forschungsgruppe pro Profil zwischen 1 und 4 US-Dollar.
Laut der Forschungsgruppe haben die Erkenntnisse erhebliche Konsequenzen für die Privatsphäre im Netz. Regierungen haben durch solche LLM-Systeme die Möglichkeit, pseudonyme Konten mit echten Personen zu verknüpfen – das gilt auch, wenn es sich um sensible Personengruppen wie Journalisten oder Aktivisten handelt. Unternehmen haben derweil die Möglichkeit, anonyme Forenbeiträge mit Kundenprofilen zu verbinden, um etwa gezielter Werbung zu schalten. Angreifer können solche Verfahren hingegen nutzen, um detaillierte Profile von Zielpersonen zu erstellen, die eine Vielzahl von Webaktivitäten beinhalten.
„Nutzer, Plattformen und politische Entscheidungsträger müssen anerkennen, dass die Privatsphäre-Annahmen, auf denen ein Großteil des heutigen Internets basiert, nicht länger bestehen“, so die Forscher in dem Paper. Relevant sind diese Erkenntnisse auch für den Konflikt zwischen Anthropic und dem Pentagon. Dieser eskalierte, weil das KI-Unternehmen neben der autonomen Waffensteuerung auch die Massenüberwachung im Inland technisch unterbinden wollte. Welche Möglichkeiten sich mit LLMs bieten, zeigt diese Studie.
Die Studie wurde vom Ethikrat der ETH Zürich genehmigt. Aufgrund von Datenschutzbedenken wurden die zugrundeliegenden Datensätze nicht veröffentlicht.
quelle: computerbase.de
__________________
Der frühe Vogel trinkt 'n Korn??? 
 Grüße von Whitebird
|
|
Gestern, 17:04 |
|
|
 |
|
 |
|
|
|
Whitebird
Moderator
Dabei seit: 31.03.2009
Beiträge: 4.840
Herkunft: Aus dem Nichts, Nordsee/Ecke Ossiland!!!
Themenstarter 
|
|
| RE: Ende der Pseudonyme im Netz?: Mit LLMs lassen sich im großen Ausmaß Online-Konten deanonymisiere |
|
es wird wohl nicht mehr lange dauern, bis wir das inet meiden wie der ... 
__________________
Der frühe Vogel trinkt 'n Korn???
Grüße von Whitebird
|
|
|
Gestern, 17:05 |
|
|
|
