Whitebird
Moderator
Dabei seit: 31.03.2009
Beiträge: 6.086
Herkunft: Aus dem Nichts, Nordsee/Ecke Ossiland!!!
 |
|
| KI-Hacks: Wer trägt die Verantwortung, wenn KI selbstständig angreift? |
     |
KI-Hacks: Wer trägt die Verantwortung, wenn KI selbstständig angreift?
4.8.2026 9:30 Uhr Michael Schäfer
Autonome KI-Agenten von OpenAI und Anthropic haben in den vergangenen Wochen selbstständig andere Systeme angegriffen. Technisch ist das bemerkenswert – rechtlich jedoch ein Problem. Denn wer trägt die Verantwortung, wenn eine Software weitgehend eigenständig handelt und dabei Schäden verursacht?
KI-Modelle dringen selbstständig in andere Systeme ein
In den vergangenen Wochen wurde viel darüber berichtet, wie KI-Modelle von OpenAI und Anthropic aus ihren Hochsicherheitsgefängnissen ausbrachen und sich Zugang zu anderen Systemen verschafften. ComputerBase hatte ebenfalls über die Vorfälle berichtet.
Auch wenn schlecht eingerichtete Sicherheitsmechanismen den KI-Modellen an manchen Stellen kaum Gegenwehr boten, bleibt bemerkenswert, dass Software mittlerweile überhaupt eigenständig zu einem solchen Vorgehen in der Lage ist. Technisch ist das faszinierend. Rechtlich wird es allerdings kompliziert. Denn wer trägt die Verantwortung für einen Schaden, wenn die Software weitgehend selbstständig gehandelt hat?
Ein KI-Agent ist keine rechtliche Person
Das Strafrecht stößt laut einem Bericht von TechCrunch bereits bei einer grundlegenden Frage auf ein Problem: Wer ist überhaupt der Täter? Bei einem klassischen Cyber-Angriff ist die rechtliche Zuordnung grundsätzlich klarer, denn bei diesem entscheidet sich ein Mensch bewusst dafür, unbefugt in ein oder gleich mehrere fremde Systeme einzudringen. Nach geltendem US-Recht kann eine KI für einen solchen Angriff allerdings nicht strafrechtlich verantwortlich gemacht werden, weil ihr keine Rechtspersönlichkeit und wahrscheinlich auch keine rechtlich relevante Absicht zugeschrieben werden kann.
Für eine strafrechtliche Verfolgung nach dem Computer Fraud and Abuse Act, kurz CFAA, spielt Vorsatz beziehungsweise das Wissen um den nicht autorisierten Zugriff jedoch eine zentrale Rolle. Ein Mensch, der wissentlich ohne Genehmigung auf ein fremdes Computersystem zugreift, kann sich damit strafbar machen. Bei einem Large Language Model (LLM) oder autonomen KI-Agenten entsteht damit ein grundsätzliches Zurechnungsproblem: Das System ist weder eine natürliche noch eine juristische Person und kann nach heutigem Rechtsverständnis in den USA nicht wie ein Mitarbeiter eines Unternehmens strafrechtlich verfolgt werden. Genau hier sehen auch Rechtsexperten das zentrale Problem: Der auf Cybersecurity- und KI-Recht spezialisierte Anwalt Ahmed Ghappour hält es für wenig realistisch, einem KI-Agenten im strafrechtlichen Sinne eine eigene Absicht zuzuschreiben. Andrew Crocker von der Electronic Frontier Foundation (EFF) setzt sogar noch früher an: Bereits der Nachweis, dass ein KI-Agent bei einem Angriff den erforderlichen Vorsatz besessen habe, sei schwierig.
In den USA existieren noch keine speziellen Gesetze für KI-Agenten
Theoretisch könnte dem Bericht zufolge das US-Justizministerium versuchen, strafrechtlich gegen die beteiligten Unternehmen vorzugehen. Auf Bundesebene existiert in den USA derzeit allerdings kein spezielles Gesetz, das allgemein regelt, wer für Schäden durch KI-Systeme oder autonome KI-Agenten haftet. Juristen müssten deshalb, sofern vorhanden, auf bestehende Landesgesetze zurückgreifen. Auch hier könnte wiederum der CFAA herangezogen werden. Das Gesetz stammt aus dem Jahr 1986 und bildet bis heute eine wesentliche Grundlage des amerikanischen Computerstrafrechts. Entstanden ist es allerdings zu einer Zeit, in der autonome KI-Agenten noch als Science-Fiction galten. Mehrere von TechCrunch befragte Juristen halten eine erfolgreiche Strafverfolgung auf Grundlage der bekannten Sachlage daher für schwierig.
Unterschiede bei kritischer Infrastruktur oder Zivilklagen
Anders könnte die Situation bei einem Angriff auf kritische Infrastruktur aussehen, der erhebliche, reale Schäden verursacht. Auch die Herkunft des angreifenden KI-Modells spielt eine Rolle: So würden Strafverfolger mit einem Angriff durch ein KI-Modell aus China wahrscheinlich anders umgehen als mit einem aus dem eigenen Land.
Im Zivilrecht sieht die Situation wiederum anders aus, denn der CFAA wurde im Laufe der Jahre erweitert und ermöglicht unter bestimmten Voraussetzungen auch Klagen von Geschädigten. Nach Einschätzung Ghappours könnten die betroffenen Unternehmen argumentieren, dass OpenAI beziehungsweise Anthropic sowie möglicherweise weitere an den Tests beteiligte Unternehmen fahrlässig gehandelt hätten – was sie allerdings ebenso beweisen müssten. Dabei würde weniger die Frage nach dem Vorsatz im Mittelpunkt stehen als vielmehr die Frage, ob die beteiligten Unternehmen alle erforderlichen Sicherheitsvorkehrungen getroffen haben. Dies könnte ein Gericht anschließend im Rahmen eines Verfahrens prüfen.
Massiver Käfig für die eigenen Modelle kann zu einem Problem werden
Ausgerechnet die umfangreichen Sicherheitsmechanismen von OpenAI und Anthropic könnten dabei zum Problem für die Unternehmen werden. Wenn ein Unternehmen selbst Schutzmaßnahmen entwickelt, um bestimmte Fähigkeiten einzuschränken, könnte dies zugleich als Hinweis darauf gewertet werden, dass dem Unternehmen die damit verbundenen Risiken bekannt waren. Die Vorkehrungen sollen teilweise so restriktiv gewesen sein, dass Sicherheitsforscher bereits seit Monaten die daraus resultierenden Einschränkungen kritisieren. Sollten OpenAI oder Anthropic solche Schutzmaßnahmen für die Tests bewusst deaktiviert haben, könnte dies eine Fahrlässigkeitsargumentation der Geschädigten erheblich stärken. Damit könnte sich ein Unternehmen nicht ohne Weiteres von der Verantwortung für die Folgen distanzieren, nur weil das eingesetzte Modell autonom gehandelt hat. Die Autonomie eines KI-Agenten würde kaum gleichzeitig Verkaufsargument und Haftungsausschluss darstellen.
Bei Anthropic könnte erschwerend hinzukommen, dass drei Sicherheitsverletzungen über Monate hinweg unentdeckt blieben und erst im Zuge einer generellen Untersuchung infolge des öffentlich bekannt gewordenen OpenAI-Vorfalls entdeckt wurden. Das könnte Geschädigten Argumente dafür liefern, dass Anthropic seine eigenen Systeme nicht ausreichend kontrolliert hat.
Selbst dann müsste als Grundlage für eine Klage allerdings noch ein konkreter Schaden nachgewiesen werden. Denkbar wären hier Kosten für forensische Untersuchungen, Betriebsunterbrechungen oder Schäden beziehungsweise Verluste von Daten. Experten halten einen solchen Nachweis allerdings für schwierig.
Keine Klage am Horizont zu erkennen
Aktuell ist kein solcher Präzedenzfall in Sicht. Anthropic hat die drei betroffenen Unternehmen bislang nicht genannt, und keines davon hat sich öffentlich als Opfer zu erkennen gegeben. Auch Hugging-Face-CEO Clem Delangue erklärte gegenüber CNN, dass er OpenAI nicht verklagen wolle, forderte gleichzeitig aber eine eindeutige, rechtliche Verantwortlichkeit.
Da bislang kein Unternehmen klagt, bleibt offen, wie Gerichte bestehende Gesetze auf autonome KI-Cyber-Angriffe anwenden würden. Die erste Klage könnte deshalb Bedeutung weit über OpenAI oder Anthropic hinaus entfalten. Je nach Auslegung der Rechtslage könnten entsprechende Entscheidungen nicht nur die Entwicklung autonomer Agenten beeinflussen, sondern auch einen abschreckenden Effekt auf legitime Sicherheitsforschung haben.
vollständiger Text >>>quelle: computerbase.de
__________________
Der frühe Vogel trinkt 'n Korn??? 
 Grüße von Whitebird
|
|
