Sind ein Chatbot oder das Unternehmen dahinter für Handlungen von Menschen mitverantwortlich? Das ist eine Frage, die in den USA immer wieder verhandelt wird – in der Regel in Zivilprozessen. Aber James Uthmeier, der Generalstaatsanwalt von Florida, hat angekündigt, strafrechtliche Ermittlungen gegen OpenAI einzuleiten. Das ist das Unternehmen hinter dem Large Language Model ChatGPT. Laut Medienberichten ist es das erste Mal, dass ein Strafprozess gegen KI-Entwickler im Raum steht.

Der Hintergrund ist ein Amoklauf an der Florida State University im April 2025. Damals sind zwei Menschen getötet und sechs verletzt worden. Die Familie eines Todesopfers will ChatGPT und OpenAI verklagen. Ihre Anwälte sagen, sie haben Grund zur Annahme, dass ChatGPT den mutmaßlichen Täter vor seinem Angriff beraten haben könnte – zum Beispiel dazu, welche Waffe und Munition er verwenden soll, wie er sie am besten verwendet und wo er die meisten Studierenden findet.

OpenAI sieht sich nicht in der Verantwortung. Das Unternehmen argumentiert: Selbst, wenn der Beschuldigte ihr Produkt dafür verwendet habe, an Informationen zu kommen, waren das öffentlich verfügbare Informationen, die er auch anderswo im Internet gefunden hätte.

Vor welche Herausforderungen stellen Large Language Models wie ChatGPT unser Rechtssystem – und künftig wohl auch verstärkt KI-Agenten?

Das habe ich Matthias Kettemann von der Universität Innsbruck gefragt. Er leitet dort das Institut für Theorie und Zukunft des Rechts.

Die wichtigsten Erkenntnisse aus dem Gespräch:

• Bei sozialen Medien haben wir zu spät auf die Herausforderungen reagiert, die sie mit sich bringen. Bei Künstlicher Intelligenz sind wir etwas besser unterwegs. Die Schwierigkeit ist aber prinzipiell, dass sich die Technologie schnell weiterentwickelt.
• Dass wir Prozesse gegen KI-Entwickler in den USA sehen, aber nicht in Europa, liegt einerseits am dortigen Rechtssystem. Es ist prozessorientiert: Recht wird durch Rechtssprechung geprägt und weiterentwickelt. Man spricht hier von Case Law. Aber auch ein finanzieller Aspekt spielt mit: Anwälte und Anwältinnen verdienen mit, wenn Schadenersatz erstritten wird. Das ist bei uns standeswidrig. In den USA gibt es außerdem den sogenannten Strafschadenersatz. Es kann also nicht – wie bei uns – ausschließlich auf den entstandenen Schaden geklagt werden, sondern auch auf eine Strafzahlung dafür, dass er durch bestimmte Umstände überhaupt möglich war.
• Um eine Plattform oder KI-Firma haften zu lassen, muss nachgewiesen werden, dass die Nutzung ihrer Produkte einen bestimmten Effekt hatte. Man spricht hier von Kausalität. Die Herausforderung ist, diese nachzuweisen.
• Die US-amerikanischen Prozesse haben einen großen gesellschaftlichen Nutzen, selbst wenn sie nicht zu einer Verurteilung führen. Ihnen geht nämlich die sogenannte Discovery Phase voraus, in der Informationen gesammelt werden, die dann ins Verfahren einfließen. So erfährt die Allgemeinheit von internen Dokumenten und Praktiken, die jedenfalls aufschlussreich sind. Auf Basis derer kann es dann auch weitere Untersuchungen geben. Dass unangenehme Interna an die Öffentlichkeit kommen, kann auch Verhaltensänderungen im Unternehmen anstoßen.
• Unser Rechtssystem ist in mancherlei Hinsicht schon dafür geeignet, Rechtsfragen, in die KI involviert ist, zu beantworten. Aber in manchen Dingen müssen Lücken geschlossen werden – besonders im Strafrecht, wo es nicht erlaubt ist, bestehendes Recht zuungunsten einer beschuldigten Person analog anzuwenden.
• Im Fall in Florida argumentiert der Generalstaatsanwalt, dass das Produkt von OpenAI eine Art Beitrags- oder Bestimmungstäter war. In solchen Fällen gibt es das Lager, das sagt: Wir würden auch nicht Messerhersteller dafür verklagen, wenn ein Mord mit einem ihrer Messer verübt wird, sondern wir regulieren, wie und wo Messer genützt werden dürfen. Das andere Lager meint: Der Vergleich mit dem Messer hinkt. In so einem Fall ist es so, als hätte das Messer mit dem Täter gesprochen und ihn bei der Tat beraten. Es gibt also eine Interaktion. Die Frage, die gerade verhandelt wird, ist: Wie fehlerhaft muss das Produkt sein, damit es eine strafrechtliche Verantwortung gibt?
• Wir müssen als Gesellschaft gerade die Frage verhandeln, ob und ab wann ein System eingreifen soll, sobald es bestimmte Muster erkennt. Als Gesellschaft sind wir aktuell nicht an dem Punkt, an dem wir uns mit dem Gedanken wohlfühlen, dass uns ein System automatisch bei der Polizei meldet, wenn wir eine gewisse Interaktion mit ihm haben, meint Kettemann. Aber wir sind sehr wohl an dem Punkt, an dem wir die Plattformen zur Verantwortung ziehen wollen – vor allem, weil sie viel Geld durch ihr Produkt machen.
• Eigentlich war als Ergänzung des EU AI Acts eine KI-Haftungsrichtlinie geplant, die Schadenersatzverfahren gegen KI-Firmen für Geschädigte vereinfacht hätte. Die Richtlinie wurde im Februar 2025 zurückgezogen. Kettemann sagt, die Richtlinie war an sich eine gute Idee, kam aber nicht mehr über die Ziellinie, weil damals bereits viel neue Rechtsmaterie auf dem Tisch lag. Der Trend geht aktuell eher in die Richtung, bestehendes Digitalrecht zu prüfen und zu vereinfachen, anstatt neues zu schaffen. Der Komplettrückzieher war politisch kein gutes Signal, aber Kettemann hält ihn nicht für fatal. Denn es gibt im Bereich der zivilrechtlichen Haftung bereits gute Vorgaben des Europäischen Parlaments und auch Modellgesetze, die Staaten einsetzen können.