KI und autonome Waffensysteme verändern, was im Krieg möglich ist. Das wirft fundamentale Fragen für die internationale Staatengemeinschaft auf und führt zu Konflikten. In den USA hat das Verteidigungsministerium die Zusammenarbeit mit der KI-Firma Anthropic beendet. Anthropic wollte ethische rote Linien ziehen: Ihre Technologie sollte weder für die Überwachung der US-Bevölkerung im Inland verwendet werden noch in vollkommen von Menschen unabhängigen Waffensystemen. Das Pentagon wollte sich prinzipiell nicht von einer Privatfirma vorschreiben lassen, wie es ihre Produkte zu verwenden hat. Das US-Verteidigungsministerium hat stattdessen einen Vertrag mit dem Konkurrenten OpenAI abgeschlossen – mit Schutzmaßnahmen, heißt es. OpenAI hat aber zugegeben, dass der Deal am Freitag voreilig abgeschlossen worden ist, und am Montag angekündigt, ihn noch einmal nachschärfen zu wollen – unter anderem mit einem Verbot von Massenüberwachung in den USA.

Dass der Einsatz von KI und autonomen Waffensystemen keine theoretische Debatte ist, haben zuletzt die Kriege in der Ukraine und in Gaza gezeigt.

Wie verändern sie Kriegsführung und Machtverhältnisse? Sind wir als internationale Staatengemeinschaft dafür gerüstet, mit ihrer rasanten Weiterentwicklung umzugehen? Und wer ist verantwortlich, wenn Künstliche Intelligenz Fehlentscheidungen trifft?

Das habe ich Elisabeth Hoffberger-Pippan von der Konrad-Adenauer-Stiftung in Wien gefragt. Sie ist unter anderem Expertin für neue Technologien in der Kriegsführung, Rüstungskontrolle und humanitäres Völkerrecht.

Die wichtigsten Erkenntnisse aus dem Gespräch:

• Eine international einheitliche, offizielle Definition für „autonome Waffensysteme“ (AWS) gibt es nicht – was auch die Debatte über ihre Regulierung schwierig macht. Aber ganz grundsätzlich können autonome Waffensysteme bei der Zielidentifizierung, bei der Zielauswahl und bei der Entscheidung zum Angriff ohne menschliches Zutun agieren. Noch gibt es keine vollständig autonomen Waffensysteme. Aber wir sind in einem Prozess, der sich in diese Richtung entwickelt. Festzustellen, wie viel Mensch noch und wie viel Maschine schon beteiligt sind, ist schwer, weil unterschiedliche Teile in einem Waffensystem verschieden autonom sind.
• Künstliche Intelligenz wird oft dafür eingesetzt, militärische Ziele identifizieren und ansteuern zu können, ohne von limitierenden Umständen wie Wetter und Vegetation ausgebremst zu werden. KI wird auch eingesetzt, um bei militärischen Entscheidungen zu unterstützen.
• Die Frage nach der Verantwortung für Fehler, die KI-unterstützte oder autonome Waffensysteme machen, stellt sich an mehreren Stellen. Am einfachsten lässt sie sich wohl bei Programmierfehlern beantworten, wobei hier die Frage zu stellen ist, inwieweit dem Programmierer oder der Programmiererin zuzumuten ist, dass sie dafür verantwortlich gemacht wird. Richtig schwierig, Verantwortung zu verorten, wird es, wenn die Fehlerquelle beim Einsatz selbst liegt. Ist dann die letztverantwortliche Person beim Einsatz verantwortlich, die mit der Menge der gelieferten Daten schier überfordert ist? Oder die Person im Militär, die das System, das zur Überforderung geführt hat, angeschafft hat? Oder die Tech-Firma selbst, die hinter dem System steht und bei Entwicklung und Training einer gewissen militärischen Verwendung oder Entscheidungskette keinen Riegel vorgeschoben hat?
• KI und autonome Waffensysteme verändern Kriegsführung auf mehreren Ebenen. Erstens liefern sie enorm viele Daten, die zu Überforderung führen können und dem Effekt, dass dann Entscheidungen der KI recht unkritisch übernommen und akzeptiert werden – wie beim Lavender-System der israelischen Streitkräfte im Krieg in Gaza. Außerdem werden die Frontlinien durchlässiger, weil beispielsweise Drohnen weiter vordringen können. Außerdem nehmen Zivilisten und Zivilistinnen eine stärkere Rolle ein. Etwa haben in der Ukraine Privatpersonen kleine chinesische Drohnen gekauft und zu Kampfdrohnen umgebaut. Damit machen sie sich selbst aber auch zu legitimen Zielen, weil sie aktiv an Kampfhandlungen teilnehmen. Außerdem stellen sie Flugabwehrsysteme vor neue Herausforderungen. Die sind nämlich auf wesentlich größere Geschosse ausgelegt. Die Frage ist: Wie holt man Drohnen vom Himmel? In der Ukraine ist man einfach dazu übergegangen, sie mit klassischen Schusswaffen abzuschießen.
• Es gibt bisher wenig Regulierung zu AWS und KI-gestützten Decision Support Systems. Die Gespräche dazu verlaufen schleppend, weil eine Einigung konsensual sein muss. Dem Konsens stehen grundverschiedene politische Interessen wesentlicher Player entgegen, etwa USA, China, Russland und Israel.
• Wir haben im humanitären Völkerrecht theoretisch gewisse Regeln, die man auf den Einsatz autonomer Waffensysteme anwenden kann. Aber jede Regel ist nur so gut wie ihre Umsetzung. Im Endeffekt geschehen immer wieder Dinge, die ungeahndet bleiben. Entweder weil Staaten zu mächtig sind, als dass sie wirklich zur Verantwortung gezogen würden – oder weil schlicht die Instrumentarien zur Wiedergutmachung fehlen. Es braucht ein größeres Bewusstsein dafür, was schon im Einsatz ist, was noch auf uns zukommt, und einen gesamtgesellschaftlichen Diskurs darüber.
• Dass Anthropic gewisse ethische rote Linien in den Verhandlungen mit dem US-Verteidigungsministerium gezogen hat, basiert bestimmt auch auf guten ökonomischen Überlegungen. Dennoch: Wir brauchen Firmen, die Verantwortung übernehmen für das, was ihre Systeme können und tun – wenn nicht aus moralischen Überzeugungen, dann aus langfristigen wirtschaftlichen Vorteilen, die damit einhergehen. Natürlich besteht auch ein Wettlauf mit der Konkurrenz, der die Gefahr mit sich bringt, dass Technologie ohne ausreichenden Reifegrad auf den Markt kommt.
• Hoffberger-Pippans Hoffnung ist, dass wir irgendwann einen selbstbestimmten und organisierten Umgang mit KI finden werden. Ihre These ist, dass das möglich sein wird, sobald der KI-Hype abflacht und wir in den Umgang damit hineingewachsen sind – dass wir dann gesellschaftlich und rechtlich nachjustieren können werden.