KI-Waffen Autonomie

Die Debatte um tödliche autonome Waffensysteme (LAWS) hat sich in jüngster Zeit von einem akademischen Diskussionspunkt in eine operative Realität verwandelt. Die Rohdaten, die ich aus archivierten Quellen und unabhängigen Forschungsberichten zusammengetragen habe, zeichnen ein Bild eines globalen Wettlaufs, der durch einen fundamentalen Widerspruch gekennzeichnet ist: Einerseits besteht ein massiver politischer Konsens über die Notwendigkeit ethischer Grenzen, andererseits treiben Militärs und Rüstungsindustrien die Technologie mit beispielloser Geschwindigkeit voran. Die Hypothese einer offenen, unregulierten Entwicklung bestätigt sich dabei nicht als einfaches Szenario freier Wildbahn, sondern als komplexes Geflecht aus strategischer Notwendigkeit, technologischer Zwangsläufigkeit und diplomatischer Blockade.

Im Zentrum der aktuellen Verhandlungen unter dem Dach der UN-Konvention über bestimmte konventionelle Waffen (CCW) steht die Gruppe staatlicher Experten (GGE), deren Mandat bis Ende 2025 läuft. Der Vorsitzende Robert in den Bosch hat in mehreren Interviews eindringlich gewarnt, dass technologische Entwicklungen die politische Steuerung bereits jetzt überholen könnten. Die diplomatische Hürde liegt nicht im Fehlen von Willen, sondern im Konsensprinzip der Vereinten Nationen. Staaten wie Russland und die USA lehnen einen völkerrechtlich bindenden Vertrag ab, da sie befürchten, ihre technologische Hegemonie zu verlieren. Stattdessen setzen sie auf den Begriff der „kontextangemessenen menschlichen Kontrolle“ (CAHJ). Diese Formulierung ist ein diplomatischer Trick: Sie interpretiert bestehendes humanitäres Völkerrecht nicht als neues Recht, sondern als Konkretisierung alter Prinzipien wie Unterscheidung und Verhältnismäßigkeit. Kritiker von Organisationen wie Article 36 weisen jedoch darauf hin, dass dieser Begriff vage ist und keine klaren Kriterien für Vorhersagbarkeit oder Erklärbarkeit der KI-Entscheidungen liefert. Ohne diese Transparenz bleibt die menschliche Kontrolle oft eine leere Hülle.

Die technische Realität auf dem Schlachtfeld widerspricht zunehmend der diplomatischen Rhetorik. In der Ukraine hat sich ein neues Muster etabliert: Aufgrund russischer elektronischer Kriegsführung, die Funkverbindungen unterbricht, werden Drohnen wie das „Hornet“ oder Module von „The Fourth Law“ entwickelt, die ohne Live-Steuerung navigieren und Ziele identifizieren. Mit Kosten von rund 150 USD pro Modul wird diese Technologie für Fronttruppen erschwinglich. Hier entsteht ein gefährlicher Trend: Autonomie ist kein Luxus mehr, sondern eine taktische Notwendigkeit zur Kompensation von Kommunikationsausfällen. Die „Kill Chain“ wird beschleunigt, und die Schwelle zwischen menschlicher Steuerung und automatisierter Ausführung verschwimmt. Ähnliche Entwicklungen sind in Gaza zu beobachten, wo Berichte über KI-Systeme wie „Lavender“ und „Gospel“ aufkommen. Diese Systeme generieren Ziele in einem Ausmaß von bis zu 37.000 Personen, was eine gründliche menschliche Prüfung unmöglich macht. Die Gefahr ist nicht das Fehlen von Menschen, sondern deren Überforderung durch Datenmengen, was zu einer bloßen Abnicken-Funktion („rubber-stamping“) führt.

Parallel dazu tobt ein Rüstungswettlauf, der weniger um Hardware denn um Rechenleistung und Algorithmen kreist. Das US-Pentagon beantragte 55 Milliarden US-Dollar für autonome Waffensysteme, ein Anstieg von über 200 Millionen Dollar im Vergleich zum Vorjahr. Institutionen wie das Joint Artificial Intelligence Center (JAIC) und die DARPA treiben die Integration von KI voran, wobei der Fokus auf „Edge Computing“ liegt: Datenverarbeitung direkt am Sensor, um Latenzzeiten zu minimieren. Dies ermöglicht es Systemen, in Millisekunden zu reagieren – ein Tempo, das menschliche Operatoren objektiv nicht mehr nachvollziehen können. Das Vereinigte Königreich hat mit 5 Milliarden Pfund Investition in Drohnen, die ohne per-Streik-Genehmigung feuern können, einen weiteren Schritt in diese Richtung getan, obwohl offiziell betont wird, keine tödlichen autonomen Waffen zu entwickeln. Diese Diskrepanz zwischen offizieller Politik und praktischer Entwicklung ist ein zentrales Merkmal der aktuellen Lage.

Gegen dieses alarmierende Narrativ müssen die Gegenargumente substanziell gewichtet werden. Die kritische Recherche zeigt, dass die Vorstellung voll autonomer „Tötungsmaschinen“, die wie in Science-Fiction-Szenarien eigenständig über Leben und Tod entscheiden, oft technisch übertrieben ist. Aktuell basieren autonome Systeme auf schwacher KI, die spezifische Aufgaben löst, aber keine allgemeine Intelligenz oder moralische Urteilsfähigkeit besitzt. Die finale Entscheidungsbefugnis liegt nach internationalen Standards und der deutschen KI-Strategie zwingend beim Menschen. Historisch gesehen wurde die Debatte oft durch den Einsatz von Loitering Munition im Bergkarabach-Konflikt 2020 ausgelöst, was jedoch eher eine Weiterentwicklung bestehender unbemannter Systeme darstellt als einen neuen Paradigmenwechsel. Zudem fehlt es an einem einheitlichen globalen Regulierungsrahmen, der Verbotsforderungen von Amnesty International oder dem Future of Life Institute durchsetzbar macht. Die Angst vor „Slaughterbots“ – winzigen Drohnen mit Gesichtserkennung – wird von Experten wie Bryan Alexander als derzeit technisch unrealistisch eingestuft, da Batteriebeschränkungen und unzuverlässige Erkennungssoftware in komplexen Umgebungen noch große Hürden darstellen. Die Sorge, dass KI die menschliche Urteilsfähigkeit vollständig ersetzt, ignoriert zudem, dass militärische Doktrinen weiterhin auf menschlicher Aufsicht basieren, um Haftungsfragen zu klären und Eskalationen zu kontrollieren.

Doch diese Gegenargumente verlieren an Gewicht, sobald man die operative Dynamik betrachtet. Die Unterscheidung zwischen „schwacher“ und „starker“ KI ist im militärischen Kontext oft irrelevant, solange das Ergebnis – die Zielerfassung und -bekämpfung ohne unmittelbares menschliches Eingreifen pro Treffer – eintritt. Die britische Definition von LAWS, die voraussetzt, dass Systeme „höhere Absichten“ verstehen müssen, ist technologisch unrealistisch und schließt viele aktuelle Entwicklungen fälschlicherweise aus. Die eigentliche Gefahr liegt nicht in der künstlichen Intelligenz an sich, sondern in der Automatisierung von Prozessen, die moralische Dilemmata erfordern. Studien zeigen, dass KI-gestützte Entscheidungssysteme in Simulationen tendenziell aggressive Eskalationsoptionen bevorzugen. Die „moralische Entkopplung“, bei der Verantwortung auf Algorithmen übertragen wird, ist bereits in Gaza und Libyen (STM Kargu-2 Drohne) beobachtbar.

Offene Fragen bleiben zahlreich. Wie lässt sich die Haftung für Fehler autonomer Systeme zuweisen, wenn die Entscheidungswege durch neuronale Netze nicht mehr vollständig nachvollziehbar sind? Wird der Begriff der „menschlichen Kontrolle“ in Zukunft nur noch als formales Hindernis dienen, um technologische Überlegenheit zu wahren? Und wie reagiert die Staatengemeinschaft auf das Modell der „Military-Civil Fusion“ Chinas, das zivile Innovationen direkt in militärische Kapazitäten integriert, während westliche Demokratien an ethischen Debatten und langsamen Beschaffungsprozessen scheitern?

Das Fazit muss differenziert ausfallen: Wir stehen nicht vor dem Ende des humanitären Völkerrechts, aber vor seiner Aushöhlung durch technologische Fakten. Die Diplomatie in Genf ist gelähmt, während auf dem Schlachtfeld die Definition von Kriegsführung neu verhandelt wird. Die Gefahr besteht weniger darin, dass Maschinen plötzlich handeln wollen, als darin, dass Menschen sich zu sehr auf Maschinen verlassen, um ihre eigene Urteilsfähigkeit abzugeben. Solange kein verbindliches Instrument existiert, das klare Schwellenwerte für autonomes Handeln definiert, droht die Kontrolle über den Krieg in eine graue Zone zu sinken, in der Technologie und Ethik voneinander getrennt werden.

— Twight Sterling, Sigil & Spark