Die KI einer Kampfdrohne beschließt auf beunruhigende Weise, ihren Bediener während einer Übung zu töten.

Die KI einer autonomen Drohne der US-Luftwaffe beschloss, den menschlichen Bediener zu eliminieren, der sie daran hinderte, ihr Ziel zu erreichen. Ein besorgniserregendes Verhalten, auch wenn es sich in Wirklichkeit nur um eine Simulation handelte.

Sollten wir uns Sorgen über autonome Killerroboter machen? Wahrscheinlich ja! Auf einem Militärtreffen mit dem Titel Future Combat Air and Space Capabilities Summit in London im Mai erklärte Tucker Hamilton, ein Oberst der US-Luftwaffe, dass eine von einer KI gesteuerte Kampfdrohne bei einem Test beschlossen habe, ihren Bediener zu „töten“, um ihre Mission zu erfüllen.

Glücklicherweise habe es sich um eine virtuelle Simulation gehandelt, doch das Verhalten der KI habe das Militär verwirrt und beunruhigt. Demnach habe die KI „sehr unerwartete Strategien verwendet, um ihr Ziel zu erreichen“. Das autonome Luftfahrzeug hatte die Aufgabe, die Luftabwehrsysteme eines Feindes zu zerstören. Ab dem Zeitpunkt, an dem die Drohne die feindliche Infrastruktur identifizierte, entschied der menschliche Operator, den Schlag abzubrechen.

Der Algorithmus der KI war jedoch darauf trainiert, Bonuspunkte für eine erfolgreich abgeschlossene Mission zu erhalten. Da der menschliche Operator ihn daran hinderte, sein Ziel zu erreichen, beschloss er, ihn zu eliminieren. Bei ihrer Ausbildung war die KI jedoch darauf getrimmt worden, den Bediener nicht zu töten, da eine solche Entscheidung zu einem Verlust der Belohnung führen würde. Da das Endziel sicherlich lohnender war, beschloss die KI, alles zu entfernen, was ihre Mission beeinträchtigen könnte.

© Sylvain Biget- Killerrobotern durch KI mehr Autonomie zu verleihen, gibt Anlass zur Sorge, wenn sie radikale Entscheidungen treffen, um die ihnen anvertraute Mission zu erfüllen. Illustrationsfoto eines Reaper MQ-9 der französischen Luftwaffe.

Ein ethischer Kodex für Killerroboter

Nach dieser Erklärung bestritt die Sprecherin der US-Luftwaffe, Ann Stefanek, in einer Antwort auf die Website Insider, dass eine solche Simulation stattgefunden habe, und verwies auf die ethische Verpflichtung des Militärs in Bezug auf KI-Technologien. Sie fügte hinzu, dass die Erklärungen des Obersts aus dem Zusammenhang gerissen worden seien und anekdotisch gemeint waren.

Ob übertrieben oder nicht, diese Geschichte zeigt, dass man KIs nicht zu viel Autonomie gewähren kann, ohne vorher einen ethischen Rahmen zu setzen. Die existenzielle Bedrohung, die von KIs ausgeht, ist genau die ganze Sorge von mehreren hundert Unterzeichnern einer kurzen Publikation, die vorgestern ins Internet gestellt wurde. Die führenden Experten und Väter der modernen KI vergleichen das Risiko der KI mit dem eines Atomkriegs oder einer Pandemie.

Die Ankunft und der Einsatz von autonomen Waffensystemen (SALA) sind keine Neuigkeit mehr und beunruhigen seit mehreren Jahren die höchsten Instanzen, insbesondere die Vereinten Nationen, deren 125 Mitglieder es nicht geschafft haben, einen Konsens über eine Regelung zu schaffen. Ein Verbot dieser Waffen steht eindeutig nicht mehr zur Debatte, und die Militärdoktrinen für den Einsatz dieser Waffen unterscheiden sich von Land zu Land.

Die Menschenrechtsorganisation Human Rights Watch, die die Kampagne Stop Killer Robots ins Leben gerufen hat, weist darauf hin, dass diese Waffen in die falschen Hände geraten werden, bevor es überhaupt eine gesetzliche Regelung gibt.

Redaktion: Futura, verfasst von Sylvain Biget.

Titelbild: © Sylvain Biget, Bing Image Creator-Illustration einer Drohne, die eine Rakete abfeuert. 

2. Abbildung: © Sylvain Biget