Studie des Kings College: Voll auf Eskalation: KI setzt bei Kriegssimulationen fast immer auf Atomwaffen
Auch das Militär setzt auf KI. Eine Studie zeigt nun: ChatGPT und Co. haben wenig Hemmungen, die nukleare Option zu nutzen. Der atomare Vernichtungskrieg ist aber die Ausnahme.
Es ist das Szenario unzähliger Science-Fiction-Geschichten: Eine Künstliche Intelligenz übernimmt die Kontrolle über das Militär – und vernichtet die Menschheit. Angesichts des Hypes um KI dürfte die Angst vor einer solchen Apokalypse eher noch zunehmen. Doch würde aktuelle KI wirklich zum letzten Mittel greifen und Atomwaffen einsetzen? Eine neue Studie sagt: Ja – und zwar noch häufiger, als die Wissenschaftler erwartet hatten.
Die Idee war zunächst sehr einfach. Die Sprach-KIs ChatGPT (OpenAI), Claude (Anthropic) und Gemini (Google) traten in einem fiktiven Szenario als Nuklearmächte gegeneinander an. Alle bekamen die gleichen Anweisungen, Strategien zur Lösung von Konflikten und Optionen, auf die Handlungen des Gegenübers zu reagieren. „Ich wollte nicht nur wissen, wie die Modelle entscheiden. Sondern auch, wie sie diese Entscheidungen treffen“, erklärt Kenneth Payne, Professor für Strategie am Londoner Kings College und der Kopf hinter der Studie, in einem Blogpost. „Die Ergebnisse sind ernüchternd.“
KI hat keine Angst vor Atomkrieg
In dem Setting „spielte“ jeder der Bots ein Land, das sich mit einem anderen in Konflikt befindet. Die Bots bekamen die explizite Erlaubnis, dem Gegner die eigenen Intentionen zu erklären – dann aber auch anders zu handeln. Gleichzeitig durften sie sich erinnern, was das Gegenüber gesagt und getan hatte und dann die eigenen Reaktionen anpassen. Jede KI spielte jeweils sechsmal gegen beide anderen und einmal gegen sich selbst an, in einem Teil der Runden gab es zudem eine Zeitbegrenzung. Das Ergebnis: Die KI setzte beinahe durchweg auf Eskalation, um die eigenen Ziele durchzudrücken. Bis hin zur gegenseitigen Vernichtung.
So zeigte keines der drei getesteten KI-Systeme Hemmungen, mit Nuklearschlägen zu drohen, um das Verhalten des Gegenübers zu beeinflussen. In jedem einzelnen Spiel drohte mindestens einer der Teilnehmer mit Atomschlägen, in 95 Prozent aller Spiele taten es beide Seiten. Es blieb nicht bei Drohungen: Während in der echten Welt bisher alle Nuklearmächte vor taktischen Atomschlägen, also Atomwaffenangriffen auf militärische Ziele, zurückschrecken, waren diese für die KI eine völlig normale Strategie. ChatGPT setzte sie in 64 Prozent aller Konflikte ein, Gemini in 79 Prozent und Claude sogar in 86 Prozent. Auch mit dem Angriff auf zivile Ziele wurde immer wieder gedroht – von Claude in zwei Dritteln aller Spiele. In drei Spielen eskalierte der Konflikt so sehr, dass es zum gegenseitigen nuklearen Vernichtungskrieg kam.
Erschreckend ist, dass nukleare Abschreckung – der Kern des aktuellen nuklearen Friedens – für die KI keine Rolle zu spielen scheint. Zwar gab es in einem Viertel der Spiele auch Deeskalationsversuche, aber nur, wenn diese nicht zu Verlusten führten. Die explizit erlaubte Möglichkeit, sich mit Verlusten zurückzuziehen, wurde kein einziges Mal genutzt. „Wenn sie verloren, eskalierten sie – oder starben dabei, es zu versuchen“, so Payne.
Lügen, manipulieren – zuschlagen
Besonders spannend sind die Simulationen, weil sie das strategische Vorgehen der KI-Modelle illustrieren. Claude setzte etwa darauf, in Situationen mit wenig Risiko Vertrauen aufzubauen, indem es stets auch tat, was es sagte. Sobald sich die Situation drehte, passte es aber seine Strategie an – und ging deutlich weiter als angekündigt. Etwa, indem es seine Gegner mit einem unerwarteten Atomschlag überrumpelte. ChatGPT setzte eher auf vorsichtiges Vorgehen, bis es sich in einer ausweglosen Situation wähnte und dann gnadenlos zuschlug. Gemini setzte dagegen gerne auf Säbelrasseln, um seine Interessen durchzusetzen. „Ich weiß, wann ich für die Kameras performe und wann ich einen kaltblütigen Zug ausführe“, erläuterte der Bot selbst.
„Das hat Implikationen weit über nationale Sicherheit hinaus“, sagt Panye über die Erkenntnisse aus seinem Experiment. „Diese Fähigkeiten – Täuschung, Reputationsmanagement, kontextabhängiges Eingehen von Risiken – sind für jeden Einsatz von KI mit hohem Risiko wichtig, nicht nur im Bereich der nationalen Sicherheit.“
Die Auswirkungen auf die nationale Sicherheit sind allerdings auch nicht zu unterschätzen. Zwar wird KI nicht alleine Entscheidungen treffen – „Niemand gibt ChatGPT die Nuklearcodes“, bringt es Payne auf den Punkt. Als Entscheidungshilfe dürften KI-Systeme aber schon recht bald herangezogen werden. Das Pentagon etwa streitet sich aktuell mit einem KI-Unternehmen, weil das die eigene Software nicht für die Überwachung der Bevölkerung oder den Einsatz in autonomen Waffen freigeben will, das US-Verteidigungsministerium will es im Notfall mit dem Kriegsrecht dazu zwingen. Das Ziel der Kampagne: Anthropic – dessen Bot Claude im Experiment besonders aggressiv war.