Die Nutzung eines KI-Chatbots durch die US-Armee verursachte beinahe eine militärische Operation gegen ein chinesisches Schiff im Nahen Osten, das angeblich Elemente für den Bau einer Atombombe transportierte.
Während der ersten Welle des US-Iran-Krieges im Frühjahr 2026 hätte ein Vorfall beinahe einen Krieg zwischen zwei Supermächten verursacht. Die Ladung des chinesischen Schiffes wurde von einer KI_Systemen fälschlicherweise als Elemente für den Bau einer nuklearen Bombe eingestuft. Die US-Armee geriet in Panik und bereitete sich auf eine militärische Operation vor.
Kurz vor dem Angriff, während sich alle Beteiligten vorbereiteten und auf den Befehl warteten, wurde die Einschätzung noch einmal überprüft. Dabei wurde erkannt, dass das vermutete Schiff doch keine Bestandteile für Atombomben transportierte. Die ursprüngliche Einschätzung war auf die Analyse eines KI-Chatbots zurückzuführen und erwies sich als falsch. Dieser Fehler hätte beinahe einen Krieg und Fläschenbrabd verursacht.
Die KI nutzte sowohl öffentlich zugängliche als auch geheime Daten, um zu dieser falschen Einschätzung zu gelangen. Das US Special Operations Command Pacific und das Pentagon reagierten auf eine Anfrage nicht.
Die US-Armee nutzt bereits seit Langem KI. In letzter Zeit wird deren Einsatz jedoch zunehmend gefördert. Bereits im Jänner beschrieb der amtierende Kriegsminister Peter Hegseth dies in der „Artificial Intelligence Acceleration Strategy“ folgendermaßen: „Wir werden Experimente freisetzen, bürokratische Hürden beseitigen, unsere Investitionen fokussieren und den Ausführungsansatz demonstrieren, der nötig ist, um sicherzustellen, dass wir in militärischer KI führend sind.“
Die Idee und der Plan dahinter sind, die Nutzung von KI im Militär auszuweiten und gleichzeitig bürokratische Hürden abzubauen. Hegseth beschrieb dies wie folgt: „die Demokratisierung von KI-Experimenten und ‑Transformationen im gesamten Ministerium, indem Amerikas weltweit führende KI-Modelle direkt in die Hände unserer drei Millionen zivilen und militärischen Mitarbeiter auf allen Geheimhaltungsstufen gelegt werden.“
Der Vorfall verdeutlich welche Gefahren die neuen Technologien in den falschen Händen zu den falschen Zwecken mit sich bringen. Man kann Algorithmen und Maschinen nicht die Verantwortung für Krieg und Frieden übertragen, sie können soziale und ökonomische Konflikte und Problem nicht lösen.
Quelle: CNN/Die Presse
