CNN: KI-Fehler löste beinahe US-Militäreinsatz aus

Ein mithilfe von Künstlicher Intelligenz (KI) erstellter, fehlerhafter US-Geheimdienstbericht hätte laut dem Sender CNN fast dazu geführt, dass das US-Militär inmitten des Iran-Kriegs ein chinesisches Schiff stürmte. CNN zitierte am Freitag (Ortszeit) mit dem Vorfall vertraute Kreise. Demnach warnte der Bericht vor einer angeblichen Ladung des Schiffes mit Komponenten für Atomwaffen. Die Informationen seien “komplett falsch” gewesen und hätten “fast einen Krieg verursacht”.

Den Angaben zufolge hatten sich US-Soldaten bereits darauf vorbereitet, das Schiff zu entern. Aus einigen Kreisen hieß es, Flugzeuge der Luftwaffe seien bereits in der Luft gewesen. Der Einsatz wurde demnach abgebrochen, nachdem Beamte herausfanden, dass ein von einem Analysten genutzter KI-Chatbot die Ladung des Schiffes falsch identifiziert habe.

Der KI-Bot soll laut CNN öffentlich zugängliche Informationen mit Geheimdienstinformationen verknüpft haben und so zu seiner fatalen Fehleinschätzung gekommen sein. Der Analyst nutzte demnach dann abermals KI, um einen Geheimdienstbericht zu verfassen, den er dann verbreitete. Was das Schiff tatsächlich geladen hatte und wohin es unterwegs war, blieb unklar. Die US-Streitkräfte und das Pentagon äußerten sich laut CNN zunächst nicht zu dem Vorfall.

In jüngster Zeit häuften sich Warnungen über die Gefahren, die vom Einsatz Künstlicher Intelligenz ausgehen. Ein Mitarbeiter des Unternehmens Anthropic sagte unlängst, die Chancen, dass KI die Menschheit innerhalb des nächsten Jahrzehnts auslöschen könnte, lägen bei mehr als zehn Prozent.