US-Techfirmen gründen nach KI-Hackerangriff Allianz

Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff durch Künstliche Intelligenz (KI) haben mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz gegründet. Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, hieß es am Montag in einer Erklärung der Unternehmen. Sie setzen zur Problemlösung ebenfalls auf KI und warnen die Politik zugleich vor einer stärkeren Regulierung.

Konkret wollen die Unternehmen sogenannte Open-Source-Modelle Künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln.

OpenAI-Modell hackte eigenständig eine Programmierplattform

Bei dem Aufsehen erregenden Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Das heizte Befürchtungen an, besonders fortgeschrittene KI-Modelle seien unkontrollierbar.

An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt. Zu den Gründungsmitgliedern zählen weiters Cisco, Dell und CrowdStrike.

Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang “beispiellos” genannt.

Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.