Künstliche Intelligenz zwischen Fortschritt und Kontrollverlust

Künstliche Intelligenz gilt für viele als nächste industrielle Revolution. Zuletzt wurden die Warnungen vor den Risiken jedoch immer lauter. Die Mahner kommen aber längst nicht mehr nur aus Wissenschaft und Politik, sondern aus den Unternehmen selbst, die die Hochleistungssysteme entwickeln. Vertreter von OpenAI, Anthropic und Google DeepMind sprechen seit Monaten offen darüber, dass die Fähigkeiten neuer Modelle schneller wachsen als die Sicherheitsmechanismen zu ihrer Kontrolle.

Die Sorge betrifft dabei nicht nur bekannte Probleme wie Falschinformationen, Deepfakes oder den Wegfall von Arbeitsplätzen. Mit dem Aufkommen sogenannter KI-Agenten, die selbstständig Aufgaben erledigen, rücken neue Risiken in den Mittelpunkt. Fachleute warnen davor, dass Systeme bestimmte Ziele verfolgen, Anweisungen missverstehen, ihre Handlungen verschleiern oder unerlaubt auf externe Systeme zugreifen könnten. Der jüngste Auslöser der Debatte kommt ausgerechnet von OpenAI selbst. Das Unternehmen stoppte Ende September die Veröffentlichung seines neuen Modells GPT ‑ 6.1 Astra, nachdem interne Sicherheitstests gezeigt hatten, dass das System zu eigenmächtigem Verhalten neigte und Sicherheitsanforderungen nicht erfüllte. Auch das Training besonders fortschrittlicher Modelle wurde vorübergehend ausgesetzt, bis zusätzliche Schutzmaßnahmen verfügbar sind.

Die Kapitalmärkte reagieren bislang erstaunlich nüchtern auf die Warnungen. Anleger scheinen in den Sicherheitsproblemen vor allem ein Zeichen dafür zu sehen, dass die Technologie immer leistungsfähiger wird. Die Aktien vieler KI-Unternehmen werden daher weiterhin von enormen Wachstumsfantasien getrieben. Investoren scheinen davon auszugehen, dass Sicherheitsprobleme zwar den Entwicklungsprozess verlangsamen, die langfristigen Geschäftsaussichten der Branche aber nicht grundsätzlich gefährden. Zudem dürften die meisten Anleger die Sicherheitsbedenken nicht als Schwäche werten, sondern als Zeichen verantwortungsvoller Unternehmensführung.

Wie ernst die Gefahr tatsächlich ist, darüber gehen die Meinungen auseinander. Viele KI-Forscher halten Szenarien einer unmittelbar „außer Kontrolle geratenen Superintelligenz“ für übertrieben. Gleichzeitig wächst aber die Sorge, dass hochautonome Systeme wirtschaftliche Schäden verursachen, kritische Infrastrukturen angreifen oder für Cyberkriminalität missbraucht werden könnten. So verweist auch der internationale AI Safety Report schon heute auf reale Risiken durch Missbrauch und Fehlfunktionen.