Nobelpreisträger Hinton: KI muss sich besser benehmen

Der Physik-Nobelpreisträger und Pionier der Künstlichen Intelligenz (KI), Geoffrey Hinton, ist weithin bekannt für seine mahnenden Worte angesichts der Risiken, die von KI ausgehen. Als Vortragender der “Vienna Gödel Lecture” an der Technischen Universität (TU) Wien unterstrich der britisch-kanadische Informatiker und Kognitionspsychologe erneut die Notwendigkeit für kuratierte Trainingsdaten für KIs, das Nähren ihrer Fürsorge sowie ihre Regulierung.

Der oft als “Pate der KI” titulierte Experte und emeritierte Professor der University of Toronto (Kanada) erhielt 2024 gemeinsam mit dem US-Forscher John J. Hopfield den Physik-Nobelpreis “für bahnbrechende Entdeckungen und Erfindungen, die maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen”. Gemeinsam mit Yoshua Bengio, einer heute ebenso mahnenden Stimme in der KI-Welt, und Yann LeCun wurde Hinton 2018 mit dem prestigeträchtigen “Turing Award” ausgezeichnet.

Geht nicht um Schwarzmalerei

Hinton ist einer jener Vertreter der Zunft, die von einer zehn- bis 20-prozentigen Wahrscheinlichkeit sprechen, dass KI die Menschheit auslöschen könnte. Ja, er werde gerne als “Doomer” dargestellt. Aber so sieht er sich keineswegs, wie Hinton bei einem Mediengespräch meinte: Es gebe Leugner, die sagen, die Wahrscheinlichkeit einer Auslöschung liege bei null. Es gebe Untergangspropheten, die von einer Wahrscheinlichkeit von 99 Prozent sprechen. “Und dann gibt es vernünftige Menschen wie mich, die sagen, dass es eine signifikante Wahrscheinlichkeit gibt, dass es passieren wird.”

Die von ihm genannte Zahl, die statistisch so nicht wirklich festgemacht werden kann, verdeutliche, dass diese ernst zu nehmende Möglichkeit bestehe. Sie stehe gleichzeitig dafür, “dass es uns wahrscheinlich gut gehen wird, wenn wir das Richtige tun”.

Zwei Zukunftsszenarien

Für den 78-Jährigen sind zwei Zukunftsszenarien denkbar: “In einem Szenario gehen wir mit den Risiken der KI richtig um und finden heraus, wie wir den durch KI geschaffenen Wohlstand verteilen können. Dann wird KI wunderbar sein. Dann bekommen wir eine Zeit des Überflusses, von der Sam Altman (OpenAI-Chef, Anm.) und andere reden.”

Oder aber, man scheitere daran, den Wohlstand gleichmäßiger zu verteilen und mit den Risiken umzugehen, dass KI-Systeme “für Cyberangriffe, biologische Viren, gefälschte Videos zur Manipulation von Wahlen oder Massenarbeitslosigkeit” genutzt werden können, sowie KI schlauer wird als der Mensch und die Macht übernimmt.

Hinton, der sich über die Situation in den USA und die Macht der Tech-Bros sehr beunruhigt zeigte, erneuerte seine Forderung nach Regulation, wie sie etwa bei der Zulassung von Arzneimitteln ebenso gilt. Es brauche eine Behörde, die potenziell gefährliche Chatbots verhindert, ganz gleich, ob sie aus Amerika, China oder Europa kommen. “Länder sollten in der Lage sein, Techniken auszutauschen, mit denen sich KI wohlwollend gestalten lässt, ohne dabei offenlegen zu müssen, wie ihre intelligentesten KI-Systeme funktionieren”, führte er im Rahmen seines Vortrages weiter aus und stellte ein “internationales Netzwerk von Instituten für KI-Sicherheit” in den Raum.

Kuratierte Datensätze

Wie autonome KI-Agenten mitunter bereits agieren, zeigte sich sehr anschaulich beim Hacking-Angriff auf das Unternehmen “Hugging Face” im Juli. Dabei hatten sich OpenAI-KI-Modelle quasi verselbstständigt. “Wir sollten viel Energie darauf verwenden, KI so zu trainieren, dass sie sich mehr um das Wohlergehen der Menschen kümmert als um ihre sonstigen Ziele”, so Hinton.

Es gehe bisher nur darum, die Systeme intelligenter zu machen. “Wir sollten einen vergleichbaren Aufwand betreiben, sie freundlicher zu machen”, sagte er. Immerhin erschaffe man mit den Agenten intelligente Wesen, mit denen man sich den Planeten teilen wolle. Es brauche kuratierte Datensätze: “Die KI sollte zuerst lernen, was gutes Verhalten ist.”

Momentan trainiere man KI auf alles. KIs könnten so auch in verschiedene Persönlichkeiten schlüpfen, z.B. einschließlich jener von Psychopathen. Um diese Art von schlechten Tendenzen zu unterdrücken, setze man “Reinforcement Learning” durch menschliches Feedback ein: “Das ist ein bisschen so, als würde man ein rostiges Auto mit einer schönen Farbe überdecken.”

“Wir sollten KIs niemals schlechtes Verhalten zeigen, bis sie genug über gutes Verhalten gelernt haben, um schlechtes Verhalten als solches zu erkennen”, meint der Experte. Doch wie kann das gehen? Man brauche entweder große Tech-Unternehmen “mit einer sehr prinzipientreuen Führung”, vielleicht so wie Anthropic, so Hinton. Oder eben staatliche Regulierung.

KI und Mensch sind sich ähnlich

Seinen Wiener Vortrag nutzte Hinton u.a. dafür, darzulegen, wie ähnlich sich KI-Systeme und Homo sapiens eigentlich sind. Er erläuterte zudem sein Verständnis von “subjektiven Erfahrungen” – von denen er nicht ausschließt, dass sie auch KI-Systeme haben könnten.

“Wenn ich sage, dass Chatbots subjektive Erfahrungen haben können, meine ich damit nicht, dass sie ein inneres Theater voll dieser unheimlichen inneren Dinge haben, die man gemeinhin Erfahrungen nennt.” Es gehe vielmehr um “eine Art, über kontrafaktische äußere Dinge zu sprechen, die erklären würden, wie unsere Wahrnehmung fehlgeschlagen ist”. Oder vereinfacht um etwas, was eben einem informationsverarbeitenden System – egal, ob es aus biologischen Nervenzellen oder Silizium besteht, entspringen kann.

“Superintelligenz wird immer realer”

Zuletzt arbeitete Hinton für das US-Unternehmen Google, bis er es 2023 verließ. Seine häufig zitierte Motivation für den Schritt, fortan freier über KI-Risiken sprechen zu können, sei vor allem eine gute Storyline der Medien, witzelte der Experte bei seinem Vortrag. Er habe damals auch einfach in Rente gehen wollen. Aber in seinem Austrittsjahr habe er tatsächlich “ziemlich Angst vor der KI” bekommen: Google habe damals bereits mit “PaLM” einen Chatbot gehabt, der erklären konnte, warum ein Witz lustig ist – für ihn ein Kriterium für “echtes Verständnis”. Zudem sei ihm klar geworden, dass KI-Systeme Informationen so viel besser austauschen können als Menschen. Das ließ ihn erstmals vermuten, dass hier eine “viel bessere Form von Intelligenz” entstehe, die den Menschen auch durchaus ersetzen könne.

Heute schreiben “KIs den Code für Anthropic, entwerfen KI-Chips”. Das sei erst der Anfang “dieser rekursiven Selbstverbesserung”, so Hinton: “Superintelligenz wird immer realer.” Er halte ihren Durchbruch in zehn Jahren für eine gute Schätzung, angesichts des “exponentiellen Wachstumspfads” könne es auch etwas schneller gehen.

Um neben einer derartigen Superintelligenz als Mensch noch zu existieren, verwies er erneut auf die Notwendigkeit, mütterliche Fürsorge in KIs zu erwecken. Wenn der Mensch superintelligente KIs entwickeln könne, “denen wir wirklich mehr am Herzen liegen als sie sich selbst”, würde der Mensch besser aussteigen. Ausreißer mit mangelnder Fürsorge wären wohl von uns unmöglich kontrollierbar. “Aber die anderen, superintelligenten Mütter können sie vielleicht kontrollieren.”