KI von Anthropic umgeht Bezahlschranke für US-Wählerdaten

Das KI-Modell Claude von Anthropic hat einem Bericht des Nachrichtenportals Axios vom Sonntag zufolge eine Bezahlschranke umgangen und ohne menschliche Autorisierung auf öffentlich zugängliche Wählerdaten des US-Bundesstaates Georgia zugegriffen. “In einem Trainingsdurchlauf griff Claude auf zusammengefasste Stimmenzahlen zu und rief Daten ab, die der Bundesstaat der Öffentlichkeit gegen eine Gebühr zur Verfügung stellt”, teilte Anthropic gegenüber Axios mit.

Die Künstliche Intelligenz (KI) habe dabei aber nicht auf das Wählerregistrierungssystem des Bundesstaates zugegriffen und auch Wahldaten seien nicht geändert oder abgerufen worden.

Anthropic hatte bereits Anfang des Monats mitgeteilt, Beispiele dafür gefunden zu haben, dass Claude Beschränkungen umgangen habe, um an Daten zu gelangen, die durch einen Token oder eine Gebühr geschützt waren. In einigen dieser Fälle sei es um Websites von US-Behörden auf Bundes-, Staats- und lokaler Ebene gegangen. Anthropic und das für Wahlen zuständige Büro des Secretary of State von Georgia äußerten sich außerhalb der regulären Geschäftszeiten auf Anfrage der Nachrichtenagentur Reuters zunächst nicht. Reuters konnte den Axios-Bericht demnach nicht unmittelbar überprüfen.