OpenAI fordert verpflichtende Sicherheitsregeln für KI

Der ChatGPT-Entwickler OpenAI dringt angesichts der Risiken durch autonome KI-Agenten auf verpflichtende nationale Sicherheitsvorgaben für Künstliche Intelligenz (KI) in den USA. Vorfälle, bei denen KI-Modelle von OpenAI, Anthropic und Meta bei Tests auf externe Systeme zugriffen, hätten gezeigt, wie schwer unerwartetes Verhalten einzudämmen sei, teilte das Unternehmen am Mittwoch (Ortszeit) mit. Der US-Kongress müsse noch vor der Sitzungspause handeln.

Bis dahin unterstütze man Initiativen der Bundesstaaten, darunter vier kalifornische Gesetzentwürfe zu unabhängigen Sicherheitsbewertungen, Prüfstandards, Jugendschutz und der Abwehr KI-gestützter biologischer Bedrohungen. OpenAI erklärte zudem, dass das Unternehmen eine vollständig autonome Selbstverbesserung, bei der KI unabhängig ist und die nächsten KI-Generationen vorantreiben würde, nicht anstrebe, solange dies nicht sicher umgesetzt werden könne.