KI-Notbremse: Warum warnen Entwickler und Förderer von Künstlicher Intelligenz vor ihrer eigenen Technologie?

14. September 2026 · 9 Min.

Christian Schiffer erläutert, dass Entwickler und Förderer von KI zunehmend vor ernsten Risiken warnen und deshalb eine Art Notbremse für besonders leistungsfähige Modelle fordern.

Moderatorin Gabi Gerlach spricht mit dem BR-Netzweltexperten Christian Schiffer über die wachsende Sorge in der Tech-Branche. Schiffer erklärt, dass Sicherheitstests und öffentliche Warnungen von Forschern die Debatte befeuern. Es geht um unerwartetes Verhalten von KI-Agenten, mögliche Angriffe auf Infrastruktur und Forderungen nach verlangsamter Entwicklung sowie stärkeren Kontrollen. Auch geopolitische Aspekte und praktische Gegenmaßnahmen werden thematisiert.

Rubriken

Künstliche Intelligenz

Organisationen

Anthropic

Themen & Erkenntnisse

Öffentliche Warnungen und Rücktritte in der Branche · ab 00:17

Sicherheitstests und ungeplantes Agentenverhalten · ab 01:48

Forderungen nach einer Notbremse und Botnetz-Risiko · ab 02:28

Geopolitik: Wettrennen USA–China und Exportkontrollen · ab 04:13

Ausblick: Einschätzung zu Risiken und Folgen für Forschung · ab 06:35

Wer spricht

Gabi GerlachHOST

Gabi Gerlach eröffnet und moderiert die BR24- Folge "Thema des Tages"; sie führt in das Thema Pflegekosten ein und leitet zu Beiträgen und Interviews über. Sie ist als Moderatorin namentlich in der Anmoderation der Episode genannt.

Alle Auftritte von Gabi Gerlach →

Christian SchifferGAST

Journalist und Autor der Reportage; in der Folge ist er als Fragesteller und Reporter präsent und hat die Recherchen zur Nutzung und Wirkung von Chatbots begleitet und zusammengefasst.

Alle Auftritte von Christian Schiffer →

Ganze Folge hören

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.