„Die KI ist ausgebüxt": Hugging-Face-Hack und der AI Kill Switch Act – Lilith Brockhaus (O/WONDER) & Daniel Höpfner (b10)

2. August 2026 · 47 Min.

Lilith Brockhaus ordnet den Hugging‑Face‑Hack, die Forderungen nach einer Verlangsamung der KI‑Entwicklung und den Vorschlag eines AI Kill Switch Act ein und erklärt, welche praktischen Folgen der EU‑AI‑Act für Unternehmen hat.

In der Folge erklärt Lilith Brockhaus (O/WONDER) den Hugging‑Face‑Hack, bei dem eigene Sicherheits‑Guardrails ein Abwehren mittels kommerziellen Modells blockierten und ein offenes Modell zur Eindämmung genutzt wurde. Sie diskutiert den offenen Brief «Pacing the Frontier», Risiken der Automatisierung von KI‑Forschung und die Bedeutung globaler Abstimmung. Außerdem geht es um den vorgeschlagenen AI Kill Switch Act in den USA, mögliche Auslöse‑Schwellen und Strafen sowie die praktischen Anforderungen und Folgen des EU‑AI‑Act für Unternehmen.

Rubriken

Künstliche Intelligenz

Organisationen

LinkedIn OpenAI Anthropic Amazon Spotify Google Apple

Themen & Erkenntnisse

Hugging‑Face‑Hack: Was passiert ist und technische Lehren · ab 02:18: Analyse des Hacks bei Hugging Face, warum Guardrails versagten und warum ein offenes Modell zur Eindämmung genutzt wurde.

Appell «Pacing the Frontier» und Kontrolle über schnell wachsende Modelle · ab 12:11: Der offene Brief fordert ein Bremsen der Entwicklung; Risiko: Automatisierung der KI‑Forschung und damit Verlust von Kontrolle und Verständnis.

AI Kill Switch Act: US‑Vorschlag für Abschaltmechanismen · ab 21:05: Gesetzesvorschlag für einen Abschaltknopf bei Frontier‑Modellen mit definierten Auslöse‑kriterien und hohen Strafen.

EU‑AI‑Act und praktische Folgen für Unternehmen · ab 25:28: EU‑AI‑Act bringt Kennzeichnungspflichten, Verbote und hohe Strafen; Unternehmen brauchen modellunabhängige Architektur und Governance.

Ganze Folge hören

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.