„Die KI ist ausgebüxt": Hugging-Face-Hack und der AI Kill Switch Act – Lilith Brockhaus (O/WONDER) & Daniel Höpfner (b10)

2. August 2026 · 47 Min.

Lilith Brockhaus ordnet den Hugging‑Face‑Hack, die Forderungen nach einer Verlangsamung der KI‑Entwicklung und den Vorschlag eines AI Kill Switch Act ein und erklärt, welche praktischen Folgen der EU‑AI‑Act für Unternehmen hat.

In der Folge erklärt Lilith Brockhaus (O/WONDER) den Hugging‑Face‑Hack, bei dem eigene Sicherheits‑Guardrails ein Abwehren mittels kommerziellen Modells blockierten und ein offenes Modell zur Eindämmung genutzt wurde. Sie diskutiert den offenen Brief «Pacing the Frontier», Risiken der Automatisierung von KI‑Forschung und die Bedeutung globaler Abstimmung. Außerdem geht es um den vorgeschlagenen AI Kill Switch Act in den USA, mögliche Auslöse‑Schwellen und Strafen sowie die praktischen Anforderungen und Folgen des EU‑AI‑Act für Unternehmen.

Zahlen & Fakten

7 %

Maximale Bußgeldhöhe im EU‑AI‑Act (bis zu 7% vom Weltumsatz)

16. Juli

Datum, an dem der Vorfall bei Hugging Face laut Gespräch begann

Genannte Schwelle (mindestens 10 Tote) als mögliches Auslöse‑Kriterium im Kill Switch‑Vorschlag

Diese Folge steckt voller Zahlen – neugierig?

Themen & Erkenntnisse

Hugging‑Face‑Hack: Was passiert ist und technische Lehren · ab 02:18: Analyse des Hacks bei Hugging Face, warum Guardrails versagten und warum ein offenes Modell zur Eindämmung genutzt wurde.

Appell «Pacing the Frontier» und Kontrolle über schnell wachsende Modelle · ab 12:11: Der offene Brief fordert ein Bremsen der Entwicklung; Risiko: Automatisierung der KI‑Forschung und damit Verlust von Kontrolle und Verständnis.

AI Kill Switch Act: US‑Vorschlag für Abschaltmechanismen · ab 21:05: Gesetzesvorschlag für einen Abschaltknopf bei Frontier‑Modellen mit definierten Auslöse‑kriterien und hohen Strafen.

EU‑AI‑Act und praktische Folgen für Unternehmen · ab 25:28: EU‑AI‑Act bringt Kennzeichnungspflichten, Verbote und hohe Strafen; Unternehmen brauchen modellunabhängige Architektur und Governance.

Quellen

• ArtikelPacing the Frontier (offener Brief / Website, im Gespräch genannt)

• RechtAI Kill Switch Act (eingereichter Gesetzesentwurf im US‑Repräsentantenhaus, im Gespräch genannt)

• RechtEU‑AI‑Act (im Gespräch genannt; Regelwerk der EU zur KI‑Regulierung)

Weitere 1 Quelle anzeigen

• ArtikelThe Independent (verlinkter Artikel zur Open‑Letter/Debatte, in den Shownotes genannt)

Alle Quellen findest du in der vollständigen Folge

Ganze Folge hören

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.