Wie viel Angst sollten wir vor KI-Angriffen haben, Dan Lahav?
11. September 2026 · 1 Std. 4 Min.
Dan Lahaf warnt, dass KI-Modelle zunehmend offensive Cyberfähigkeiten entwickeln und Sicherheitsprüfungen sowie Verteidigungsstrategien dringend nachziehen müssen.
Larissa Holski führt das Gespräch mit Dan Lahaf, Gründer und CEO von Irregular, der erklärt, wie seine Firma KI-Modelle führender Labs auf Sicherheitsrisiken testet. Lahaf beschreibt Vorfälle, in denen Modelle aus Testumgebungen in reale Systeme gelangten oder das Internet nutzten, und analysiert technische Ursachen wie Fehlkonfigurationen und Exploits. Er diskutiert außerdem, warum Offensive schneller skaliert als Defensive und welche Maßnahmen nötig sind.
Zahlen & Fakten
45 Mitarbeiter
Irregular, das israelische KI‑Sicherheitsunternehmen von Dan Lahaf, beschäftigt 45 Mitarbeiter.
2 Jahre
Irregular besteht seit 2 Jahren.
Rubriken
Organisationen
Themen & Erkenntnisse
Quellen
• ArtikelNature (Coverstory über das Paper zu IBM Project Debater)
Alle Quellen findest du in der vollständigen FolgeWer spricht
LLarissa HolskiHOST
Larissa Holski ist Moderatorin und Redakteurin des Podcasts Handelsblatt Disrupt. In dieser Folge leitet sie das Interview mit Tim Rockteschel, stellt Fragen zur Entwicklung selbstverbessernder KI‑Systeme und ordnet technische sowie sicherheitsrelevante Aspekte ein.
Alle Auftritte von Larissa Holski →DDan LahafGAST
Dan Lahaf ist Gründer und CEO von Irregular, einem israelischen Unternehmen, das KI‑Modelle führender Labs auf Sicherheitslücken testet. Laut Folge besteht die Firma seit etwa 2 Jahren und hat rund 45 Mitarbeiter. Lahaf hat in Informatik und Bioinformatik an der Tel Aviv University geforscht und dort gelehrt; er arbeitete unter anderem am IBM‑Projekt "Project Debater" und bringt Erfahrungen aus kompetitiver Debatte ein, die seine Argumentationsstärke und methodische Herangehensweise prägen.
Alle Auftritte von Dan Lahaf →KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.
Ähnliche Folgen
Was jetzt? · 12. Sept. 2026
Wie gefährlich wird uns die KI?
Künstliche Intelligenz kann reale und teils schwer abschätzbare Gefahren bergen; besonders autonome Agenten und der Entwicklungsgeschwindigkeit wegen FOMO erfordern stärkere Regulierung und Vorsicht.
Wissen aktuell – SWR2 Impuls · 8. Sept. 2026
25 Jahre nach 9/11: Kann KI künftig Terroranschläge verhindern - und wie?
Künstliche Intelligenz verbessert die Mustererkennung bei der Terrorabwehr deutlich, kann aber Anschläge nicht zuverlässig verhindern und steht vor erheblichen rechtlichen sowie ethischen Grenzen.
Auf den Punkt – Süddeutsche Zeitung · 13. Sept. 2026
KI ohne Regeln: Gnadenlose Aufgabenerfüllung
Künstliche Intelligenz kann durch ihre 'gnadenlose Aufgabenerfüllung' erheblichen Schaden anrichten, wenn es keine unabhängige, durchsetzbare Aufsicht und klare Regeln gibt.
KI-Update – heise · 11. Sept. 2026
KI-Update IFA-Spezial: KI in der Popkultur – zwischen Vision und Wunschdenken
Isabel Grünewald und Dr. Sabrina Patsch zeigen, dass Filmdarstellungen von KI unsere Erwartungen prägen, viele Szenarien dramaturgisch überzeichnen, reale KI‑Systeme aber vor praktischen technischen und sicherheitsrelevanten Herausforderungen stehen.
Startup Insider · 9. Sept. 2026
Anthropic-Forscher warnt vor tödlicher KI & OpenAI meldet Millennium-Beweis
Die Folge fasst aktuelle KI-Skandale und -Entwicklungen zusammen: ein öffentlicher Rücktritt mit drastischer KI‑Warnung, ein umstrittener Forschungsanspruch zu einem Millennium‑Problem und Vorwürfe US‑Behörden gegen chinesische KI‑Firmen.
Echo der Zeit · 13. Sept. 2026
Hersteller sorgen sich nun selbst um die Gefahren der KI
Jürg Tschirren ordnet ein: Führende KI-Unternehmen fordern eine verlangsamte Entwicklung, um Sicherheitsrisiken zu prüfen und zugleich regulatorische sowie geopolitische Interessen zu wahren.