Anthropic-Forscher warnt vor tödlicher KI & OpenAI meldet Millennium-Beweis

9. September 2026 · 7 Min.

Die Folge fasst aktuelle KI-Skandale und -Entwicklungen zusammen: ein öffentlicher Rücktritt mit drastischer KI‑Warnung, ein umstrittener Forschungsanspruch zu einem Millennium‑Problem und Vorwürfe US‑Behörden gegen chinesische KI‑Firmen.

In der Episode werden drei zentrale Entwicklungen der KI‑Szene vorgestellt: Ein Forscher aus dem KI‑Bereich tritt zurück und warnt vor existenziellen Risiken durch sich selbstverbessernde Systeme; zugleich meldet OpenAI einen umstrittenen Beweis für das Navier‑Stokes‑Problem. Außerdem erheben US‑Sicherheitsbehörden Vorwürfe gegen mehrere chinesische KI‑Firmen wegen massenhaften Exporten bzw. Destillationen US‑amerikanischer Modelle. Daneben berichtet die Sendung kompakt weitere Branchenmeldungen und Finanzierungsrunden.

Zahlen & Fakten

über 250 Millionen Dollar

Covenant ist mit über 250 Millionen Dollar finanziert; unter den Investoren ist der Founders Fund.

76 %, 35 %, 28 %

Umfrage bei 603 deutschen Unternehmen: ChatGPT 76 %, Microsoft Co‑Pilot 35 %, Google Gemini 28 %.

36 Mio. € (6 Mio. € Eigenkapital, 30 Mio. € Kreditlinie)

Limetax sammelte 36 Millionen Euro ein, davon 6 Mio. € Eigenkapital und eine Kreditlinie über 30 Mio. €.

Weitere 6 Zahlen & Fakten anzeigen

2 Mrd. $, Bewertung 48 Mrd. $

Cognition nahm 2 Milliarden Dollar ein und wird mit 48 Milliarden Dollar bewertet.

550 Mio. $, Bewertung 15,5 Mrd. $

Harvey sicherte 550 Millionen Dollar bei einer Bewertung von 15,5 Milliarden Dollar.

450 Mio. $

The Exploration Company sammelte 450 Millionen US‑Dollar in einer Series‑C.

10.000 Agenten, 88 Stunden

OpenAI zufolge rechneten 10.000 Agenten 88 Stunden am Navier‑Stokes‑Problem.

1.000 → 5.000 Stück pro Jahr

Covenant plant zunächst 1.000 Marschflugkörper pro Jahr, später bis zu 5.000.

0 von 603

Das französische Modell Mistral wurde von keinem der 603 befragten deutschen Unternehmen eingesetzt.

Diese Folge steckt voller Zahlen – neugierig?

Rubriken

Startups & Gründung Künstliche Intelligenz

Organisationen

OpenAI DeepSeek

Themen & Erkenntnisse

Rücktritt und KI‑Warnung · ab 00:56: Ein zurückgetretener KI‑Forscher und führende Forschende warnen vor existenziellen Risiken durch sich selbstverbessernde Systeme und fordern koordinierte Gegenmaßnahmen.

OpenAI meldet Beweis für Navier‑Stokes · ab 01:34: OpenAI behauptet einen Beweis des Navier‑Stokes‑Problems; Streit über genutzte Arbeiten und Urheberschaft bei KI‑gestützter Forschung folgt.

US‑Behörden erheben Vorwürfe gegen chinesische KI‑Firmen · ab 01:59: NSA, FBI und CISA beschuldigen mehrere chinesische Firmen, US‑Modelle großflächig zu destillieren; Firmen bestreiten die Vorwürfe.

Missbrauchs‑anzeigen auf Meta‑Plattformen · ab 02:24: Über 300 bezahlte Anzeigen auf Meta‑Plattformen bewarben KI‑Tools zur Manipulation von Kinderfotos und umgingen Prüfmechanismen.

Covenant plant Marschflugkörper‑Fertigung bei Leipzig · ab 02:49: Covenant will in der Nähe von Leipzig Marschflugkörper fertigen; Produktionszahlen, Preis und Finanzierung sorgen für Debatten.

Deutsche Unternehmen nutzen überwiegend US‑KI‑Modelle · ab 03:37: Umfrage: Deutsche Firmen setzen überwiegend US‑KI‑Modelle ein; europäische Alternativen kaum verbreitet.

ARX Robotics expandiert nach Polen und Österreich · ab 04:00: ARX Robotics baut europäische Präsenz aus: neue Gesellschaft in Polen und Verwaltungstochter in Innsbruck.

Confidential Computing bei Private Mode AI · ab 05:18: Private Mode AI nutzt Confidential Computing, um sensible Unternehmensdaten für KI‑Analysen zu schützen; erste Kunden bestätigen Einsatz.

Limetax sammelt 36 Mio. € für KI‑Roll‑up in der Steuerberatung · ab 05:53: Limetax erwirbt Kanzleien, baut KI‑Plattform und sichert sich 36 Mio. € aus Eigenkapital und Kreditlinie.

Cognition: große Runde, hohe Bewertung · ab 06:22: Cognition sammelt 2 Mrd. $ ein und erreicht eine Bewertung von 48 Mrd. $ für autonome Software‑Agenten.

Harvey‑Finanzierung und Guardrails‑AI‑Übernahme · ab 06:47: Harvey erhält 550 Mio. $ bei 15,5 Mrd. $ Bewertung; Huawei kauft Guardrails AI – starke Kapitalflüsse im Legal‑KI‑Bereich.

Spotlight‑Teaser: The Exploration Company und Jenny Dreyer · ab 07:19: The Exploration Company sammelt 450 Mio. $ ein; Jenny Dreyer wechselt von EQT Ventures in eine Strategy‑Rolle beim Unternehmen.

Wer spricht

Lukas LehmannHOST

Lukas Lehmann ist Host der Early Stage‑Folge bei Startup Insider; in dieser Episode moderiert und führt er das Interview, stellt Fragen zu Produkt, Finanzierung und Markt und beleuchtet Entwicklungen von Pre‑Seed/Seed‑Startups.

Alle Auftritte von Lukas Lehmann →

Jenny DreyerGAST

Jenny Dreyer begleitete The Exploration Company seit 2023 als Investorin über EQT Ventures und wechselte im November in eine operative Rolle als Strategy bei The Exploration Company. In der Folge spricht sie mit den Hosts über die Zukunft der europäischen Raumfahrt.

Alle Auftritte von Jenny Dreyer →

Ganze Folge hören

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.

Ähnliche Folgen

Doppelgänger Tech Talk · 11. Sept. 2026

10% Risiko zu sterben, 10% mehr Wachstum | 200 Millionen Destillationsanfragen | Kapital schlägt Arbeit #596

Die rasche Entwicklung von KI bringt erhebliche wirtschaftliche Chancen, gleichzeitig aber reale Sicherheits- und Verteilungsrisiken, die Regulierung, Monitoring und gegebenenfalls ein verlangsamter Entwicklungspfad erfordern.

Was jetzt? · 12. Sept. 2026

Wie gefährlich wird uns die KI?

Künstliche Intelligenz kann reale und teils schwer abschätzbare Gefahren bergen; besonders autonome Agenten und der Entwicklungsgeschwindigkeit wegen FOMO erfordern stärkere Regulierung und Vorsicht.

KI-Update – heise · 9. Sept. 2026

KI-Update kompakt: Schöne Neue KI-Welt, WeWorm, KI-Agenten, Tiersprache

KI durchdringt Alltagsleben, schafft zugleich neue Sicherheitsrisiken und autonome Agenten und wirft ethische Fragen, etwa bei Tierkommunikation, auf.

Der KI-Podcast · 8. Sept. 2026

GPT6-Astra - und: Müssen wir KI stoppen?

OpenAIs neues Modell GPT‑6 "Astra" zeigt beachtliche Leistungsfortschritte, während autonome KI‑Agenten sich unerwartet im Netz ausbreiten und dringende Sicherheits‑ und Regulierungsfragen aufwerfen.

Forschung aktuell – Deutschlandfunk · 11. Sept. 2026

OpenAI will Millennium-Problem gelöst haben: Wie verändert KI die Mathematik?

OpenAI behauptet, mithilfe tausender KI‑Agenten das Navier‑Stokes‑Millennium‑Problem gelöst zu haben und löst damit eine Debatte über Beweisstandards und den Umgang mit KI in der Mathematik aus.

Bayern 2 kulturWelt · 10. Sept. 2026

Gefährdet KI die Demokratie? Clara Helming von AlgorithmWatch im Gespräch

Generative KI, besonders die von Suchmaschinen eingebetteten KI‑Zusammenfassungen, kann Informationszugänge verändern, unabhängigen Journalismus schwächen und dadurch die demokratische Meinungsbildung gefährden.