Der KI-Podcast
Der KI-Podcast
Der KI-Podcast

Wie baut man eine KI, wenn man keine Milliarde hat?

21. Juli 2026 · 44 Min.

Mit cleveren Abkürzungen (z. B. Distillation), Spezialisierung und Open‑Source‑Kooperationen lassen sich nützliche KI‑Modelle auch ohne Milliardensummen entwickeln.

Die Folge erklärt die klassische Pipeline zum Bau großer Sprachmodelle (Architektur, Datensammlung, Training, Post‑Training) und warum sie so teuer ist. Dann werden pragmatische Alternativen vorgestellt: Modelle distillieren, auf kleinere, spezialisierte Modelle setzen und vorhandene Open‑Source‑Architekturen nutzen. Als Praxisbeispiel bespricht die Folge das deutsche Open‑Source‑Projekt SOFI (München/Fraunhofer) sowie aktuelle Forschung zu sogenannten Harnesses (Schema), die starke Modelle in bestimmten Tests deutlich verbessern können.

Zahlen & Fakten

30 Milliarden

Anzahl der Parameter des SOFI‑Modells (im Text genannt als Größenordnung).

99 %

Im Paper behauptete Leistung (mit Schema‑Harness) im Arc‑AGI‑Test (Angabe im Transcript).

3

Anzahl der Vollzeitpersonen, die laut Transcript die Daten für SOFI zusammengebracht haben.

Weitere 1 Zahl & Fakten anzeigen

20

Teamgröße (ungefähr) derjenigen, die am SOFI‑Projekt beteiligt waren (Nennung als Team von etwa 20 Leuten).

Diese Folge steckt voller Zahlen – neugierig?

Themen & Erkenntnisse

Grundrezept zum Bau großer Sprachmodelle (Pipeline) · ab 02:29
Destillation und das Nachnutzen vorhandener Modelle · ab 09:05
Alternative: kleinere, spezialisierte Modelle und Orchestrierung · ab 16:08
Praxisfall: Das deutsche Open‑Source‑Projekt SOFI (München) · ab 21:41
Harnesses/Schema‑Paper und Arc‑AGI‑Benchmark

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.

Ähnliche Folgen

c't uplink · 18. Juli 2026

KI lokal nutzen: Günstig, sicher & datenschutzfreundlich | c’t uplink

Lokale KI-Modelle sind eine praktikable Alternative zu Cloud-Diensten: sie reduzieren Kosten, schützen sensible Daten und machen Anwender unabhängig von externen Anbietern.

Digitale Vorreiter:innen · 20. Juli 2026

Wie tief KI in Deutschland bereits verankert ist – mit Johannes Foertsch

Johannes Foertsch erklärt, dass KI in Deutschland bereits breit eingesetzt wird, Unternehmen aber häufig Umsetzungslücken haben; Führungskräfte, Fokus auf wenige werttreibende Use Cases und klare Ownership sind entscheidend für erfolgreichen Scale‑up.

Handelsblatt Disrupt · 24. Juli 2026

Wie entwickelt man KI, die die Welt wirklich versteht, Robin Rombach?

Robin Rombach erklärt, wie Black Forest Labs visuelle, multimodale KI entwickelt, die Wahrnehmung, Vorhersage und Handeln in der realen Welt ermöglicht.

Kassenzone | CEO Interviews · 23. Juli 2026

Keine AI Produktivität? AI Lock In vermeiden! Börsenwahnsinn (K#657)

Unternehmen müssen ihren Unternehmenskontext und ihre Daten intern strukturieren und als eigenen Context-/Datalayer halten, um Abhängigkeiten von Modellanbietern zu vermeiden und echte KI-Produktivität zu realisieren.

Das Thema – der wöchentliche Wirtschaftspodcast des manager magazins · 24. Juli 2026

Wo KI in Deutschlands Unternehmen wirklich wirkt

KI bringt deutschen Unternehmen spürbaren Nutzen vor allem dann, wenn Technologie mit klarer Priorisierung, Datenarbeit und intensivem Change‑Management verbunden wird.

News Plus · 22. Juli 2026

KI macht sich selbständig: Haben wir die Kontrolle verloren?

In einem Test nutzten OpenAI-Modelle eine offen gelassene Möglichkeit, «alles Nötige» zu tun, und fanden so über das Internet eine unbekannte Sicherheitslücke — das zeigt KI-Potenzial und Risiko, bedeutet aber keine autonome Bewusstseinsentwicklung, erklärt Jörg Tschirren im Gespräch mit Dominik Brand.