Mit cleveren Abkürzungen (z. B. Distillation), Spezialisierung und Open‑Source‑Kooperationen lassen sich nützliche KI‑Modelle auch ohne Milliardensummen entwickeln.
Die Folge erklärt die klassische Pipeline zum Bau großer Sprachmodelle (Architektur, Datensammlung, Training, Post‑Training) und warum sie so teuer ist. Dann werden pragmatische Alternativen vorgestellt: Modelle distillieren, auf kleinere, spezialisierte Modelle setzen und vorhandene Open‑Source‑Architekturen nutzen. Als Praxisbeispiel bespricht die Folge das deutsche Open‑Source‑Projekt SOFI (München/Fraunhofer) sowie aktuelle Forschung zu sogenannten Harnesses (Schema), die starke Modelle in bestimmten Tests deutlich verbessern können.
Rubriken
Themen & Erkenntnisse
KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.