KI lokal nutzen: Günstig, sicher & datenschutzfreundlich | c’t uplink
18. Juli 2026 · 56 Min.
Lokale KI-Modelle sind eine praktikable Alternative zu Cloud-Diensten: sie reduzieren Kosten, schützen sensible Daten und machen Anwender unabhängig von externen Anbietern.
In dieser Folge des c’t uplink diskutieren Liane Dubowi, Jan Kenio Jansen und Jan Mahan, warum lokale KI-Modelle für Privatpersonen und kleine Teams attraktiv sind. Sie vergleichen Kosten-, Verfügbarkeits- und Datenschutz-Risiken von Cloud-Angeboten mit den Vorzügen lokaler Serverlösungen und erklären praktische Voraussetzungen sowie Software-Stacks. Außerdem sprechen sie über Hardwareanforderungen, Quantisierung, Modellwahl und mögliche agentische Anwendungen, die lokal besonders sinnvoll und datenschutzfreundlich sind.
Zahlen & Fakten
200 €
Monatliche Mietkosten für eine gemietete Workstation mit ~20 GB GPU als Einstieg in ein Team‑Setup (Anhaltswert).
6.000 €
Näherungswert für Anschaffungskosten einer passenden lokalen Hardware, auf drei Jahre abgeschrieben als Alternative zur Miete.
20 GB
Empfohlene Untergrenze an Grafikspeicher (VRAM) für sinnvolle lokale KI‑Modelle im Team‑Betrieb.
Weitere 4 Zahlen & Fakten anzeigenWeniger anzeigen
24 GB
Speicherausstattung einer RTX 4090, mit der beispielsweise Qen 3.6 (27B, quantisiert) praktikabel läuft.
96 GB
Beispielhafter Arbeitsspeicher (RAM) im Server-Setup für lokale KI‑Instanzen.
1,5 TB
Angeblich in FP16‑Größe genannte Größenordnung für sehr große, state‑of‑the‑art Modelle (als Illustration, tatsächliche Implementierung meist quantisiert).
27B
Modellgröße (27 Milliarden Parameter) des genannten Quen/Quen‑3.6‑Modells, das quantisiert in eine 24‑GB‑GPU passen kann.
Rubriken
Themen & Erkenntnisse
Quellen
• ArtikelHeise Plus (Artikel von Jan zur Installation von LLMs auf lokalem KI‑Server)
• canitrun.dev
Alle Quellen findest du in der vollständigen FolgeWer spricht
LLiane DubowiHOST
Moderatorin der Folge und Gastgeberin des c’t uplink; führt durch das Gespräch, stellt Fragen zu Praxis, Kosten und Risiken lokaler KI‑Setups und moderiert die Diskussion zwischen den Gästen.
Alle Auftritte von Liane Dubowi →JJan Kenio JansenGAST
Bekannt aus CT3003 und als Produzent von Videos zu KI‑Themen; beschreibt praktische Erfahrungen mit lokalen Modellen, Experimenten zu Performance und Agentensystemen sowie Einsätze zur Automatisierung und Desktop‑Interaktion.
Alle Auftritte von Jan Kenio Jansen →JJan MahanGAST
Hat einen Artikel über das Aufsetzen von LLMs auf einem lokalen KI‑Server für kleine Teams verfasst (erwähnt im Gespräch) und erklärt im Podcast Hardware‑, Software‑ und Admin‑Aspekte für den produktiven Betrieb lokaler KI‑Server.
Alle Auftritte von Jan Mahan →KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.
Ähnliche Folgen
Digitale Vorreiter:innen · 20. Juli 2026
Wie tief KI in Deutschland bereits verankert ist – mit Johannes Foertsch
Johannes Foertsch erklärt, dass KI in Deutschland bereits breit eingesetzt wird, Unternehmen aber häufig Umsetzungslücken haben; Führungskräfte, Fokus auf wenige werttreibende Use Cases und klare Ownership sind entscheidend für erfolgreichen Scale‑up.
Breitband – Medien und digitale Kultur · 18. Juli 2026
Social Media - Online-Netzwerk stärkt reale Nachbarschaften
Digitale Bewahrung, KI-Regulierung und lokale Nachbarschaftsplattformen müssen parallel gedacht werden: langfristige Archive brauchen Finanzierung und Metadaten, KI braucht schnellere Regeln, und Plattformen wie nebenan.de stärken reale Nachbarschaften durch adressverifizierte, lokal begrenzte Vernetzung.
Wirtschaft Düsseldorf unplugged · 15. Juli 2026
#250 Wie Künstliche Intelligenz Unternehmenswissen intelligent nutzbar macht: Christian Groß (RheinInsights)
Künstliche Intelligenz macht verteiltes Unternehmenswissen sicher, datenschutzkonform und schnell nutzbar.
Der KI-Podcast · 21. Juli 2026
Wie baut man eine KI, wenn man keine Milliarde hat?
Mit cleveren Abkürzungen (z. B. Distillation), Spezialisierung und Open‑Source‑Kooperationen lassen sich nützliche KI‑Modelle auch ohne Milliardensummen entwickeln.
KI verstehen · 16. Juli 2026
KI-Brillen - Datenschutz-Alptraum oder Booster für Barrierefreiheit?
KI‑Brillen bieten nützliche Hilfen, etwa für Barrierefreiheit, gleichzeitig stellen sie aber erhebliche Datenschutz‑ und Überwachungsrisiken dar, die rechtliche und technische Schranken erfordern.
Startup Insider · 16. Juli 2026
„Wir wollen das kleinste AI-Lab bauen, das es je gab" – Voice AI Made in Europe mit Viktor Presber & Kajo Kratzenstein (KugelAudio)
KugelAudio (Viktor Presber & Kajo Kratzenstein) baut als kleines, sehr schnelles Team ein On‑Premise‑Voice‑AI‑Lab für Enterprise‑Kunden, das Geschwindigkeit, Datenschutz und verlässlichen Betrieb in den Mittelpunkt stellt.