Deepfakes und Bot-Armeen - Im Krieg gegen die Lügen im Netz
31. August 2026 · 26 Min.
Deepfakes, KI‑generierte Texte und koordinierte Bot‑Netzwerke untergraben zunehmend die Informationslandschaft; Forschung liefert Erkennungswerkzeuge, scheitert aber oft an technischen Grenzen, eingeschränktem Datenzugang und fehlender bzw. schwer durchsetzbarer Regulierung.
Anhand konkreter Fälle wie der Matroschka‑Kampagne gegen Lokalpolitiker und den Bildern aus Ceuta zeigt die Folge, wie Deepfakes und Bot‑Armeen politische Debatten und Mobilität beeinflussen. Forscherinnen und Forscher (Veronika Solopowa, Tim Polziel, Philipp Lorenz Spreen, Filippo Menzer) stellen Detektionsmethoden vor, erläutern deren Limitationen und das ständige Katz‑und‑Maus‑Spiel mit neuen Generatoren. Abschließend wird betont, dass technische Mittel allein nicht ausreichen: verbesserter Datenzugang und verbindliche Regulierung (z. B. Digital Services Act, AI‑Act) sind notwendig.
Zahlen & Fakten
20–40%
Sehr große KI‑Modelle schaffen Faktenchecks nach Angaben von Veronika Solopowa nur mit etwa 20 bis 40 Prozent Genauigkeit.
80 Prozent
Tim Polziel beschreibt, dass sein Detektionsansatz in rund 80 Prozent der Fälle sehr gut funktioniert.
mehr als 90
Der Think Tank SEMAS hat mehr als 90 Fake‑Videos dokumentiert.
Weitere 5 Zahlen & Fakten anzeigenWeniger anzeigen
mehr als 50
SEMAS dokumentierte Falschvideos zu mehr als 50 Politikerinnen und Politikern.
mehr als 30
Dem Deutschlandfunk liegen mehr als 30 Fake‑Videos vor.
mindestens 34
Mindestens 34 Menschen sind beim versuchten Grenzübertritt nach Ceuta gestorben.
2. August
Der AI‑Act verpflichtet Plattformen seit dem 2. August zur Kennzeichnung KI‑generierter Videos, Audios und Fotos in Europa.
2. Dezember
Ab dem 2. Dezember müssen in Europa Deepfake‑Generatoren Wasserzeichen einbauen.
Rubriken
Themen & Erkenntnisse
Quellen
• Think Tank SEMAS (Dokumentation zu Fake‑Videos)
• ArtikelBBC (Investigativrecherche zu den Ceuta‑Falschmeldungen)
Alle Quellen findest du in der vollständigen FolgeWer spricht
VVeronika SolopowaGAST
Co‑Leiterin der X‑Plane LP‑Gruppe an der TU Berlin; forscht an automatisierter Erkennung von Falschinformationen, trainiert Modelle mit Faktenchecks und investigativen Artikeln und arbeitet an Kontextanalyse für Bilder und Texte.
Alle Auftritte von Veronika Solopowa →TTim PolzielGAST
Wissenschaftler am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) und CEO von Gretchen AI; entwickelt Deepfake‑Detektoren, die Kontextanalyse, KI‑Agenten und Quellenabgleich nutzen.
Alle Auftritte von Tim Polziel →PPhilipp Lorenz SpreenGAST
Sozialwissenschaftler mit Schwerpunkt computergestützte Sozialwissenschaften; bald Professur an der TU Dresden; untersucht die Wirkung von Desinformation, Plattformalgorithmen und gesellschaftliche Folgen von Social‑Media‑Nutzung.
Alle Auftritte von Philipp Lorenz Spreen →FFilippo MenzerGAST
Computerwissenschaftler an der Indiana University und Leiter des Awesome‑Instituts; arbeitet an Methoden zur Erkennung von Bot‑Netzwerken, etwa verhaltensbasierten Ansätzen und der Weiterentwicklung des Botometer‑Konzepts.
Alle Auftritte von Filippo Menzer →KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.
Ähnliche Folgen
Was jetzt? · 31. Aug. 2026
Wie Deutschland auf die russischen Cyberangriffe reagieren sollte
Die IT‑Expertin Eva Wolfangel erklärt, wie russische Doppelgänger‑Desinformationskampagnen funktionieren und welche technischen und politischen Gegenmaßnahmen Deutschland ergreifen sollte.
Doppelgänger Tech Talk · 1. Sept. 2026
Kostenlose Regierungs-KI? | Mit dem Clown-Car in die Goldmine | 200,000 China-Bots gegen Rechenzentren #593
Die Hosts diskutieren aktuelle Tech-News: OpenAIs Beendigung der Cursor-Partnerschaft, koordinierte Einflusskampagnen gegen Rechenzentren, Fragen von Überwachung und autonomem Fahren sowie nationale und unternehmerische Reaktionen auf die KI‑Infrastruktur.
Lesart – Das Literaturmagazin · 2. Sept. 2026
"Die Empörungsfalle"
Dauerhafte Empörung in sozialen Medien wird durch algorithmische Anreize verstärkt und untergräbt konstruktive Debatten; Empörung bleibt wichtig, muss aber gezielt und verantwortungsbewusst eingesetzt werden.
Breach FM · 1. Sept. 2026
Flurfunk - Berlin: Rhysida erpresst & OpenAIs Call for Collective Action
Beim Angriff auf die Berliner Senatsverwaltung sind deutlich mehr und kritischere Daten abgeflossen als zunächst kommuniziert; parallel ruft OpenAI mit einem breiten Bündnis zu koordinierter Cyberabwehr und klarer Regelung agentischer Identitäten auf.
F.A.Z. Digitalwirtschaft · 28. Aug. 2026
Meta, Nvidia, Bill Gates und das Zeitalter der Künstlichen Intelligenz
Die Folge diskutiert drei Machtfragen der Digitalisierung: den Vergleich gegen Meta und Maßnahmen zum Jugendschutz, Nvidias dominierende Geschäftszahlen und einen warnenden Essay des Microsoft-Mitgründers zur gesellschaftlichen Folge der Künstlichen Intelligenz.
Nach Redaktionsschluss · 28. Aug. 2026
Zu viel KI: - Wie Medien besser über Künstliche Intelligenz berichten
Weniger, dafür stärker kontextualisierte KI-Berichterstattung — so formulieren Pierre Behmer, Markus Richter, Svea Eckert und Hörer Sven Lindroth die zentrale Erwartung an Medien.