KI-generierte synthetische Bilder können helfen, Bias in medizinischen Diagnosemodellen sichtbar zu machen, zu messen und zu reduzieren – ohne echte Patientendaten zu gefährden.
Diese Folge behandelt das Problem von Bias in KI-Modellen für die medizinische Diagnostik, besonders bei der Hautkrebserkennung. Der wissenschaftliche Mitarbeiter Stanislav Frolov vom DFKI erklärt, wie sein Projekt MedGenAI synthetische Hautkrebs-Bilder erzeugt, um Testgruppen zu schaffen, die alle Kombinationen von Geschlecht, Alter und Hauttyp abdecken. Diese Counterfactuals ermöglichen es, Bias systematisch zu analysieren und Diagnosemodelle fairer zu trainieren, wobei synthetische Daten echte Trainings- und Testdaten ergänzen, aber nicht ersetzen sollten.
Zahlen & Fakten
etwa eine halbe Million
Anzahl der Bilder im ISIC (International Skin Imaging Collection) Datensatz, den die Forscher beim Trainieren ihres Modells nutzten.
Rubriken
Themen & Erkenntnisse
Quellen
• StudieInternational Skin Imaging Collection (ISIC)
• StudieDeutsches Forschungszentrum für Künstliche Intelligenz (DFKI) – Projekt MedGenAI
• Mission KI – Forschungsprogramm für vertrauenswürdige KI
Alle Quellen findest du in der vollständigen FolgeWer spricht
IIsabel GrünewaldHOST
Isabel Grünewald ist Moderatorin des KI‑Update‑Podcasts von heise und verantwortlich für Deep‑Dive‑Formate; in dieser Produktion führt sie durch das Gespräch, stellt vertiefende Fragen zu praktischen Auswirkungen und kommentiert juristische sowie technische Aspekte.
Alle Auftritte von Isabel Grünewald →SStanislav FrolovGAST
Wissenschaftlicher Mitarbeiter am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), Experte für generative KI und Bias-Abschwächung in medizinischen Diagnosemodellen
Alle Auftritte von Stanislav Frolov →KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.
Ähnliche Folgen
Wissen aktuell – SWR2 Impuls · 24. Juni 2026
Wie eine spezielle KI in Krankenhäusern helfen könnte
Frederik Klauschen erklärt, dass agentische KI Kliniken durch Planung, Prozesskoordination und automatische Informationsbeschaffung erheblich entlasten kann, dabei aber menschliche Aufsicht und Verifikation behalten muss.
Startup Insider · 24. Juni 2026
„Die wichtigste KI-Kategorie, über die niemand redet" – Philippe Klitzing (Peak)
Die nächste große KI‑Welle verlagert sich von Bildschirm‑AI zu ‚Physical AI‘ und medizinischen Wearables: domänenspezifische, physik‑basierte Modelle und nicht‑invasive Sensorik können Fertigung und Femtech grundlegend verändern.
Breitband – Medien und digitale Kultur · 27. Juni 2026
KI-Pranger - Kann eine KI eine KI überführen?
KI-Erkennung ist technisch unmöglich zu 100 Prozent zuverlässig, doch Transparenz und menschliche Verantwortung bleiben für KI-Nutzung in öffentlichen Kontexten essentiell.
KI-Update – heise · 29. Juni 2026
KI-Update kompakt: KI-Moderation, Finanzmarkt, Datenschutz, GPT-Images
Meta automatisiert Inhaltsmoderation mit KI, während Finanzmärkte rund um künstliche Intelligenz Überhitzungssignale zeigen und Datenschutzbehörden ausgerechnet beim Ausbau von KI-Überwachung geschwächt werden.
Quarks Daily · 27. Juni 2026
Medizinische Behandlung - Wie individuell kann sie sein?
Personalisierte Medizin erweitert die Möglichkeiten, Therapien individueller auszurichten, doch fehlen noch Daten, Kostendeckung und strukturelle Voraussetzungen, sodass Verbesserungen schrittweise erfolgen müssen.
t3n Arbeit in Progress · 26. Juni 2026
Müssen wir KI-Hardcore-User werden?
Unternehmen müssen ihre Mitarbeitenden bei KI-Implementierung von Anfang an mitnehmen und ihre Skepsis ernst nehmen, statt Top-down Lösungen zu installieren, die keiner braucht.