Rechtsbelehrung - Recht, Technik & Gesellschaft

KI-Waffen – Rechtsbelehrung 148

22. Juni 2026 · 1 Std. 12 Min.

Autonome Waffensysteme sind technisch schon vielfach in Entwicklung, völkerrechtlich aber bislang kaum reguliert – die Anwendung bestehender Gesetze ist komplex und praktikabel unrealistisch.

Die Folge behandelt autonome Waffensysteme aus rechtsbelehrungsperspektive: Was sind sie, wie weit fortgeschritten ist ihre Entwicklung, und wie regelt das Völkerrecht ihren Einsatz? Der Gast Nils Biedermann erläutert die Unterscheidung in „Human in the Loop", „Human on the Loop" und vollständig autonome Systeme. Es wird deutlich, dass die Systeme bereits in der Ukraine eingesetzt werden, während internationale Regelungen fehlen und nationale Lösungen schwach sind. Die Episode zeigt das Spannungsfeld zwischen technischer Machbarkeit, ethischen Bedenken und rechtlichen Grenzen.

Zahlen & Fakten

2. Juni 2024

Aufnahmedatum der Folge, zeitgleich mit Veröffentlichung des Konzeptionspapiers des Bundesverteidigungsministeriums zu KI-Waffen

Diese Folge steckt voller Zahlen – neugierig?

Themen & Erkenntnisse

Kriegsrecht und Waffenregulierung · ab 05:00: Völkerrecht regelt Waffeneinsatz nach Prinzipien wie Unterscheidung und Verhältnismäßigkeit. Manche Waffen sind generell verboten, andere nur in bestimmten Einsatzvarianten.

Definitionen und Kategorien autonomer Waffensysteme · ab 09:35: Drei Grade von Autonomie definieren Waffensysteme: volle menschliche Kontrolle, Überwachung mit Eingriffsrecht oder vollständige Autonomie. KI ist nicht zwingend, aber ermöglicht höhere Autonomiestufen.

Gegenwärtige Entwicklung und praktische Einsätze · ab 15:45: Autonome KI-Waffen sind bereits in der Ukraine im Einsatz. Weltweit entwickeln Staaten und private Unternehmen solche Systeme; die technischen Hürden sind niedrig.

Verantwortung und Transparenzprobleme · ab 35:00: Unklar ist, wer für Verstöße autonomer Systeme verantwortlich ist. Vollständige Transparenz ist technisch kaum möglich; damit ist auch Kontrolle schwach.

Hemmschwelle und ethische Erosion · ab 50:00: Autonome Waffen senken die psychologische Hemmschwelle zum Töten, da Nutzer vom Tötungsakt entkoppelt werden und keine persönliche Verantwortung tragen.

Regulierung und Ausblick · ab 53:00: Vollständiges Verbot autonomer KI-Waffen ist unrealistisch. Wahrscheinlich entstehen nationale oder europäische Unterscheidungen zwischen Defensiv- und Angriffssystemen.

Quellen

• ArtikelKI-gestützte autonome Waffensysteme, Überblick und rechtliche Einordnung (Beitrag von Nils Biedermann)

• ArtikelZeitung Rüstung, Sicherheit und Recht (erste Ausgabe)

• RechtGenfer Zusatzprotokoll, Artikel 36 (Überprüfungsmechanismus für neue Technologien)

Weitere 10 Quellen anzeigen

• RechtGenfer Konvention

• RechtAntipersonenminen-Verbot (völkerrechtlich und in Deutschland)

• RechtAtomwaffensperrvertrag

• RechtInternationaler Strafgerichtshof

• RechtEU-AI-Act (mit Bereichsausnahme für militärische und Verteidigungszwecke)

• RechtDeutsches Grundgesetz (Artikel 1, 2, 3 - insbesondere Menschenwürde)

• RechtKonzeptionspapier des Bundesverteidigungsministeriums (2. Juni 2024, zu KI im Bundesverteidigungsministerium)

• RechtVölkerstrafrecht (zur Verfolgung von Kriegsverbrechen)

• RechtLaserwaffen-Verbot (völkerrechtlich)

• Dune - Butlerian Jihad (Science-Fiction-Referenz zum Verbot von KI nach Krieg gegen Maschinen)

Alle Quellen findest du in der vollständigen Folge

Wer spricht

Thomas SchwenkeHOST

Rechtsanwalt und Host des Podcasts Rechtsbelehrung, spezialisiert auf digitales Recht, Datenschutz und KI-Regulierung. Verfasser des Buches "Praktischer Ratgeber zum AI Act 2026: Deepfakes und KI-Texte richtig kennzeichnen". Erörtert in dieser Folge die technischen und juristischen Details der KI-Kennzeichnungspflichten des EU AI Acts.

Alle Auftritte von Thomas Schwenke →

Markus RichterHOST

Redakteur und Moderator des Podcasts Breitband – Medien und digitale Kultur. Verantwortlich für Recherche und Moderation des Themenblocks zu digitalem Kulturerbe und Langzeitarchivierung.

Alle Auftritte von Markus Richter →

Nils BiedermannGAST

Datenschutzexperte für Telekommunikation mit Masterstudiengängen in Medienrecht und Rechtsinformatik; Autor zu KI-gestützten autonomen Waffensystemen und deren rechtlicher Einordnung.

Alle Auftritte von Nils Biedermann →

Ganze Folge hören

KIDieser Inhalt wurde KI-gestützt erstellt und redaktionell geprüft.