#38 Smarte Kriege: Künstliche Intelligenz in bewaffneten Konflikten

Der Gaza-Krieg hat den Einsatz Künstlicher Intelligenz (KI) in bewaffneten Konflikten erneut in die öffentliche Debatte gebracht. Berichte, dass die israelische Armee zur Identifizierung von Hamas-Terroristen Systeme namens Lavender, Where’s Daddy und Gospel einsetzt, haben zu scharfer öffentlicher Kritik geführt. Sie zeigen aber auch, dass der Einsatz von KI deutlich über autonome Waffensystem hinausgeht. Für welche Zwecke KI in bewaffneten Konflikten eingesetzt wird und welche völkerrechtlichen Vorgaben dabei zu beachten sind, hat Erik Tuchtfeld mit Vanessa Vohs besprochen.

Im Grundlagenteil präsentiert Isabel Lischewski eine kurze Geschichte der Regulierung von Waffensystemen und schlägt dabei einen Bogen vom päpstlichen Verbot der Armbrust bis zu autonomen Drohnen.

Wir freuen uns über Lob, Anmerkungen und Kritik an podcast@voelkerrechtsblog.org. Abonniert unseren Podcast via RSS, über Spotify oder überall dort, wo es Podcasts gibt. Es gibt die Möglichkeit, auf diesen Plattformen den Völkerrechtspodcast zu bewerten, wir freuen uns sehr über 5 Sterne!

Kapitelmarken:

• (01:55) Grundlagenteil
• (06:43) Interview – Einleitung
• (07:57) Funktion und Kritik an KI-Systemen wie Lavender, Where’s Daddy und Gospel
• (10:06) Ist KI eine eigenständige Waffenkategorie?
• (14:51) Vorstellung des AI4Defence-Projekts
• (18:17) Relevante Grundprinzipien des Humanitären Völkerrechts
• (23:02) Beschleunigung und Entmenschlichung von Konflikten
• (27:31) Überwachung als Voraussetzung
• (30:07) Akute Regelungsbedarfe
• (34:04) Bedeutsame menschliche Kontrolle (Human-in-the-Loop)
• (37:10) Abmoderation

Hintergrundinformationen:

• Vohs, “If the only tool you have is a hammer, everything looks like a nail”: About Autonomous Weapons, Individual Responsibility, and Legal Positivism, Humanitäres Völkerrecht 2022, 78
• Shereshevsky, International humanitarian law-making and new military technologies, International Review of the Red Cross 2022, 2131
• Abraham, ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza, +972 Magazine, 3 April 2024
• Mozur/Satariano, A.I. Begins Ushering In an Age of Killer Robots, New York Times, 2 July 2024
• Mignot-Mahdavi, Drones and International Law: A Techno-Legal Machinery. Cambridge University Press, 2023

Moderation: Erik Tuchtfeld, LL.M (Glasgow) & Philipp Eschenhagen
Grundlagen: Dr. Isabel Lischewski
Interview: Vanessa Vohs, LL.M. (London) & Erik Tuchtfeld, LL.M (Glasgow)
Schnitt: Daniela Rau

Credits:

• 60 Minutes,  AI in the military: Gen. Milley on the future of warfare, Youtube, 09.10.2023