Ein neues Positionspapier aus dem Amt für Heeresentwicklung der Bundeswehr in Köln skizziert die Nutzung von Künstlicher Intelligenz (KI) in künftigen Kriegen. Das „Potenzial“ der KI für die deutschen Streitkräfte sei „enorm“, urteilt der ehemalige Leiter der Einrichtung, Generalmajor Reinhard Wolski. Experten zufolge wird KI nicht nur für die Optimierung der Aufklärung genutzt werden, sondern auch zum Betreiben von „Chatbots“ zur militärischen Propaganda und zur Steuerung autonomer Waffensysteme.
Die Relevanz autonomer Waffen sei bereits „mittelfristig … durchaus mit ABC-Massenvernichtungswaffen vergleichbar“, urteilt ein Spezialist des Fraunhofer-Instituts für Intelligente Analyse und Informationssysteme (IAIS), das in puncto KI mit der Bundeswehr kooperiert. Wie das neue Bundeswehr-Papier belegt, wird KI-gesteuerte Kriegführung ein so hohes Tempo gewinnen, dass menschliche Entscheidung über den Einsatz von Waffen zunehmend auf KI-Entscheidungshilfen angewiesen sein wird. Der Übergang zum reinen Maschinenkrieg, der sich humaner Kontrolle gänzlich entzieht, ist fließend.
„Enormes Potenzial“
Das Positionspapier „Künstliche Intelligenz in den Landstreitkräften“, das die Bundeswehr kürzlich veröffentlicht hat, ist in einem bereits 2018 gestarteten Prozess entwickelt worden. Federführend war dabei das Amt für Heeresentwicklung mit Sitz in Köln. Auf insgesamt fünf Veranstaltungen hat die Einrichtung unter dem Motto „Technology meets Capabilities 2.0“ die denkbaren Varianten einer Nutzung Künstlicher Intelligenz (KI) durch die deutschen Streitkräfte untersucht. Dabei ist sie vom Fraunhofer-Institut für Intelligente Analyse und Informationssysteme (IAIS) systematisch unterstützt worden, das bereits seit vielen Jahren im Auftrag der Bundeswehr tätig ist.[1] Bereits im vergangenen Jahr ließ sich der damalige Leiter des Heeresentwicklungsamts, Reinhard Wolski, mit der auf die Bundeswehr gemünzten Aussage zitieren: „Das Potenzial der Künstlichen Intelligenz ist enorm“.[2] In einer seiner letzten Amtshandlungen hat Generalmajor Wolski, der im September in den Ruhestand ging, ein kurzes Geleitwort für das im August fertiggestellte Heeres-Positionspapier verfasst. Der Publikation sollen weitere mit ähnlicher Schwerpunktsetzung folgen.
„Mit Massenvernichtungswaffen vergleichbar“
Grundsätzlich zu den Optionen geäußert, KI für die Kriegführung zu nutzen, hat sich im November 2018 Uwe Beyer, der als Abteilungsleiter am IAIS tätig ist. Als denkbare Beispiele nannte Beyer neben „intelligenter Massenauswertung von Daten in der Aufklärung“ und „leistungsstarken Entscheidungsunterstützungssystemen“ auch „Chatbots“ für militärische Propaganda („Operative Kommunikation“) sowie „autonome Waffen“.[3] Den Einsatz sogenannter Letaler Autonomer Waffensysteme (Lethal Autonomous Weapons Systems, LAWS), die gänzlich ohne menschliches Zutun nur auf der Grundlage KI-gesteuerter Informationsauswertung die Entscheidung zum Angriff treffen, lehnt Beyer ab, erklärt allerdings auch, die Konstruktion derartiger Maschinen sei zur Zeit noch nicht möglich. Den Einsatz „autonomer Waffen“, deren Operationen von einem Menschen zumindest formal freigegeben werden, befürwortet der IAIS-Experte jedoch. Zugleich räumt er ein, es sei bei KI-Waffen „möglicherweise schwieriger, unerwünschte Effekte auszuschließen“; bereits „mittelfristig“ sei ihre „Relevanz durchaus mit ABC-Massenvernichtungswaffen vergleichbar“. Auch könne die militärische Nutzung von KI „das Tempo in der Rüstung erheblich beschleunigen“: „Auf neue Fähigkeiten des Gegners müsste innerhalb von Monaten reagiert werden, was deutlich agilere Rüstungsprozesse erfordern würde.“ Das reduziert die Kontrollierbarkeit.
Counter-UAS-Schwärme
Das Positionspapier „Künstliche Intelligenz in den Landstreitkräften“ schildert Einsatzszenarien und einige Spezifika KI-gesteuerter Waffensysteme. Dabei geht es insbesondere um taktisch verwendbare Klein- und Minidrohnen (Tactical Unmanned Aerial Systems, TaUAS), deren Größe von „kleiner als ein Tennisball“ bis zu einer „Spannweite von über einem Meter“ reicht.[4] Die TaUAS werden in Schwärmen zu Tausenden gleichzeitig eingesetzt und dienen unterschiedlichen Aufgaben – von der Aufklärung über die Steuerung anderer eigener Waffen sowie eine gezielte Störung feindlicher Elektronik bis zu Angriffen auf feindliche Ziele. Das Positionspapier skizziert ein Szenario, in dem „Counter-UAS-Schwärme“ die Abwehr feindlicher Drohnen übernehmen, während weitere „TaUAS-Züge“ feindliche Gefechtsfahrzeuge attackieren: „Innerhalb von Sekunden steigen mehrere hundert UAS auf, zerstören gezielt die Sensorik des Gegners und markieren die Gefechtsfahrzeuge“, um sie anschließend angreifen und vernichten zu können. Die Nutzung von Drohnenschwärmen („TaUAS-Züge“) wird im Zusammenhang mit der Entwicklung eines neuen deutsch-französischen Kampfjets (Future Combat Aerial System, FCAS [5]) für die Luftwaffe bereits konkret geplant.
Fight-at-Machine-Speed
Wie das Positionspapier des Heeresentwicklungsamts bestätigt, wird die KI-Kriegführung deutlich an Tempo gewinnen. „Ein zentrales Element der zukünftigen Gefechtsführung“, heißt es in dem Dokument, „ist die Kombination klassischer Gefechtsführung mit Wellen von Cyberangriffen und Angriffen durch große Mengen automatisiert und autonom gesteuerter Systeme.“[6] Dabei werde KI nicht nur für den Waffeneinsatz selbst genutzt, sondern auch „für die Beschleunigung des Führungsprozesses durch den gezielten Einsatz KI-basierter Entscheidungsunterstützungssysteme“. Dies verändere zwar „die Struktur von Gefechten nicht grundsätzlich“, führe allerdings „zu einer gänzlich anderen Dynamik, da schneller und weiträumiger agiert werden kann und auch muss“. Die neue „Dynamik“ wiederum bewirke, dass „Entscheidungen, für die heute im Durchlaufen des militärischen Führungsprozesses teils Stunden zur Verfügung stehen“, in Zukunft wohl schon „nach Minuten oder gar Sekunden getroffen werden“ müssen. Im Fachjargon der Militärs ist von „Fight-at-Machine-Speed“ die Rede. Hinzu komme, dass „etliche automatisiert und autonom gesteuerte Systeme … mit hoher Geschwindigkeit – zum Beispiel mittels Raketen – ausgebracht und schnell und automatisiert verlegt werden“ können: „Hierdurch entsteht die Fähigkeit zum ‚Deploy-at-Machine-Speed‘.“ Das hohe Tempo überfordert strukturell die menschliche Entscheidungsfähigkeit, verlangt nach neuen KI-Entscheidungshilfen und höhlt menschliche Kontrolle immer weiter aus.
Kampfmittel Information
Zudem ist in künftigen Gefechten damit zu rechnen, dass die Kommunikation mit KI-gesteuerten Waffensystemen vom Feind gezielt mit Cyberangriffen und elektronischer Kampfführung attackiert und nach Möglichkeit unterbrochen wird, räumt das Heeresentwicklungsamt ein. Dies werde dazu führen, „dass Kommunikation in kritischen Phasen mit hoher Wahrscheinlichkeit fast immer gestört ist“. „Die Führungsüberlegenheit beruht darauf, die wenigen und ggf. kurzen Phasen von Konnektivität sofort auf allen Kanälen möglichst effizient zu nutzen“, um die KI-gesteuerten Waffen nach Kräften mit Daten zu versorgen: „Information wird neben Munition und Energie bzw. Treibstoff zum dritten wichtigen ‚Verbrauchsmaterial‘ auf dem Gefechtsfeld. Diese Ressource wird jedoch in kritischen Lagen fast immer knapp sein.“[7] Freilich führt ein Mangel an Munition oder an Treibstoff zu Handlungsunfähigkeit, während das Papier aus dem Heeresentwicklungsamt keine Aussage darüber tätigt, wie KI-Waffen, wenn sie unzureichend mit Information versorgt werden, reagieren – und ob sich die Kontrolle über sie noch bewahren lässt..
[1] S. auch Mehrwert in allen Fähigkeitsdomänen.
[2] Strategien für die Zukunft: Künstliche Intelligenz im Militär. deutschesheer.de 19.12.2018.
[3] „KI“ ist Thema für die ganze Bundeswehr. bmvg.de 12.11.2018.
[4] Künstliche Intelligenz in den Landstreitkräften. Ein Positionspapier des Amts für Heeresentwicklung. Köln, August 2019.
[5] S. dazu Rivalitäten in der EU-Rüstungsindustrie und Drohnenschwärme im Zukunftskrieg.
[6], [7] Künstliche Intelligenz in den Landstreitkräften. Ein Positionspapier des Amts für Heeresentwicklung. Köln, August 2019.
