Mehr als 200 Nobelpreisträger:innen, Wissenschaftler:innen, Diplomat:innen, Technologieexpert:innen, religiöse Führer:innen und Friedensaktivist:innen kamen diese Woche in Rom zusammen, um sich mit dem zu befassen, was viele Teilnehmende als die entscheidende Herausforderung unserer Zeit bezeichneten: sicherzustellen, dass künstliche Intelligenz der Menschheit dient, anstatt die Risiken eines Krieges – insbesondere eines Atomkrieges – zu verstärken. Die dreitägige Globale Versammlung der Nobelpreisträger:innen zu künstlicher Intelligenz und Atomkrieg, die vom 14. bis 16. Juli stattfand, endete mit der Verabschiedung der Erklärung von Rom zu einem unbewaffneten und die Abrüstung fördernden Frieden im Zeitalter von künstlicher Intelligenz, von atomaren und autonomen Waffen, von neuen digitalen Protokollen und von aufkommenden Modellen der digitalen Entwicklung. (Vatican News)

Die Versammlung, die im Borgo Laudato Si’ in Castel Gandolfo stattfand und auf dem Kapitol in Rom ihren Abschluss fand, war inspiriert durch den Aufruf von Papst Leo XIV. zur Schaffung eines ethischen Rahmens, der die rasante Entwicklung der künstlichen Intelligenz lenken soll. Die Teilnehmenden argumentierten, dass KI mittlerweile weit mehr als nur eine technologische Neuerung sei; sie stelle heute eine tiefgreifende politische, kulturelle und ethische Herausforderung dar, die die internationalen Beziehungen über Generationen hinweg prägen werde. (Angelus News – Katholische Multimedia-Nachrichten)

Die Erklärung erkennt an, dass die Menschheit mit einer noch nie dagewesenen Bündelung von transformativen Technologien und zerstörerischen militärischen Fähigkeiten konfrontiert ist. Während künstliche Intelligenz enorme Vorteile in den Bereichen Medizin, Bildung, wissenschaftliche Forschung und Umweltschutz verspricht, könnte ihre Einbindung in militärische Systeme – einschließlich autonomer Waffen und nuklearer Kommando- und Kontrollstrukturen – die Gefahr unbeabsichtigter Konflikte dramatisch erhöhen.

Zu den zentralen Grundsätzen der Erklärung von Rom gehört die Forderung, dass Entscheidungen über den Einsatz tödlicher Gewalt – und insbesondere von Atomwaffen – niemals vollständig an Maschinen delegiert werden dürfen. Sie fordert eine sinnvolle menschliche Kontrolle über KI-Systeme, eine erneuerte internationale Zusammenarbeit bei der nuklearen Abrüstung, eine stärkere Regulierung neuer Technologien und ein Entwicklungsmodell, bei dem die Menschenwürde im Mittelpunkt steht und nicht der geopolitische Wettbewerb. (Vatican News)

In vielen internationalen Erklärungen wurde zwar separat entweder vor Atomwaffen oder vor künstlicher Intelligenz gewarnt, aber bei diesem Treffen wurde betont, dass diese beiden Themen mittlerweile untrennbar miteinander verbunden sind. KI ist zunehmend in der Lage, militärische Informationen zu verarbeiten, Entscheidungen auf dem Schlachtfeld zu beschleunigen und autonome Systeme mit übermenschlicher Geschwindigkeit zu steuern. In einer nuklearen Krise könnte schon ein kleiner Fehler, eine Fehleinschätzung oder eine Cybermanipulation katastrophale Folgen haben.

Die Versammlung hat die Herausforderung daher nicht einfach als Regulierung neuer Technologien bezeichnet, sondern als Neudefinition der Beziehung der Menschheit zur Technologie an sich. Die Teilnehmenden machten geltend, dass der wissenschaftliche Fortschritt der ethischen Verantwortung und dem Gemeinwohl untergeordnet bleiben müsse.

Die Erklärung von Rom kommt zudem zu einem Zeitpunkt, an dem Regierungen weltweit massiv in militärische Anwendungen künstlicher Intelligenz investieren, während internationale Rüstungskontrollabkommen immer weiter an Bedeutung verlieren. Die bestehenden Nukleardoktrinen wurden in einer Zeit entwickelt, in der menschliche Entscheidungsträger noch mehr Zeit hatten, Krisen einzuschätzen. Künstliche Intelligenz könnte diese Entscheidungsfenster auf Sekunden verkürzen und damit den Druck erhöhen, Reaktionen zu automatisieren, die über das Schicksal von Millionen Menschen entscheiden könnten.

Für Friedensaktivist:innen stellt die Versammlung die wichtige Fortsetzung einer Tradition dar, die bis zur Mainauer Erklärung von 1955 zurückreicht, in der Nobelpreisträger:innen die Menschheit erstmals vor den existenziellen Gefahren von Atomwaffen warnten. In jüngerer Zeit haben Nobelpreisträger:innen diese Bedenken in Erklärungen zu nuklearen Risiken und zur Regulierung neuer Technologien erneut zum Ausdruck gebracht. Die Erklärung von Rom knüpft an dieses Erbe an, indem sie anerkennt, dass die Sicherung des Friedens im 21. Jahrhundert zwingend Atomwaffen und künstliche Intelligenz als miteinander verknüpfte globale Herausforderungen angehen muss. (Wikipedia)

Doch der vielleicht bedeutendste Beitrag der Erklärung geht über konkrete Empfehlungen hinaus. Sie macht deutlich, dass die Steuerung künstlicher Intelligenz nicht allein auf technische Regulierung reduziert werden kann. Hinter jedem Algorithmus, jedem autonomen System und jeder militärischen Anwendung stehen zutiefst menschliche Entscheidungen über Werte, Verantwortung und die Art von Zivilisation, die wir aufbauen wollen.

Ob die Erklärung von Rom Einfluss auf die Regierungen haben wird, bleibt ungewiss. Doch ihre Botschaft ist unmissverständlich: Die Menschheit hat einen Punkt erreicht, an dem technologische Neuerungen ohne ethische Orientierung zu einer der größten Bedrohungen für den Frieden werden könnten. Wenn künstliche Intelligenz zu einer der größten Errungenschaften der Geschichte werden soll, so argumentiert die Versammlung, muss sie als allererstes eindeutig menschlicher Verantwortung unterstellt bleiben und sich an den Prinzipien der Zusammenarbeit, der Würde und der Erhaltung des Lebens orientieren.

Weitere Informationen

  • Weltweite Versammlung der Nobelpreisträger: https://globalnobelassembly.org
  • Berichterstattung von Vatican News zur Erklärung von Rom.
  • Vollständiger Text der Erklärung von Rom (sobald er veröffentlicht wird).

 

 

 

Die Übersetzung aus dem Englischen wurde von Domenica Ott vom ehrenamtlichen Pressenza-Übersetzungsteam erstellt. Wir suchen Freiwillige!