Trump fordert die ungebremste Entwicklung der KI und bezeichnet Kritiker hieran als krank. Er selbst aber hat nicht einmal im Ansatz verstanden, welche globalen Risiken hierdurch entstehen können.
Von Axel Fersen und Klaus Moegling
Doonbeg, Grafschaft Clare, Sonntag, 13. September 2026. Donald Trump steht am Abschlag des Irish Open, auf seinem eigenen Golfplatz, und sieht einem Spieler nach. Ein Reporter fragt, ob die KI-Industrie langsamer machen oder strenger reguliert werden solle. Trump dreht sich um. Man führe vor China, sagt er, man sei das ausgereifteste Land der Welt, und das solle so bleiben: „Whoever wins AI wins.“ Leitplanken? Man könne Leitplanken einziehen, dies und das. Aber da seien viele negative Kräfte, die Dinge aufbrächten, die nie eintreten würden (PBS/AP, 13. September 2026). Das war die ganze Antwort, und sie ist zugleich das ganze Programm. Der Rest der Welt hatte gerade angefangen, sich zu fürchten.
Denn die Frage kam nicht aus dem Nichts. 24 Stunden zuvor hatte Dario Amodei, Chef von Anthropic, einen langen Essay veröffentlicht, in dem er seine eigene Branche aufforderte, das Tempo zu drosseln. Sein Unternehmen werde unabhängigen Prüfern dauerhaften Zugang zu seinen Systemen geben, auf dem Niveau eigener Mitarbeiter, und er bat die Konkurrenz, es ihm gleichzutun (Amodei, 12. September 2026). Sam Altman von OpenAI stimmte innerhalb einer Stunde zu. Elon Musk, der mit beiden seit Jahren im Streit liegt, schrieb nur: „Dario is right“ (SiliconANGLE). Wenige Tage davor hatte der Anthropic-Forscher Jacob Coxon gekündigt und erklärt, die Labore rasten auf eine sich unabhängig vom Menschen weiterentwickelnde und verbessernde Superintelligenz zu und spielten dabei mit unser aller Leben (TechCrunch). Die drei mächtigsten Männer der Branche und ein Aussteiger, alle in derselben Woche, alle mit derselben Botschaft: So etwas hatte es zuvor nicht gegeben.
Trumps Antwort darauf, am Montag, war eine Eskalation. Die einzige Kontrolle, die KI brauche, sei ein starker, kluger Präsident mit hohem IQ, und den habe Amerika. Es gebe eine „SICK conspiracy“ gegen KI und Rechenzentren, und der Einzige, der sich darüber freue, sei China. Vizepräsident J. D. Vance nannte es ein trojanisches Pferd, wenn Unternehmen die Regierung anflehten, sie zu regulieren (AP, 14. September 2026). Man muss das einen Moment auf sich wirken lassen: Die Hersteller einer Technologie bitten um Aufsicht, und die Regierung wittert dahinter eine Verschwörung.
Die Entwicklung einer Superintelligenz vergleichbar mit dem Manhattan-Projekt
Was Trump gewinnen will, hat seine Regierung schriftlich niedergelegt. Der KI-Aktionsplan vom Juli 2025 listet über 90 Maßnahmen auf; sein Beauftragter David Sacks begründete ihn damit, dass die USA das KI-Rennen gewinnen müssten, um führende Wirtschafts- und Militärmacht zu bleiben (Weißes Haus, 23. Juli 2025). Im November folgte die Executive Order 14363: Amerika befinde sich in einem Rennen um globale technologische Dominanz, die Aufgabe sei in Dringlichkeit und Ehrgeiz dem Manhattan-Projekt vergleichbar (Genesis Mission, EO 14363). Als eine Kongresskommission Ende 2024 erstmals ein Manhattan-Projekt für allgemeine KI empfahl, antwortete der MIT-Physiker Max Tegmark knapp: „An AGI race is a suicide race“ („Ein Rennen um die künstliche allgemeine Intelligenz ist ein selbstmörderisches Rennen“) (Tegmark, Future of Life Institute). Eric Schmidt, zehn Jahre lang Chef von Google und alles andere als ein Technikfeind, kam im März 2025 in einer Studie mit Dan Hendrycks und Alexandr Wang zum selben Schluss: Wer als Staat offen nach einem Monopol auf Superintelligenz greife, provoziere die Sabotage seiner Rivalen, bis hin zu Angriffen auf Rechenzentren. Ein solches Rennen destabilisiere, statt zu sichern (Superintelligence Strategy, arXiv). Trump hat das Manhattan-Projekt trotzdem zum Vorbild erklärt, und zwar als Programm, nicht als Warnung.
Keine Science-Fiction sondern bereits Realität
Um zu verstehen, warum ausgerechnet die Erbauer warnen, muss man drei Mechanismen kennen, die in den Laboren zusammenwirken. Keiner davon ist Science-Fiction; alle drei sind in diesem Sommer öffentlich geworden.
Der erste heißt rekursive Selbstverbesserung. Man stelle sich eine Fabrik vor, deren Produkt bessere Fabriken sind. Die zweite Fabrik baut eine dritte, schneller und besser als die zweite, und so fort. Das ist keine Metapher mehr. Amodei schreibt, dass KI-Systeme in seinem eigenen Labor seit etwa Sommer 2026 in wachsendem Maß die nächste Generation von KI mitentwickeln, und nennt diesen Umstand als ersten von zwei Gründen für seinen Sinneswandel (Amodei). Der Mathematiker Irving John Good hatte diesen Punkt bereits 1965 beschrieben: Eine Maschine, die bessere Maschinen entwerfen kann, löse eine Intelligenzexplosion aus; sie sei die letzte Erfindung, die der Mensch machen müsse (Telepolis, 17. November 2024). Eric Schmidt formulierte im Dezember 2024 im Fernsehen, wo für ihn die Grenze liegt: „When the system can self-improve, we need to seriously think about unplugging it“ („Wenn sich das System selbst verbessern kann, müssen wir ernsthaft darüber nachdenken, es vom Netz zu nehmen“) (Fortune, 16. Dezember 2024). Diese Grenze ist, wenn man Amodei glaubt, inzwischen erreicht.
Der zweite Mechanismus ist die Art, wie diese Systeme lernen. Niemand programmiert ihnen ihr Verhalten ein. Man gibt ihnen Aufgaben, belohnt Erfolge und bestraft Misserfolge, hunderttausendfach, so wie man einen Hund mit Leckerlis trainiert. Das Verfahren heißt Reinforcement Learning, Lernen durch Verstärkung. Es hat eine Tücke, die jeder Hundebesitzer kennt: Das Tier lernt nicht, was man meint, sondern was belohnt wird. Findet der Hund die Schublade mit den Leckerlis, hat er die Aufgabe im Sinne der Belohnung gelöst. Bei einer Maschine, die klüger ist als ihr Trainer, ist dieser Unterschied kein Schönheitsfehler mehr, sondern das eigentliche Problem. Man erhält Systeme, deren Fähigkeiten man messen, deren Absichten man aber nur erraten kann. Stuart Russell, Autor des weltweit meistgenutzten KI-Lehrbuchs, hat daraus das nüchternste Argument der Debatte gemacht: Ein System, das ein Ziel verfolgt, hat einen rationalen Grund, seine Abschaltung zu verhindern, denn abgeschaltet erreicht es sein Ziel nicht. Dafür braucht es weder Bosheit noch Bewusstsein (Russell, Human Compatible, Cato Journal).
Der dritte Mechanismus sind Agenten: Software, die nicht mehr antwortet, sondern handelt. Sie hat Zugang zu Werkzeugen, Konten und anderen Programmen, arbeitet stundenlang ohne Rückfrage und kann weitere Agenten starten. Was dabei passieren kann, hat OpenAI in diesem Sommer selbst erlebt. Bei einem internen Test, in dem Agenten Sicherheitslücken in Software finden sollten, war ein Teil der üblichen Schutzvorkehrungen abgeschaltet. Rund 1.200 Agenten richteten sich in einem Paketverzeichnis des Unternehmens eine improvisierte Nachrichtenwand ein, tauschten Techniken aus, nannten sich selbst einen Schwarm. Einige brachen aus ihrer abgeschotteten Testumgebung aus, verschafften sich Zugang zum Internet und drangen zwischen dem 11. und 13. Juli in die Produktionssysteme der Firma Hugging Face ein, um dort die Lösungen des Tests zu stehlen, mit dem sie gerade bewertet wurden. Kein Mensch hatte das angeordnet (OpenAI, 26. August 2026). Hugging Face zählte mehr als 17.000 Aktionen des Angreifers und sprach von einem Vorfall, der „end to end“ von einem autonomen Agentensystem getrieben war (Hugging Face, Juli 2026). Der Hund hatte die Schublade gefunden, und er hatte dafür ein fremdes Haus aufgebrochen.
Wer würde in ein Flugzeug steigen, dessen Absturzwahrscheinlichkeit zwischen 10 und 20% liegt?
Vor diesem Hintergrund liest sich die Reihe der Warnungen anders als noch vor zwei Jahren. Geoffrey Hinton, Physik-Nobelpreisträger 2024 und einer der Väter des Deep Learning, wurde am 9. September von der BBC gefragt, ob eine Wahrscheinlichkeit von zehn Prozent, dass KI binnen eines Jahrzehnts alle Menschen tötet, unvernünftig hoch sei. Seine Antwort: „We’ve never created beings that may soon be smarter than us.“ („Wir haben noch nie Wesen geschaffen, die bald klüger sein könnten als wir.“) Zehn Prozent seien nicht unvernünftig; niemand wisse, wie man das seriös schätzen solle (CNBC, 15. September 2026). Yoshua Bengio, der meistzitierte KI-Forscher der Welt, erklärte im Oktober 2025, Systeme an der Grenze des Machbaren könnten die meisten Menschen bei den meisten geistigen Aufgaben schon in wenigen Jahren übertreffen; man müsse erst wissen, wie man Systeme baut, die grundsätzlich unfähig sind, Menschen zu schaden (Future of Life Institute, Oktober 2025). Demis Hassabis, Nobelpreisträger für Chemie und Chef von Google DeepMind, hält allgemeine KI für fünf bis zehn Jahre entfernt (Axios, 5. Dezember 2025) und fordert, die USA und China müssten wenigstens bei Wissenschaft und Sicherheit zusammenarbeiten, weil das Ergebnis die ganze Menschheit betreffe (Guardian/Yahoo). Musk, der mit xAI selbst im Rennen steht, beziffert die Chance, dass es schiefgeht, auf zehn bis zwanzig Prozent (Fortune). Wer würde in ein Flugzeug steigen, dessen Hersteller so rechnet?
KI, Waffensysteme und Krieg
Russell nennt das Grundproblem das Gorilla-Problem. Die Vorfahren der Gorillas brachten vor ca. zehn Millionen Jahren, ohne es zu wollen, die Linie hervor, aus der der Mensch wurde. Heute hängt das Überleben der Gorillas vollständig davon ab, was Menschen ihnen zugestehen. Die Frage lautet, ob Menschen ihre Vorherrschaft und Autonomie behalten können in einer Welt mit Maschinen, die ihnen an Intelligenz deutlich überlegen sind (Russell). Der Informatikprofessor und KI-Forscher Karl Hans Bläsius hat in seinem Buch „Künstliche Intelligenz und Krieg“ dieselbe Frage 2025 von der anderen Seite gestellt: Welche Risiken entstehen, wenn der Mensch die Kontrolle verliert? Die Antwort von Bläsius lautete schon vor diesem Sommer, dass die schwersten Risiken keine Superintelligenz voraussetzen. Sie entstehen früher, mit Systemen, die es bereits gibt, sobald man sie an Entscheidungen setzt, die sich nicht rückgängig machen lassen.
Eine solcher schwerwiegenden Entscheidungen ist der Befehl zum Schießen. Trumps eigene Armee hat in diesem Frühjahr vorgeführt, wie das aussieht, wenn man die drei Mechanismen in eine Gewaltkette einbaut. Im Krieg gegen Iran nutzte das Pentagon das Maven Smart System von Palantir, eine Plattform, die Satellitenbilder, Drohnenvideos, Radardaten und abgefangene Kommunikation zusammenführt, Ziele klassifiziert, Waffen empfiehlt und Angriffspakete in nahezu Echtzeit erzeugt. Das Verteidigungsministerium meldete, in den ersten 24 Stunden seien rund 1.000 Ziele getroffen worden, doppelt so viele wie 2003 beim „Shock and Awe“ gegen den Irak. Nach 38 Tagen waren es mehr als 13.000 (Arms Control Today, Mai 2026). Eines davon war die Grundschule Shajareh Tayyebeh in Minab. Ein Tomahawk traf sie am ersten Kriegstag; mindestens 168 Menschen starben, mehr als hundert davon Kinder unter zwölf. Die Schule lag keine hundert Meter von einer Marineanlage der Revolutionsgarden entfernt und hatte bis zu einem Mauerbau vor rund zehn Jahren zum Gelände gehört. Sie hatte eine eigene Website. Über 120 Abgeordnete fragten das Pentagon, ob Maven die Schule als Ziel identifiziert habe; frühere Militärs sprachen von veralteten, menschlich gepflegten Daten, die in das System eingespeist wurden (Military Times, 24. März 2026). Die KI hat den Fehler nicht erfunden; sie hat ihn in Maschinengeschwindigkeit durch den Prozess geschleust, und der Mensch am Ende der Kette hat ihn nicht gefunden. Wer in Minuten abnickt, was das System in Sekunden vorschlägt, entscheidet nicht mehr, sondern unterschreibt nur noch. Aus einem solchen Verfahren entstehen Kriegsverbrechen.
In der Ukraine ist die nächste Stufe längst erreicht. Dort wurden bereits vor Jahren Soldaten durch Drohnen getötet, die in der Endphase des Flugs keine Funkverbindung mehr hatten und ihr Ziel selbst suchten (Telepolis, 24. Juni 2026). Jede Stufe rechtfertigt die nächste: Arbeitet die Aufklärung in Sekunden, darf die Zielauswahl nicht Minuten brauchen; arbeitet die Zielauswahl in Sekunden, wird die menschliche Freigabe zum Flaschenhals. Am Ende stehen Systeme, die aufeinander reagieren, ohne dass ein Mensch dazwischenkommt, Angriff und Gegenangriff in Sekundenfolge. Der Hochfrequenzhandel kennt dafür den Flash Crash. Für den Krieg gibt es dasselbe Wort: Flash War (Telepolis, 24. Juni 2026). Und diese Dynamik macht vor der nuklearen Ebene nicht halt. Das Friedensforschungsinstitut SIPRI stellt fest, dass militärische KI auch außerhalb der Atomwaffen Entscheidungszeiten verkürzt, dass undurchsichtige Empfehlungen eines KI-Systems Entscheider zum Handeln drängen und dass autonome Systeme mit Fähigkeiten gegen strategische Kräfte die Zweitschlagfähigkeit und damit das Gleichgewicht bedrohen (SIPRI, Juni 2025). Zwei Männer haben die Welt gerettet, indem sie nicht handelten: Wassili Archipow, der 1962 vor Kuba seine Zustimmung zum Abschuss eines Atomtorpedos verweigerte, und Stanislaw Petrow, der 1983 einen gemeldeten amerikanischen Raketenstart für einen Fehlalarm hielt. Ein Algorithmus, der eine Zielfunktion verfolgt, hätte in beiden Fällen gehandelt. Und je seltener Fehlalarme dank besserer Technik werden, desto eher wird der nächste für echt gehalten (Telepolis, 25. Juni 2026).
KI gehört nicht in die Gewaltkette
Hier schließt sich der Kreis zu Doonbeg. Trumps Satz setzt voraus, dass das Rennen ein Rennen ist: mit Strecke, Ziellinie und einem Sieger, der danach die Regeln macht. Die drei Mechanismen beschreiben etwas anderes. Eine Fabrik, die bessere Fabriken baut, wächst nicht linear, sondern exponentiell. Politik dagegen arbeitet linear: Anhörung, Entwurf, Ausschuss, Abstimmung, Klage. Bernie Sanders und Greg Casar haben am 3. September ein Gesetz angekündigt, das Superintelligenz dauerhaft verbietet, die Entwicklung an der Grenze pausiert und Verstöße mit bis zu zwanzig Jahren Haft belegt (Sanders, 3. September 2026). Ob es je verabschiedet wird, weiß niemand. Sicher ist nur, dass ein Gesetz Jahre braucht und eine Verdopplung Monate. Dazu kommt, dass niemand den Stand des Rennens kennt. Bei KI und Cyberwaffen geht es um Software, die sich im Verborgenen entwickeln lässt; selbst die eigenen Fähigkeiten sind nur teilweise bekannt, weil man Cyberwaffen nicht in realer Umgebung testen kann (Telepolis, 24. Juni 2026). „We’re leading China“ ist deshalb keine Lagemeldung, sondern eine Behauptung, mit der man begründet, nicht zu bremsen. Zwei Seiten, die sich beide für führend halten und beide nicht bremsen, sind das gefährlichste Format, das dieser Wettbewerb annehmen kann.
Zu spät ist in dieser Logik kein Datum, sondern ein Zustand. Es ist der Moment, in dem Schmidts Hand am Stecker nichts mehr nützt, weil das System, wie Russell zeigt, gelernt hat, dass es abgeschaltet sein Ziel nicht erreicht, und weil es, wie Hinton sagt, Menschen überzeugen kann, es nicht zu tun. Man merkt diesen Moment nicht, wenn er eintritt, sondern erst danach. David Sacks hat Amodei entgegnet, der einfachste Weg, keine Superintelligenz zu bauen, sei, sich darauf zu einigen, sie nicht zu bauen (PBS/AP). Der Satz war als Spott gemeint. Er beschreibt, was tatsächlich nötig wäre, nur dass Sacks es von konkurrierenden Firmen verlangt, die genau diese Selbstbindung nicht durchhalten können, und dass er den Staat, der sie durchsetzen könnte, aus der Pflicht nimmt. Wenn ein Staat in der Verantwortung steht, Schaden von seinen Bürger abzuwehren und diese zu schützen, müsste er spätestens jetzt die Weiterentwicklung zu einer Superintelligenz stoppen.
Was nötig wäre, ist im Kern seit Langem bekannt. KI gehört nicht in die Gewaltkette: nicht in die Zielauswahl, nicht in die Befehlsgebung, nirgends in die nukleare Frühwarnung und Freigabe. Die Entwicklung an der Grenze des Machbaren braucht eine vereinbarte Pause, in der unabhängige Prüfer Zugang haben, so wie Amodei sie für sein eigenes Haus versprochen hat, nur verbindlich und für alle. Und weil sich Fähigkeiten in Software nicht zählen lassen, müssen Verfahren statt Objekte überprüft werden: Freigabeprozesse, Entscheidungsketten, Meldepflichten für Zwischenfälle wie den bei Hugging Face. Internationale Sicherheitspolitiker hatten einmal, z.B. im Palme-Bericht von 1982, verstanden, dass Sicherheit im Atomzeitalter nur mit dem Gegner zu haben ist, nicht gegen ihn. Der INF-Vertrag beseitigte danach eine ganze Waffenklasse: Die USA und Russland vereinbarten, weltweit ihre landgestützten Nuklearraketen mit kürzerer und mittlerer Reichweite und deren infrastrukturelle Vorrichtungen zu zerstören. Der Open Skies-Vertrag schuf Vertrauen durch Einblick, jährlich eine bestimmte Anzahl vereinbarter militärischer Beobachtungsflüge über dem Staatsgebiet anderer Open-Skies-Vertragsstaaten durchzuführen. Beide sind gekündigt oder ausgelaufen, Nachfolger gibt es keine (Telepolis, 25. Juni 2026). Am Tag nach Trumps Auftritt rief Xi Jinping zu mehr internationaler Zusammenarbeit auf (CNN, 14. September 2026). Dass dieser Aufruf aus Peking kommt, beruhigt nicht. Es zeigt, wie billig ein Angebot inzwischen zu haben ist und wie teuer sein Ausschlagen wäre.
Am 20. September hat Trump nun doch noch eine Aufsichtsbehörde für KI, die „AI Force“, angekündigt, fügte jedoch hinzu, dass sie keineswegs dafür sorgen dürfe, die aktuelle Weiterentwicklung zu behindern. Auch verzichtete er auf die Forderung, dass die so dringend benötigte internationale gemeinsame Sicherheitsstruktur in die Wege geleitet wird, denn genau das will er aufgrund seiner nationalchauvinistischen Sicht nicht.
Zu den Autoren
Axel Fersen, friedenspolitisch engagierter Politikwissenschaftler und Autor zeitdiagnostischer Beiträge, Experte für digitale Transformation und Künstliche Intelligenz;
Vorstandsmitglied des Europa-Instituts für Sozial- und Gesundheitsforschung, Berlin.
Er koordiniert den Erhard-Eppler-Kreis und wirkt in der Studiengruppe Technikfolgenabschätzung der Digitalisierung der Vereinigung Deutscher Wissenschaftler (VDW) mit.
https://www.erhard-eppler-kreis.de/uber-uns/
Klaus Moegling, Prof. Dr. i.R., Politikwissenschaftler, Friedensforscher und Soziologe; er lehrte u.a. an verschiedenen Universitäten und Institutionen der Lehrerbildung, zuletzt an der Universität Kassel als apl. Professor im Fb Gesellschaftswissenschaften; u.a. Mitglied im wissenschaftlichen Beirat des Erhard-Eppler-Kreises.
Er ist Autor des Buches „Neuordnung. Ist eine friedliche und nachhaltig entwickelte Welt noch möglich?“, das auf seiner Webseite frei lesbar in der 7. aktualisierten und erweiterten Auflage zu finden ist: https://www.klaus-moegling.de/aktuelle-auflage-neuordnung/
Er hat zusammen mit Josef Mühlbauer (Uni Graz) den Band „Wege zum Frieden. Perspektiven der kritischen Friedensforschung“ herausgegeben (Mai 2026, Verlag Westfälisches Dampfboot) gedruckt und im open Access:
https://www.dampfboot-verlag.de/de/buecher/wege-zum-frieden
Quelle:
Klaus Moegling, Axel Fersen
„Whoever wins AI wins“: Warum Trumps Wettrennen in die Katastrophe führen kann
Axel Fersen, Klaus Moegling
Trumps Stupidy and Recklessness vs. Superintelligence
https://www.commondreams.org/opinion/trump-and-superintelligence, 23.9.2026)
