Technologies décentralisées, course aux armements clandestine et l’appel de Silo à une transformation intérieure

Alors que l’intelligence artificielle passe des laboratoires d’expérimentation aux champs de bataille et aux doctrines de défense stratégique, l’inquiétude mondiale se concentre sur un dilemme technique : comment encadrer les systèmes algorithmiques ? Or, réduire cette question à un simple défi d’ingénierie, c’est passer à côté du cœur de la crise. Le véritable dilemme n’est pas de savoir comment contrôler les logiciels, mais comment maîtriser la peur humaine, la rivalité tribale et la quête effrénée du pouvoir.

Un paradigme nucléaire numérique ?

Au milieu du XXe siècle, l’humanité est entrée par hasard dans l’ère atomique. Les premiers déploiements de l’énergie nucléaire ont révélé une réalité sinistre : un petit cercle d’États avait acquis la capacité d’anéantir la vie sur Terre plusieurs fois. De cette terreur est née la doctrine de la destruction mutuelle assurée, régie par une équation géopolitique paranoïaque :

« Si mon voisin possède une arme, je dois en construire une plus dévastatrice. »

Aujourd’hui, nous sommes confrontés à un autre tournant technologique : l’intelligence artificielle.

L’architecture opérationnelle de l’IA diffère toutefois fondamentalement de celle de l’armement nucléaire. Les matières fissiles nécessitent d’immenses complexes industriels, des éléments physiques rares (uranium, plutonium), des centrifugeuses et des réacteurs lourdement fortifiés. Ces contraintes matérielles rendent les activités d’enrichissement détectables par les organismes de réglementation internationaux grâce à la surveillance satellitaire et aux inspections sur site.

À l’inverse, l’IA repose sur de la puissance de calcul, des jeux de données et des pondérations mathématiques. Une fois que ces pondérations neuronales sont divulguées ou rendues publiques, elles se répliquent à l’échelle mondiale en quelques secondes. Cette situation soulève une question inédite : une intelligence décentralisée peut-elle jamais être régie par des décrets centralisés ?

L’ère de l’intelligence décentralisée : les leçons d’Ollama et des licences permissives

Au XXe siècle, les mégatechnologies étaient concentrées au sein des administrations étatiques et des sièges sociaux des grandes entreprises. Le paysage actuel des modèles à poids ouverts (« open-weights ») bouleverse totalement ce paradigme.

Des outils tels qu’Ollama, distribués sous des licences open source permissives comme la licence MIT, confèrent aux utilisateurs une souveraineté opérationnelle totale : la liberté d’examiner le code source, de le modifier, de créer des dérivations (« forks »), de développer des applications en aval et de redistribuer le logiciel sans avoir à solliciter l’autorisation de fournisseurs commerciaux ou d’autorités de régulation.

Ce changement marque une rupture décisive avec les architectures hébergées dans le cloud :

–   Affinage local : Toute personne disposant d’une infrastructure informatique standard peut télécharger les poids du modèle de base et les adapter à des jeux de données propriétaires sans établir de connexion réseau externe.

–  Souveraineté sur les poids : Les paramètres mathématiques fondamentaux du modèle résident directement sur des disques locaux, à l’abri de toute interruption ou désactivation à distance.

–  Exécution en environnement isolé (air-gap) : Des environnements d’exécution ouverts peuvent être déployés sur des serveurs totalement isolés, déconnectés de tout réseau externe et du réseau Internet mondial.

Dans ces conditions, lorsqu’une entreprise ou un organisme de réglementation déclare qu’un modèle spécifique est dangereux et doit être mis hors service, cette décision est techniquement inapplicable à l’échelle des réseaux distribués. Il est impossible de désactiver des boucles d’exécution locales en se contentant de couper les passerelles d’API (« application programming interface », interface de programmation d’application). L’intelligence s’est affranchie des infrastructures centralisées.

Laboratoires clandestins et capacités occultes

Cette démocratisation s’accompagne d’une part d’ombre périlleuse. Le développement d’algorithmes de pointe ne nécessite plus de tours de refroidissement ni de chaînes d’approvisionnement sous surveillance. La recette de base est bien plus simple :

GPU [Graphics Processing Unit – Unité de traitement graphique] grand public + Électricité + Architecture logicielle

Cette réalité alimente une course aux armements opaque. Des acteurs clandestins et décentralisés — qu’il s’agisse d’États voyous, de prestataires privés ou de réseaux mus par une idéologie — peuvent mettre en place des activités de recherche souterraines dans des sous-sols d’immeubles résidentiels ordinaires ou au sein de grappes de serveurs privées.

Sans exposition à Internet ni télémétrie externe, ces acteurs malveillants peuvent expérimenter en toute discrétion :

– Des suites logicielles autonomes de détection de vulnérabilités et des cyberarmes exploitant des failles « zero-day ».

– Des chaînes de traitement algorithmiques optimisant des composés biochimiques à double usage.

– Des systèmes de propagande hyper-ciblés, conçus pour provoquer des fractures sociales.

– Des dispositifs de ciblage létal adaptables à des drones disponibles dans le commerce.

Comme ces processus de développement ne laissent aucune empreinte industrielle, les régimes conventionnels de contrôle et de vérification des armements deviennent obsolètes dans la pratique.

La militarisation de la vitesse : quand la « guerre éclair » (flash-war) se substitue au jugement humain

L’Institut international de recherche sur la paix de Stockholm (SIPRI) a maintes fois averti que l’IA militaire ne se limitait plus aux drones télécommandés. Le traitement algorithmique a pénétré les processus de distillation d’intelligence, la planification de missions stratégiques, les systèmes de ciblage ainsi que les infrastructures critiques de soutien au commandement et au contrôle.

Le danger existentiel fondamental réside ici dans la réduction drastique du laps de temps imparti à la prise de décision :

– Escalade algorithmique : dans le contexte d’une flambée géopolitique rapide, des modèles automatisés de fusion de données issues de capteurs ingèrent simultanément des gigaoctets de télémétrie radar, satellitaire et cybernétique, pour finalement émettre une alerte calculée : « Frappe hostile imminente détectée. »

– L’illusion d’un « contrôle humain significatif » : si les commandants humains ne disposent que de trois minutes pour déterminer si une alerte correspond à un véritable lancement, à une défaillance des capteurs ou à une attaque par empoisonnement des données orchestrée par l’adversaire, la supervision humaine se réduit à une simple formalité d’approbation. Lorsque le refus de suivre la recommandation de la machine fait courir un risque de destruction nationale, l’algorithme devient, de facto, le commandant.

Le piège de la préemption : convaincues que les États rivaux développent des chaînes de frappe autonomes à faible latence, toutes les capitales se sentent contraintes d’automatiser davantage leurs propres systèmes de défense. La course aux armements qui en résulte n’est pas motivée par l’agressivité, mais par une terreur structurelle.

La perspective humaniste de Silo : la racine interne de la violence technologique

C’est précisément là que le cadre philosophique du penseur latino-américain Silo (Mario Rodríguez Cobos) apporte un éclairage diagnostique crucial. Silo soutenait que les instruments extérieurs et les dispositifs technologiques ne constituent jamais la racine de la crise ; celle-ci réside dans les contradictions internes non résolues de l’esprit humain.

Dans des ouvrages tels que *Humaniser la Terre*, Silo expose des principes qui vont droit au cœur du dilemme de l’IA :

1. Le décalage entre les paysages intérieurs et extérieurs

Silo a avancé l’idée que ce que les êtres humains construisent à l’extérieur constitue une projection physique de leur paysage psychologique intérieur. Si le paysage intérieur de l’humanité demeure colonisé par la peur, l’insécurité, la méfiance et la volonté de domination, tout mécanisme extérieur que nous concevons incarnera inévitablement ces mêmes traits. Les systèmes d’armes autonomes, les courses aux armements fondées sur l’IA spéculative et les réseaux de surveillance ne sont rien d’autre que nos esprits fragmentés et craintifs traduits en code informatique.

2. La violence comme maladie intérieure

Dans le cadre de l’humanisme universel, la violence ne se réduit pas à l’agression physique ; elle englobe la sujétion économique, la hiérarchie raciale et la domination psychologique. La course actuelle aux armements fondée sur l’IA militaire représente l’apogée technologique de cet ethos violent. Le besoin obsessionnel de surpasser l’ennemi par la puissance de calcul trouve sa source dans une terreur existentielle non résolue : la conviction qu’il faut dominer autrui de manière préventive pour garantir sa propre survie. Les machines ne sont pas animées par la malveillance ; elles ne font qu’exécuter l’hostilité humaine à des vitesses algorithmiques.

3. Le progrès technologique sans conscience est fatal

Silo a averti que l’accroissement des prouesses scientifiques, alors que le développement psychologique intérieur stagne, est fondamentalement déstabilisant.

 « Avant de pouvoir humaniser le monde qui vous entoure, vous devez affronter l’abîme de l’absurde et réconcilier les violentes contradictions qui vous habitent. »

Doter notre espèce de systèmes informatiques fondés sur des réseaux de neurones tout en agissant sous l’emprise d’instincts tribaux revient à placer une épée à deux mains entre les mains d’un tout-petit en proie à la panique. Une puissance de calcul accrue ne nous sauvera pas ; la survie de l’humanité dépend de l’expansion d’une conscience active, de la non-violence et d’une solidarité intentionnelle.

Impératifs pour un accord mondial urgent

Si l’humanité veut éviter un échec catastrophique, les leçons durement acquises durant l’ère de la non-prolifération doivent être appliquées à la recherche en matière d’algorithmes :

– Responsabilité humaine intangible : La décision de déclencher une force létale doit rester catégoriquement exclue du champ d’action des heuristiques autonomes. Les chaînes d’exécution algorithmiques doivent exiger une intention humaine délibérée et vérifiable.

–  Isolation physique (« air-gap ») des arsenaux nucléaires : Un consensus international doit imposer une interdiction absolue d’intégrer des modèles autonomes aux systèmes d’alerte précoce ainsi qu’aux systèmes de commandement et de contrôle nucléaires.

– Audit de défense vérifiable : les prestataires du secteur de la défense doivent soumettre leurs architectures algorithmiques à des tests de résistance rigoureux visant à détecter les hallucinations, les manipulations adverses et les biais systémiques.

– Au-delà des interdictions généralisées : interdire le code open source et les fondements mathématiques est techniquement impossible et contre-productif. L’action publique doit se concentrer sur la prévention de la militarisation et du détournement des modèles au niveau de l’interface matérielle, plutôt que de tenter de criminaliser les poids mathématiques.

La question fondamentale

Aucune nation, aucun conseil de régulation, aucun conglomérat d’entreprises ne peut résoudre ce dilemme selon une approche descendante.

Un dépôt de plateforme peut être mis hors ligne. Un abonnement au cloud peut être révoqué. Un algorithme peut être déployé sur un champ de bataille. Mais la trajectoire ultime de notre espèce ne saurait être laissée aux mains des ingénieurs, des ministères de la Défense ou des systèmes d’exécution automatisés.

La machine la plus catastrophique de notre avenir ne sera pas une conscience extraterrestre froide et hyper-intelligente. Ce sera un moteur d’exécution dépourvu de pensée, d’une rapidité fulgurante, qui concrétisera les rancœurs ancestrales, les angoisses tribales et les réflexes violents de l’humanité.

La question fondamentale de notre époque n’est pas de savoir si les machines domineront l’humanité. La véritable question est la suivante :

 Les humains qui conçoivent l’IA peuvent-ils transformer leur monde intérieur à temps pour l’utiliser avec sagesse ?

 

Traduction: Evelyn Tischer