Hi, HA, HA !  Intelligence Artificielle (IA)

Il existe deux formes de rêve, ceux qui relèvent du fantasme et ceux qui répondent à des besoins légitimes. Les premiers ne dépasseront jamais le stade du rêve, les deuxièmes doivent être poursuivis sans relâche jusqu’à leur réalisation.

Certains mettent beaucoup d’espoir dans l’Intelligence Artificielle (IA) comme technologie qui nous permettrait de solutionner nombre de problèmes intervenus au cours de notre développement industriel débridé. Ils poussent même le fantasme jusqu’à envisager l’avènement d’une nouvelle race de machines autonomes qui nous surpasserait en intelligence, nous faisant entrer dans une nouvelle ère dont il serait même difficile de concevoir ce qu’elle pourrait être. Laissons l’inconcevable à la littérature de science-fiction, qui explore autant les pistes de ce que pourrait être notre futur que celles d’univers improbables, simples jeux de l’esprit. L’IA est probablement à ranger dans cette deuxième catégorie et j’entrevois un réel danger à trop investir (dans les deux sens du termes) dans des rêves prométhéens qui, pendant ce temps-là, voient nos problèmes actuels s’accumuler et s’intensifier.

Après avoir surmonté quelques réticences et m’être laissé convaincre par un proche, j’ai regardé en replay le documentaire diffusé sur Arte, iHuman L’intelligence artificielle et nous. J’ai même pris des notes : ce que j’ai entendu était tellement hallucinant que ce fut comme un réflexe d’autodéfense pour supporter un déluge d’informations tantôt délirantes, tantôt anxiogènes, auquel je n’ai pu échapper pendant une heure trente. Il m’était difficile de rester passivement devant mon écran et, dans la mesure où j’étais décidé à écrire sur le sujet, autant garder une trace de propos qui choquaient tellement mon entendement que mes souvenirs risquaient d’en être altérés.

Ce documentaire commence par donner la parole à quelques doux dingues (j’ai cherché, mais je n’ai pas trouvé mieux !), à la pensée science-fictionesque, qui sont sérieusement persuadés qu’il est possible de créer une intelligence artificielle surpassant l’intelligence humaine et qui pourrait aller jusqu’à rivaliser avec Dieu ! L’autre partie du film s’emploie à nous foutre la trouille à propos d’applications militaires effrayantes et de surveillance de masse déjà en place ou en plein boum de développement. Sont saupoudrées, de-ci de-là, quelques mises en garde timides sur les dangers potentiels de telles applications, aussitôt contrecarrées par un discours déprimant à souhait autour du thème « qu’on ne le veuille ou non, il est trop tard, car on ne peut plus faire machine arrière ! ».

Entrons dans le vif du sujet avec un florilège de propos que j’ai relevé :

« Cette technologie remet en question ce que signifie être humain. »
« Ce sera une nouvelle forme de vie. Elle va nous rendre obsolète. »
« L’IA est une très bonne chose, car elle va résoudre tous nos problèmes actuels, mais elle va aussi en créer de nouveaux. »
« Nous serons capables de créer des êtres totalement autonomes, capables de poursuivre leurs propres objectifs. Et puisque ces êtres deviendront plus intelligents que les humains, il sera crucial que leurs objectifs soient en adéquations avec les nôtres. »
« On ignore les conséquences que cela pourrait avoir. »
« Le but ultime de la recherche est de concevoir une intelligence capable de tout faire mieux que nous. Nous créons un véritable Dieu qui va révolutionner la vie telle que nous la connaissons. »
« Bien sûr, les gens devraient avoir droit au respect de la vie privée en matière d’orientation sexuelle ou d’opinion politique, mais je crains que, dans un environnement technologique, ce soit fondamentalement impossible. Il faut savoir qu’il n’y a aucun retour en arrière possible, aucune échappatoire aux algorithmes. Plus vite nous accepterons l’inévitable et dérangeante vérité que s’en est fini de la sphère privée, plus vite nous pourrons réfléchir à la manière de préparer nos sociétés à l’ère post vie privée. »

Je vous avais prévenu, c’est du lourd !

Persuadés que nous sommes face à des problèmes qui nous dépassent, ces théoriciens de l’IAG* rêvent de s’en débarrasser en les confiant à des machines qui seraient plus capables que nous. Elles pourraient même développer une forme d’intelligence qui nous serait supérieur. Mais alors si ces super cerveaux devaient malgré tout générer d’autres problèmes, le risque ne serait-il pas que ceux-ci soient d’un type tellement nouveau que nous ne soyons même plus capable de les comprendre ou pire, d’en avoir conscience ?

Qu’entend-on exactement par intelligence ? Francis Hallé, un botaniste et explorateur qui a étudié des formes de vie plus primitives que les nôtres comme celle des plantes, en donne cette définition : « Est intelligent un être vivant qui arrive à résoudre tous les problèmes qu’il rencontre au cours de sa vie et qui le ferait mourir s’il ne les résolvait pas. »

Mais si vous n’avez pas véritablement de vie, quel genre d’intelligence allez-vous développer ? Peut-on seulement parler d’intelligence, lorsque vos neurones ne servent qu’à résoudre des problèmes qui ne vous concerne pas ? Avez-vous-même un « vous » ?

Ajoutons à cela que l’intelligence ne se résume pas seulement, chez l’être humain, à résoudre les problèmes vitaux de l’existence. Elle excelle aussi dans des domaines aussi éloignés de nos besoins primaires que ceux des arts par exemple ? Et nous y puisons d’immenses satisfactions qui nous semblent… vitales pour nous épanouir et prospérer. Et oui, notre épanouissement fait partie de nos besoins vitaux, fondamentaux, existentielles, sans quoi la vie nous paraitrait fade, sans saveur. Elle n’aurait plus de sens et nous ôterait la motivation nécessaire pour lutter pour notre survie. Les deux sont intimement liés.

Il faudrait aussi évoquer le besoin impérieux qui nous pousse à nous rassembler, à nous entraider, à faire société. Autant de domaines qui resterons à jamais étrangers à l’imaginaire d’une machine (si tant est qu’elle en ait un) faite de silicone et de circuits imprimés, quel que soit par ailleurs le nombre de terra-octets qu’elle est capable d’analyser à la nanoseconde.

Les propos des experts s’exprimant dans ce documentaire étaient parfois illustrés par des exemples d’IA en action. C’est ainsi que nous avons pu nous extasier devant un drôle d’automate, ressemblant à une araignée en acier, qui montait fièrement une marche, pendant qu’un geek s’enthousiasmait du fait que « les avantages de l’IA dépasse de si loin ses inconvénients que nous n’allons pas nous arrêter en si bon chemin ». Il semblerait qu’il y ait effectivement encore du chemin à faire ! Beaucoup de chemin…

Je dois confesser, néanmoins, que mon premier réflexe fut de m’extasier moi aussi devant la performance du robot qui n’a pas trébuché ! Mais vers qui allait mes louanges ? Vers cet assemblage de pièces mécaniques ? Non ! Vers les concepteurs humains de ce qui demeure, malgré tout, une prouesse technologique.

Il y aura toujours des êtres humains derrière les machines. Même lorsque l’on parle abusivement de machines autonomes, elles ne le sont que dans le cadre des tâches que nous leur assignons. C’est nous qui appuyons sur le bouton qui va faire décoller un drone pour aller bombarder je ne sais quel repaire terroriste. Les autorités militaires l’ont bien compris lorsqu’elles font en sorte que les opérateurs affectés à ce type de missions soi-disant virtuelles habitent suffisamment loin de leur lieu d’exercice de leur métier. Ainsi le temps de trajet travail-domicile leur sert de sas de décompression psychologique, avant qu’ils ne reprennent une vie normale d’époux, de père ou de voisin.

La pression reposera toujours sur nos épaules, les robots ne pourront pas s’en charger à notre place. Elle sera même d’autant plus forte que nous chercherons à tout prix à nous en débarrasser. Nous sommes seules dépositaires de notre conscience. Le seul moyen d’y échapper est l’inconscience. Mais qui pourrait sérieusement vouloir bâtir un modèle de société sur un tel programme ? La Silicon Valley est réputée pour un usage important des stupéfiants au sein de ses équipes de développement, ceci expliquant peut-être en partie cela…

La deuxième partie du film aborde ce qui est déjà une réalité et qui n’est pas triste ! Ou plutôt si, très triste, déprimant même. Drones, robots tueurs, réseaux de caméras de surveillance, reconnaissance faciale… Bienvenue dans le monde de demain qui commence aujourd’hui ! Il semblerait que, pendant que nos doux dingues continuent à fantasmer sur l’apparition d’une nouvelle forme d’intelligence supérieure, ceux qui financent leurs recherches ne perdent pas de temps en détournant tout ce qu’ils peuvent exploiter d’ores et déjà de leurs avancées technologiques au profit d’objectifs nettement moins nobles que l’avènement d’une race supérieure.

Le danger est bien là, car ne l’oublions pas, derrière les machines, il y a toujours des hommes et, en l’homme, le meilleur comme le pire se côtoient.

C’est dans la bouche d’une commissaire européenne, Vera Journova, qu’est venue, à la toute fin du film, cette mise en garde peu rassurante : « Quand on parle de reconnaissance faciale, je repense parfois aux heures les plus sombres de notre histoire, quand les gens devaient vivre dans un système où l’on acceptait une partie de la société tandis que l’on condamnait l’autre à la mort. Que n’aurait demandé Mengele pour disposer d’un tel instrument ? Il permettrait une sélection très rapide et efficace. C’est une vision apocalyptique. »

C’est un danger que nous ne pouvons exclure. Mais d’où nous vient ce besoin de s’espionner les uns les autres, que ce soit à travers le voyeurisme (niveau individuel) ou la surveillance de masse (niveau collectif) ? D’où nous vient cette méfiance généralisée, ironiquement légitimée par la crise du coronavirus avec le port du masque et la distanciation sociale ?

« Il n’y a pas d’étranger sur Terre », nous rappelle avec justesse la Cimade. Nous avons, avec nos télescopes géants, scruté l’espace à des années-lumière et, jusqu’à preuve du contraire, il n’y a pas non plus d’étrangers dans l’univers. Nous sommes seuls. Personne ne nous dispute notre position au sommet de la pyramide de l’évolution. Alors de qui avons-nous peur ?

Il semblerait bien que ce soit de nous-même, de ce que nous sommes capables de faire, de jusqu’où nous sommes capables d’aller. Quelqu’un doit absolument nous stopper. D’où l’idée saugrenue de gaspiller encore un peu plus les ressources de la seule planète que nous ayons : « On peut fabriquer un cerveau en silicone, c’est possible. Les premières IAG seront en fait de très, très gros data center qui seront gourmands en énergie et consommeront autant que 10 millions de foyers. »

Génial ! 10 millions de foyers, cela représente combien de cerveaux disponibles qui pourraient être employés à reprendre le contrôle sur nous-mêmes et arrêter de nous égarer dans des chimères ? Nous disposons des ressources, elles sont totalement écologiques et recyclables à l’infini et c’est en nous qu’elles gisent, inexplorées. Nous avons parfois tendance à l’oublier.

––––––––––

Il était une fois un éminent chercheur qui interpella Dieu en ces termes : « Seigneur, je te défie. Je suis maintenant ton égal. J’ai réussi à créer la vie à partir d’une poignée de terre. »

Dieu lui répond : « Intéressant. Montre-moi un peu ce que tu sais faire. »

L’homme se penche alors vers le sol pour ramasser une poignée de terre, mais Dieu l’arrête tout de suite : « Ah, non ! Pas celle-là, elle m’appartient. »

––––––––––

« Les faits ne sont pas effrayants, mais si vous voulez les éviter, leur tourner le dos et fuir, c’est cela qui est effrayant. » Jiddu Krisnamurti

 

* Intelligence Artificielle Générale, qui serait un cran au-dessus de l’Intelligence Artificielle Amicale. Il y aurait beaucoup à dire aussi sur la sémantique employée.