L’intelligence artificielle, le bien et le mal et le défi de la transformation humaine

Nous vivons actuellement une révolution technologique extraordinaire.

L’intelligence artificielle promet de transformer la médecine, l’éducation, la communication, la science et presque tous les aspects de l’existence humaine. Nous sommes en train de développer des systèmes de plus en plus sophistiqués pour aborder des problèmes que les générations précédentes pouvaient à peine imaginer résoudre.

Il se peut toutefois qu’il manque à ce processus extraordinaire quelque chose de fondamental.

Nous investissons d’énormes ressources dans le développement de technologies pour résoudre nos problèmes, tout en accordant beaucoup moins d’attention aux contradictions humaines qui ont contribué à créer bon nombre de ces problèmes au départ.

Au nom de la sécurité, nous développons des armes de plus en plus sophistiquées, et en même temps nous consacrons beaucoup moins d’efforts à surmonter les conflits et les peurs qui nous font nous sentir en insécurité. Nous créons des technologies de communication extraordinaires, capables de relier les gens sur toute la planète, mais nous manquons souvent de la patience et de la volonté nécessaires pour nous comprendre véritablement les uns les autres.

Nous développons des systèmes capables de traiter des quantités d’informations sans précédent, tout en continuant à nous poser les mêmes questions fondamentales qui ont accompagné l’humanité depuis des milliers d’années : qu’est-ce que le bien ? Qu’est-ce que le mal ? Comment faire la distinction entre les deux ? Et pourquoi choisissons-nous parfois sciemment des actions qui contredisent nos aspirations les plus profondes ?

Ce ne sont pas de simples questions philosophiques. Elles ont une incidence sur la direction que nous donnons à nos vies, sur le sens de nos actions et sur le type de monde que nous créons ensemble.

La technologie peut élargir nos capacités, mais elle ne peut à elle seule résoudre les contradictions inhérentes à la conscience humaine.

Nous sommes devenus extrêmement capables de transformer le monde extérieur, mais nous avons accordé beaucoup moins d’attention au développement de notre capacité à nous transformer nous-mêmes. Peut-être que notre plus grand défi n’est pas simplement de devenir plus intelligents, ou plus avancés sur le plan technologique, mais de développer la conscience nécessaire pour choisir le Bien plutôt que le Mal.

Car derrière chaque invention, chaque institution et chaque avancée technologique se trouvent des décisions humaines.

Et chaque décision contribue, d’une manière ou d’une autre, au monde que nous sommes en train de créer.

La même intelligence, deux voies opposées

Nous, les êtres humains, sommes capables d’accomplir les actes les plus profonds et les plus significatifs. Nous pouvons sauver des vies, créer des médicaments, prolonger l’espérance de vie, créer de l’art, surmonter la souffrance, et tisser des liens qui donnent un sens à notre existence.

Cependant, nous pouvons également utiliser notre intelligence pour provoquer une destruction inimaginable.

La même connaissance scientifique qui nous aide à comprendre la structure de la matière peut contribuer au développement d’armes nucléaires. La même capacité technologique qui nous permet de communiquer d’un continent à l’autre peut être utilisée pour organiser la violence et la guerre.

La différence ne réside pas nécessairement dans l’intelligence en soi, mais dans la direction que nous décidons de lui donner.

Le Bien et le Mal ne sont pas simplement des concepts philosophiques abstraits. Ils deviennent des réalités à travers les actions humaines et les décisions qui les précèdent.

Une personne peut posséder un savoir extraordinaire et, malgré tout, prendre des décisions destructrices. Une autre peut disposer de ressources limitées et, pourtant, mener à bien des actions qui améliorent profondément la vie d’autrui.

Cette distinction soulève une question importante sur la manière dont nous préparons les générations futures. Nous demandons souvent aux enfants ce qu’ils aimeraient faire plus tard : dans quel domaine voudraient-ils travailler, quelle activité voudraient-ils exercer ?

Mais il s’agit là de métiers et de possibilités. Cela décrit ce qu’une personne pourrait faire sans pour autant nous en dire nécessairement plus sur le sens de ses actions.

La question la plus fondamentale que nous devrions peut-être nous poser est : « Quel genre d’être humain veux-tu devenir, et que souhaites-tu que tes actes apportent au monde ? ».

Cette question nous accompagne tout au long de notre vie. Nous y répondons chaque jour à travers nos décisions.

Choisir la vie

Google avait autrefois adopté la célèbre devise « Ne pas nuire ».

Il s’agissait là d’une déclaration remarquable de la part d’une entreprise technologique, qui suggérait que le développement technologique devait être guidé par un principe éthique et non uniquement par la réussite commerciale.

Au fil du temps, cette phrase a perdu de son importance dans le code de conduite d’entreprise de Google, alors même que la société se trouvait impliquée dans des débats concernant les applications militaires de ses technologies.

La question n’est pas de savoir si une entreprise peut proclamer un principe éthique, mais si ce principe continue à guider ses décisions lorsque les intérêts commerciaux, la concurrence et les pressions politiques entrent en jeu.

Une expression bien plus ancienne de ce défi éthique apparaît dans la Bible hébraïque. Dans le Deutéronome 30:19, Moïse présente le choix entre la vie et la mort, la bénédiction et la malédiction, et exhorte les Israélites : « Choisis donc la vie. »

Quelle déclaration extraordinaire !

Il ne se contente pas de nous dire que la vie a de la valeur. Il nous propose un choix, en reconnaissant que les êtres humains peuvent emprunter différentes voies et en nous demandant de choisir en toute conscience celle qui confirme la vie.

Des milliers d’années plus tard, nous sommes confrontés à la même question, même si les conséquences de nos choix sont désormais bien plus fondamentales. Nous disposons de technologies capables de prolonger la vie humaine et d’autres capables de détruire l’humanité. La question essentielle reste la même : que choisissons-nous ?

Une éducation qui nous enseigne comment faire, mais pas toujours pour quoi

Nos systèmes éducatifs ont accompli des choses exceptionnelles. Les mathématiques, les sciences, la médecine, l’ingénierie et bien d’autres disciplines ont transformé l’existence humaine. Mais quel est le but de la connaissance ?

Nous enseignons aux jeunes à calculer, à analyser, à rivaliser, à produire et à réussir. Cependant, les questions relatives au sens et aux conséquences de leurs actes sont souvent reléguées au second plan.

Le développement des armes nucléaires illustre particulièrement clairement cette contradiction.

D’énormes ressources ont été consacrées en matière de recherche scientifique, de finances et de main-d’œuvre à la production d’armes, dont l’utilisation pourrait détruire des villes entières, et de menacer l’avenir de l’humanité.

Bon nombre des personnes concernées sont conscientes de leur potentiel destructeur. Certaines considèrent que leur travail est nécessaire à la dissuasion et à la sécurité ; d’autres rejettent cela, jugeant que c’est incompatible avec la protection de la vie humaine.

La connaissance technique à elle seule ne suffit pas à résoudre ces problèmes.

Par conséquent, l’éducation doit aller au-delà de la simple transmission d’informations et du développement de compétences professionnelles. Elle doit également aider les individus à examiner leurs intentions, à comprendre les conséquences de leurs actes, et à développer leur capacité de jugement éthique.

Avant de nous demander ce dont nous sommes capables, nous devons apprendre à nous demander ce qui vaut la peine d’être fait.

Cela revêt une importance particulière à mesure que l’intelligence artificielle élargit les possibilités qui sont à notre portée.

L’IA pourrait accélérer les découvertes scientifiques, améliorer les diagnostics médicaux, élargir l’accès à l’éducation et contribuer à relever les défis environnementaux. Elle pourrait également faciliter la surveillance, la manipulation, la guerre autonome et les systèmes militaires de plus en plus destructeurs.

Ses applications peuvent servir aussi bien au Bien qu’au Mal, parfois simultanément.

Mais le problème fondamental n’est pas apparu avec l’intelligence artificielle. Il existait déjà bien avant l’apparition des ordinateurs, de l’industrialisation et de la science moderne.

Mettre complètement un terme à l’IA ne résoudrait pas les contradictions humaines qui déterminent son développement. Cela ne signifie pas non plus que les applications dangereuses doivent rester sans limites.

Le défi le plus profond consiste à comprendre pourquoi nous continuons à développer des technologies susceptibles de menacer l’existence même que nous prétendons valoriser.

L’intelligence artificielle pose à l’humanité une question ancestrale à une échelle sans précédent. Que choisissons-nous de créer, et quel type d’avenir choisissons-nous à travers nos créations ?

Les décisions qui façonnent nos sociétés

Ces mêmes questions vont au-delà de la technologie et concernent la manière dont nous organisons nos sociétés.

Nos institutions, nos économies, nos gouvernements et nos systèmes de communication sont, en fin de compte, les expressions de décisions humaines accumulées. Ce que nous avons décidé en matière d’éducation, de santé publique, de sécurité, de vie économique et de résolution des conflits reflète nos priorités quant à ce à quoi nous accordons de la valeur, et au type de société que nous souhaitons créer.

Ces décisions ne sont pas prises uniquement par les responsables politiques. Les institutions, les communautés et les individus contribuent à définir l’orientation de la société par les décisions qu’ils prennent et les actions qu’ils soutiennent.

Les médias et les réseaux sociaux font partie intégrante de ce processus. Ils influencent ce que nous voyons, ce dont nous discutons, ce que nous craignons, et ce que nous imaginons possible. Ils peuvent amplifier la haine, l’humiliation et la division, mais ils peuvent aussi mettre en lumière des actes de solidarité, de courage, de réconciliation, et de transformation humaine qui, sans cela, pourraient passer inaperçus.

En ce sens, l’information que nous produisons, diffusons et consommons — tout comme les institutions et les relations que nous construisons — contribuent à façonner notre avenir collectif.

Cependant, que nous prenions des décisions en tant qu’individus, institutions ou sociétés, nous finissons toujours par être confrontés à la même difficulté : savoir ce qui est bon ne signifie pas nécessairement que nous allons le choisir.

Apprendre à choisir le bien

Comment savoir si quelque chose est bien ou mal ? Qu’y a-t-il en moi qui me permette de faire la différence ?

Nous pouvons nous appuyer sur les traditions religieuses, les systèmes philosophiques, les connaissances scientifiques, les conventions sociales et les principes juridiques. Ils peuvent tous contribuer à notre compréhension, mais aucun ne peut se substituer entièrement à la responsabilité personnelle consistant à examiner nos propres actes : leurs conséquences pour les autres, mais aussi ce qu’ils suscitent en notre for intérieur.

Une action peut être légale sans être juste, rentable sans être bénéfique, ou socialement acceptée même si elle cause de la souffrance. Une chose peut paraître rationnelle au sein d’un système donné, même si elle contredit nos aspirations les plus profondes en tant qu’êtres humains. Nous pouvons également apprendre à reconnaître ce que les différentes actions suscitent en nous : si elles nous aident à nous sentir plus cohérents et plus proches des autres, ou au contraire divisés, contradictoires, et de plus en plus éloignés de la personne que nous aspirons à devenir.

C’est là que la conscience joue un rôle essentiel. Elle nous permet de reconnaître les contradictions, de prendre en compte l’expérience des autres, d’examiner les conséquences de nos actes, et de prendre conscience de ce que nos actions produisent sur nous.

En même temps, la conscience exige de l’humilité. Nos jugements peuvent être erronés ; c’est pourquoi nous avons besoin de dialogue, d’expérience, de connaissances et de la volonté de remettre en question nos hypothèses. Avec le temps, nous pouvons apprendre à discerner une orientation dans nos actions : si elles augmentent la contradiction et la souffrance en nous-mêmes et chez les autres, ou si elles créent davantage d’unité, de liberté, et de possibilités.

Mais reconnaître une direction ne signifie pas pour autant que nous allons la suivre. Nous pouvons comprendre qu’une action est néfaste et, malgré tout, la choisir par peur, par pression, par habitude ou par intérêt personnel. Le défi ne consiste donc pas seulement à reconnaître ce qui est Bon, mais à développer notre capacité à agir en accord avec ce que nous reconnaissons.

Ce défi prend une nouvelle signification à mesure que nos capacités technologiques se développent. Nous sommes de plus en plus capables de réaliser des choses que les générations précédentes pouvaient à peine imaginer, sans pour autant que notre capacité à choisir en toute conscience ce que nous devons faire évolue nécessairement au même rythme. Nous avons appris à résoudre des problèmes de plus en plus complexes, mais avons-nous appris à prendre des décisions de plus en plus conscientes ?

Le sens de l’histoire de l’humanité

L’histoire de l’humanité reflète les mêmes contradictions que celles que nous rencontrons dans nos vies individuelles. Nous avons créé des possibilités extraordinaires pour la vie, tout en développant des moyens de destruction de plus en plus puissants. Nous avons étendu les droits humains, fait progresser la médecine, augmenté l’espérance de vie, et créé de nouvelles possibilités de communication et de coopération, tout en continuant à subir la guerre, l’exploitation, la violence et la souffrance.

Cependant, l’histoire nous rappelle également que les conditions dont nous héritons ne sont pas nécessairement immuables. Des pratiques et des institutions autrefois considérées comme inévitables ont été remises en question et transformées. De nouvelles possibilités ont vu le jour parce que certaines personnes ont su imaginer autre chose, et agir pour les concrétiser.

Cela ne signifie pas pour autant que l’histoire évolue inévitablement vers le Bien. Rien ne garantit qu’elle suive cette direction. La direction dépend, au moins en partie, des décisions prises par les humains.

Peut-être, alors, qu’un indicateur du développement humain ne réside pas simplement dans notre capacité croissante à transformer le monde qui nous entoure, mais dans le développement de notre capacité à choisir en toute conscience la direction de cette transformation.

L’être humain que nous choisissons de devenir

Nous imaginons souvent que l’avenir sera déterminé par les gouvernements, les entreprises, les institutions financières, les forces armées ou des technologies de plus en plus puissantes. Il ne fait aucun doute que ces forces façonnent nos vies, mais leur orientation est également le résultat de décisions humaines.

L’intelligence artificielle peut atteindre des capacités extraordinaires, mais son développement et son utilisation restent des questions relevant de la responsabilité humaine. L’humanité a consacré des siècles à développer sa capacité à transformer le monde extérieur. Notre plus grand défi aujourd’hui est peut-être de développer notre capacité à nous transformer nous-mêmes : prendre de la distance par rapport aux circonstances immédiates, reconnaître les contradictions, nous reconnecter à nos aspirations les plus profondes, et choisir consciemment une voie.

Cette capacité est propre à tout être humain. La lutte entre ce que nous appelons le Bien et le Mal ne se joue pas seulement au sein des institutions, dans les conflits ou les technologies, mais aussi dans les décisions que nous prenons au quotidien.

La décision la plus importante est peut-être celle que Moïse a proposée à l’humanité il y a des milliers d’années : « Choisis la vie. » Non pas simplement comme une croyance ou une aspiration, mais comme une orientation qui s’exprime à travers nos actions. Notre capacité à prendre cette décision est quelque chose que nous pouvons cultiver et approfondir tout au long de notre vie.

C’est peut-être dans ces paroles de Silo que s’exprime la signification la plus profonde de ce processus :

« C’est par la bonté, l’élimination des contradictions internes, les actes conscients, et un besoin sincère d’évolution, que l’être humain fait naître la lumière dans son esprit. » (Le Message de Silo, Annexe, 2002)

Peut-être que notre plus grande création n’est pas la technologie que nous développons, mais l’être humain que nous devenons à travers nos décisions.

 

Traduction : Ginette Baudelet