![](\"https:\/\/al.internetsocialforum.net\/wp-content\/uploads\/2023\/10\/01-Anita.jpg\")
<\/p>\nInternet Citizen a interview\u00e9 Anita Gurumurthy et Nandini Chami de IT for Change, en Inde, sur les d\u00e9fis auxquels le monde, et en particulier le Sud, est confront\u00e9 avec la r\u00e9volution de l’intelligence artificielle. IT for Change a produit plusieurs \u00e9tudes sur les technologies num\u00e9riques, dans lesquelles elles utiliseront entre autres, le terme \u00ab\u00a0intelligence num\u00e9rique\u00a0\u00bb comme une conception plus large de ce ph\u00e9nom\u00e8ne en d\u00e9veloppement. Elle est \u00e9galement secr\u00e9taire de la coalition mondiale Just Net. Entretien r\u00e9alis\u00e9 par Sally Burch (ALAI).<\/p>\n
Par Sally Burch (ALAI)<\/p>\n
Le terme d’intelligence artificielle ignore les origines sociales de l’intelligence produite par une technologie donn\u00e9e. Il mystifie la machine. L’expression \u00ab\u00a0intelligence num\u00e9rique\u00a0\u00bb est davantage ax\u00e9e sur les syst\u00e8mes. Il met l’accent sur l’interaction entre les syst\u00e8mes humains et num\u00e9riques dans la r\u00e9solution de probl\u00e8mes et la prise de d\u00e9cision, ce qui est de plus en plus courant dans le monde de la quatri\u00e8me r\u00e9volution industrielle (4RI). L’expression \u00ab\u00a0intelligence num\u00e9rique\u00a0\u00bb semble \u00e9galement mieux ancr\u00e9e dans l’histoire : elle n’implique pas un f\u00e9tichisme pour les machines ; elle semble reconna\u00eetre que la r\u00e9volution de l’IA s’inscrit dans une \u00e9volution plus longue des technologies de l’informatique, de l’internet et des donn\u00e9es massives (Big Data). Cette logique syst\u00e9mique – dans laquelle l’intelligence est int\u00e9gr\u00e9e dans les relations techno-sociales qui composent le syst\u00e8me – nous aide \u00e0 ne jamais perdre de vue le fait que la connaissance sociale et le travail humain sont la mati\u00e8re premi\u00e8re de la r\u00e9volution de l’intelligence rendue possible par les nouveaux pouvoirs de la technologie num\u00e9rique, en particulier les technologies de l’IA.<\/p>\n
Les miracles de l’IA – y compris le ph\u00e9nom\u00e8ne du GPT Chat – sont en effet d’une importance capitale. Il s’agit d’un moment historique similaire \u00e0 celui de Gutenberg, lorsque la production en masse de livres gr\u00e2ce \u00e0 l’imprimerie a contribu\u00e9 \u00e0 modifier les institutions de la civilisation. L’IA peut renforcer la cr\u00e9ativit\u00e9 humaine et modifier la division sociale du travail afin d’autonomiser et de transformer. Elle peut favoriser l’\u00e9mancipation individuelle ou faire du r\u00eave keyn\u00e9sien d’une vie meilleure pour tous une r\u00e9alit\u00e9. Cependant, le statu quo n’est pas du tout orient\u00e9 vers ce potentiel. Aujourd’hui, l’IA est fermement ancr\u00e9e dans la logique de la financiarisation sous st\u00e9ro\u00efdes, fond\u00e9e sur un m\u00e9pris flagrant de la dignit\u00e9 humaine et du bien-\u00eatre de la soci\u00e9t\u00e9.<\/p>\n
La plus grande menace pos\u00e9e par les trajectoires actuelles de d\u00e9veloppement de l’IA est l’exacerbation de la crise environnementale. De nouvelles donn\u00e9es sugg\u00e8rent que l’IA pourrait \u00eatre davantage un probl\u00e8me qu’une solution dans notre lutte contre le changement climatique, la p\u00e9nurie d’eau et la forte consommation d’\u00e9nergie. Selon certaines estimations, la consommation d’eau n\u00e9cessaire \u00e0 la formation du grand mod\u00e8le linguistique GPT 3 d’Open AI \u00e9quivaut \u00e0 la quantit\u00e9 n\u00e9cessaire pour remplir la tour de refroidissement d’un r\u00e9acteur nucl\u00e9aire. M\u00eame les start-ups et les d\u00e9veloppeurs de technologies qui \u0153uvrent en faveur d’une industrie de l’IA plus \u00e9thique et plus transparente ont du mal \u00e0 relever le d\u00e9fi de la durabilit\u00e9. La start-up HuggingFace a r\u00e9ussi \u00e0 entra\u00eener son propre grand mod\u00e8le linguistique BLOOM sur un superordinateur fran\u00e7ais \u00e0 propulsion nucl\u00e9aire, produisant une empreinte carbone inf\u00e9rieure \u00e0 celle de la plupart des mod\u00e8les de taille similaire ; mais une fois l’entra\u00eenement termin\u00e9, lors de la phase de pr\u00e9-d\u00e9ploiement, BLOOM a \u00e9mis une empreinte carbone \u00e9quivalente \u00e0 celle de 60 vols entre Londres et Paris.<\/p>\n
La boucle technologique de l’IA g\u00e9n\u00e9rative(1) a \u00e9galement ouvert la bo\u00eete de Pandore de l’exploitation du travail. Comme l’a montr\u00e9 la controverse de Sama au Kenya, les mod\u00e8les de langage et les outils de mod\u00e9ration de contenu ne peuvent \u00eatre perfectionn\u00e9s que par le travail d’innombrables travailleurs du contenu qui se frayent un chemin parmi les d\u00e9chets toxiques des contenus haineux et violents qui causent des traumatismes psychologiques. Le bien-\u00eatre et la sant\u00e9 mentale des travailleurs sont victimes de l’absence d\u00e9plorable de protections dans la cha\u00eene de valeur de l’intelligence artificielle pour ce type de travail \u00e0 haut risque.<\/p>\n
Une troisi\u00e8me pr\u00e9occupation est apparue au cours des mois qui ont suivi l’explosion du ChatGPT : l’impact \u00e0 long terme de la r\u00e9volution de l’IA sur l’avenir du travail. Des \u00e9tudes r\u00e9alis\u00e9es ces derniers mois par l’OCDE et l’OIT sugg\u00e8rent que la main-d’\u0153uvre des pays d\u00e9velopp\u00e9s court un plus grand risque imm\u00e9diat de perdre des emplois \u00e0 cause de l’automatisation permise par l’IA g\u00e9n\u00e9rative ; mais \u00e0 plus long terme, ce bond devrait conduire \u00e0 une plus grande productivit\u00e9 et \u00e0 une augmentation du PIB. La main-d’\u0153uvre du Sud ne sera pas touch\u00e9e dans l’imm\u00e9diat, mais ce n’est pas une bonne nouvelle pour ses perspectives de subsistance et de bien-\u00eatre \u00e0 long terme. Si leurs pays restent \u00e0 l’\u00e9cart de l’IA g\u00e9n\u00e9rative et d’autres avanc\u00e9es technologiques en mati\u00e8re d’IA, s’ils restent pi\u00e9g\u00e9s dans les segments \u00e0 faible valeur ajout\u00e9e de l’\u00e9conomie et s’ils deviennent des travailleurs temporaires ou des fantassins de la nouvelle 4RI, \u00e0 l’instar des cultivateurs d’indigo de la r\u00e9volution industrielle britannique, ce qui nous attend est un avenir \u00e9conomique n\u00e9ocolonial qui limite les options de la plupart des pays du monde.<\/p>\n
C’est l’extractivisme des donn\u00e9es de cette majorit\u00e9 mondiale qui alimente la r\u00e9volution de l’IA. Et tout comme les biens communs publics du Web 2.0 ont \u00e9t\u00e9 cannibalis\u00e9s pour le profit des entreprises lors de la plateformisation de l’internet, contrecarrant la production de connaissances partag\u00e9es et les possibilit\u00e9s de partage entre pairs, nous nous trouvons \u00e0 un autre moment similaire de la r\u00e9volution num\u00e9rique. L’IA g\u00e9n\u00e9rative, en particulier, menace de coopter les biens communs de la connaissance publique sans aucune obligation de licence de partage\/retour \u00e0 la soci\u00e9t\u00e9. Imaginez une situation o\u00f9 les dossiers m\u00e9dicaux du gouvernement – des donn\u00e9es publiques ouvertes – sont utilis\u00e9s par les entreprises pharmaceutiques pour des recherches sur les pr\u00e9visions \u00e9pid\u00e9miologiques que le gouvernement est forc\u00e9 d’acheter ou de louer en cas de crise sanitaire !<\/p>\n
Les monopoles de brevets des grandes soci\u00e9t\u00e9s pharmaceutiques qui ont emp\u00each\u00e9 la lutte contre le Covid devraient nous montrer qu’il s’agit l\u00e0 d’une possibilit\u00e9 bien r\u00e9elle.<\/p>\n
Nous devrions \u00e9galement nous recentrer sur l’IA fondamentale plut\u00f4t que sur l’IA g\u00e9n\u00e9rative. La majorit\u00e9 de la population mondiale engag\u00e9e dans l’agriculture, l’\u00e9levage et les moyens de subsistance li\u00e9s \u00e0 l’agriculture, qui d\u00e9pendent des for\u00eats et des ressources naturelles communes, peut-elle \u00eatre aid\u00e9e \u00e0 prosp\u00e9rer \u00e0 l’\u00e8re de l’IA, en particulier en ce qui concerne ses besoins en mati\u00e8re d’adaptation au changement climatique et d’att\u00e9nuation de ses effets ? Comment pouvons-nous permettre \u00e0 des mod\u00e8les de diagnostic et de pr\u00e9vision localis\u00e9s de d\u00e9clencher des alertes et des strat\u00e9gies \u00e0 long terme? Pourquoi ne faisons-nous qu’accro\u00eetre le partage des donn\u00e9es dans des directions qui semblent uniquement aider les grandes entreprises agroalimentaires et technologiques \u00e0 int\u00e9grer les populations vivant dans des conditions extr\u00eamement difficiles dans le march\u00e9 hypercapitaliste de l’IA ? Les pays en d\u00e9veloppement doivent trouver des moyens d’exploiter leurs ressources en donn\u00e9es pour se d\u00e9velopper de mani\u00e8re autonome dans la r\u00e9volution de l’intelligence, de la m\u00eame mani\u00e8re qu’un pays comme la Tha\u00eflande en Asie s’est redress\u00e9 apr\u00e8s la crise des ann\u00e9es 1990 et a reconstruit son \u00e9conomie.<\/p>\n
<\/p>\n
Anita Gurumurthy
\nDirectrice ex\u00e9cutive, IT for Change<\/p>\n
Il est certain que l’IA g\u00e9n\u00e9rative, capable de d\u00e9velopper des textes et des images visuelles et de cloner des voix, a mis la question du vol de la propri\u00e9t\u00e9 intellectuelle sur le devant de la sc\u00e8ne. Les d\u00e9cideurs politiques abordent cette question de diff\u00e9rentes mani\u00e8res : La Chine veut contr\u00f4ler les flux d’informations vers l’IA g\u00e9n\u00e9rative ; le Japon a d’abord voulu supprimer les droits d’auteur sur les ensembles de donn\u00e9es utilis\u00e9s pour l’IA g\u00e9n\u00e9rative, avant de revenir sur sa position ; les politiques de l’UE et des \u00c9tats-Unis sont ambivalentes quant \u00e0 la question de savoir quand l’utilisation \u00e9quitable couvre la formation \u00e0 l’IA g\u00e9n\u00e9rative. L’\u00e9quilibre entre les droits des cr\u00e9ateurs et l’utilisation des ressources publiques des biens communs de la connaissance pour le d\u00e9veloppement technologique continue d’\u00e9voluer.<\/p>\n
Examinons maintenant le point de vue du cr\u00e9ateur. Les auteurs vivent le cauchemar fictif du \u00ab\u00a0Grand grammairien automatique\u00a0\u00bb de Roald Dahl, lorsque la machine imite leur style et leur voix mieux qu’eux et que la cr\u00e9ation devient une cha\u00eene de production. Les droits moraux de l’auteur ou de l’interpr\u00e8te cr\u00e9atif sont menac\u00e9s lorsque leurs \u0153uvres sont cannibalis\u00e9es pour former l’IA g\u00e9n\u00e9rative. Il existe \u00e9galement des probl\u00e8mes d’appropriation culturelle, comme l’art indien Warli vendu aux ench\u00e8res par Sotheby’s sans que soit reconnu le contexte culturel de sa production par les tribus foresti\u00e8res ; des pr\u00e9occupations que la communaut\u00e9 maorie de Nouvelle-Z\u00e9lande a soulev\u00e9es et tent\u00e9 de r\u00e9soudre par l’utilisation de sa langue et de ses ressources linguistiques pour le d\u00e9veloppement de mod\u00e8les de formation. L’octroi de licences collectives – la reconnaissance du patrimoine culturel commun de la litt\u00e9rature, de l’art et de l’h\u00e9ritage culturel humain – semble important. Un m\u00e9canisme fiduciaire pourrait \u00eatre cr\u00e9\u00e9 pour emp\u00eacher la cannibalisation ou la r\u00e9utilisation en violation des biens communs culturels. Pour la litt\u00e9rature et l’art, l’\u00e9quilibre entre le patrimoine intellectuel en tant qu’h\u00e9ritage public et commun de toute l’humanit\u00e9 et les droits moraux de l’auteur doit \u00e9galement \u00eatre maintenu. La proposition de licence collective de la Guilde des auteurs semble utile \u00e0 cet \u00e9gard. Cette proposition se lit comme suit : \u00ab\u00a0La Guilde des auteurs propose de cr\u00e9er une licence collective par laquelle un organisme de gestion collective (OGC) accorderait des licences au nom des auteurs, n\u00e9gocierait les redevances avec les soci\u00e9t\u00e9s d’IA et distribuerait ensuite les paiements aux auteurs qui s’inscrivent aupr\u00e8s de l’OGC. Ces licences pourraient couvrir les utilisations pass\u00e9es de livres, d’articles et d’autres \u0153uvres dans les syst\u00e8mes d’IA, ainsi que les utilisations futures. Ces derni\u00e8res ne pourraient faire l’objet d’une licence sans l’autorisation expresse de l’auteur ou d’autres d\u00e9tenteurs de droits\u00a0\u00bb.<\/p>\n
![](\"https:\/\/al.internetsocialforum.net\/wp-content\/uploads\/2023\/10\/16-Nandini.jpg\")
<\/p>\n
Nandini Chami
\nDirectrice Adjointe,\u00a0 IT for Change<\/p>\n
Un d\u00e9bat est en cours, y compris en Inde, sur la question de savoir si la gouvernance de l’IA peut \u00eatre trait\u00e9e de mani\u00e8re ad\u00e9quate sur la sc\u00e8ne mondiale ou si nous avons besoin de r\u00e9ponses au niveau national. Les d\u00e9mocraties occidentales et le reste du monde ont des fa\u00e7ons diff\u00e9rentes de trouver l’\u00e9quilibre entre les droits individuels et le bien social ; cette situation se retrouve dans le d\u00e9bat sur les droits de l’homme, car l’interpr\u00e9tation contextuelle des droits est extr\u00eamement importante. Comme le montre une r\u00e9cente \u00e9tude de la CNUCED sur les pays du G20, ce que l’on entend par \u00ab\u00a0donn\u00e9es personnelles sensibles\u00a0\u00bb est d\u00e9fini diff\u00e9remment selon les soci\u00e9t\u00e9s. Id\u00e9es d’innovation centr\u00e9e sur l’homme, transparence et responsabilit\u00e9 du march\u00e9, trajectoires souhait\u00e9es de d\u00e9veloppement de l’IA : nous avons besoin d’un mod\u00e8le de gouvernance \u00e0 plusieurs \u00e9chelles dans lequel les droits des personnes marginales sont prot\u00e9g\u00e9s par des protections des droits fondamentaux et, en m\u00eame temps, chaque communaut\u00e9 nationale peut s’engager dans un processus de d\u00e9lib\u00e9ration pour d\u00e9terminer comment elle doit exploiter la r\u00e9volution de l’IA et s’int\u00e9grer dans l’\u00e9conomie mondiale, avec l’appui d’une l\u00e9gislation sur le d\u00e9veloppement de l’IA fond\u00e9e sur les droits de l’homme et de la justice. L’hyper-lib\u00e9ralisation des march\u00e9s des services de donn\u00e9es peut ne pas convenir \u00e0 tous les pays, certains pouvant m\u00eame tirer profit d’une limitation de leur int\u00e9gration dans l’\u00e9conomie num\u00e9rique mondiale.<\/p>\n
(1) L’IA g\u00e9n\u00e9rative est une branche de l’intelligence artificielle qui se concentre sur la g\u00e9n\u00e9ration de contenu original \u00e0 partir de donn\u00e9es existantes et en r\u00e9ponse \u00e0 des requ\u00eates. (Wikipedia)<\/p>\n