Internet Citizen a interviewé Anita Gurumurthy et Nandini Chami de IT for Change, en Inde, sur les défis auxquels le monde, et en particulier le Sud, est confronté avec la révolution de l’intelligence artificielle. IT for Change a produit plusieurs études sur les technologies numériques, dans lesquelles elles utiliseront entre autres, le terme « intelligence numérique » comme une conception plus large de ce phénomène en développement. Elle est également secrétaire de la coalition mondiale Just Net. Entretien réalisé par Sally Burch (ALAI).

Par Sally Burch (ALAI)

1) Quelle est la différence entre  « intelligence artificielle » et « intelligence numérique », et comment le terme  « intelligence numérique » pourrait nous aider à mieux comprendre la nouvelle ère de la technologie  ?

Le terme d’intelligence artificielle ignore les origines sociales de l’intelligence produite par une technologie donnée. Il mystifie la machine. L’expression « intelligence numérique » est davantage axée sur les systèmes. Il met l’accent sur l’interaction entre les systèmes humains et numériques dans la résolution de problèmes et la prise de décision, ce qui est de plus en plus courant dans le monde de la quatrième révolution industrielle (4RI). L’expression « intelligence numérique » semble également mieux ancrée dans l’histoire : elle n’implique pas un fétichisme pour les machines ; elle semble reconnaître que la révolution de l’IA s’inscrit dans une évolution plus longue des technologies de l’informatique, de l’internet et des données massives (Big Data). Cette logique systémique – dans laquelle l’intelligence est intégrée dans les relations techno-sociales qui composent le système – nous aide à ne jamais perdre de vue le fait que la connaissance sociale et le travail humain sont la matière première de la révolution de l’intelligence rendue possible par les nouveaux pouvoirs de la technologie numérique, en particulier les technologies de l’IA.

2) Les implications de l’IA font l’objet d’un débat international permanent, en particulier depuis le lancement du Chat GPT4. Selon vous, quelles sont les principales menaces (et/ou avantages) de ce type de technologie, et que pouvons-nous faire à ce sujet, du point de vue de la justice numérique et de la communauté ?

Les miracles de l’IA – y compris le phénomène du GPT Chat – sont en effet d’une importance capitale. Il s’agit d’un moment historique similaire à celui de Gutenberg, lorsque la production en masse de livres grâce à l’imprimerie a contribué à modifier les institutions de la civilisation. L’IA peut renforcer la créativité humaine et modifier la division sociale du travail afin d’autonomiser et de transformer. Elle peut favoriser l’émancipation individuelle ou faire du rêve keynésien d’une vie meilleure pour tous une réalité. Cependant, le statu quo n’est pas du tout orienté vers ce potentiel. Aujourd’hui, l’IA est fermement ancrée dans la logique de la financiarisation sous stéroïdes, fondée sur un mépris flagrant de la dignité humaine et du bien-être de la société.

La plus grande menace posée par les trajectoires actuelles de développement de l’IA est l’exacerbation de la crise environnementale. De nouvelles données suggèrent que l’IA pourrait être davantage un problème qu’une solution dans notre lutte contre le changement climatique, la pénurie d’eau et la forte consommation d’énergie. Selon certaines estimations, la consommation d’eau nécessaire à la formation du grand modèle linguistique GPT 3 d’Open AI équivaut à la quantité nécessaire pour remplir la tour de refroidissement d’un réacteur nucléaire. Même les start-ups et les développeurs de technologies qui œuvrent en faveur d’une industrie de l’IA plus éthique et plus transparente ont du mal à relever le défi de la durabilité. La start-up HuggingFace a réussi à entraîner son propre grand modèle linguistique BLOOM sur un superordinateur français à propulsion nucléaire, produisant une empreinte carbone inférieure à celle de la plupart des modèles de taille similaire ; mais une fois l’entraînement terminé, lors de la phase de pré-déploiement, BLOOM a émis une empreinte carbone équivalente à celle de 60 vols entre Londres et Paris.

La boucle technologique de l’IA générative(1) a également ouvert la boîte de Pandore de l’exploitation du travail. Comme l’a montré la controverse de Sama au Kenya, les modèles de langage et les outils de modération de contenu ne peuvent être perfectionnés que par le travail d’innombrables travailleurs du contenu qui se frayent un chemin parmi les déchets toxiques des contenus haineux et violents qui causent des traumatismes psychologiques. Le bien-être et la santé mentale des travailleurs sont victimes de l’absence déplorable de protections dans la chaîne de valeur de l’intelligence artificielle pour ce type de travail à haut risque.

Une troisième préoccupation est apparue au cours des mois qui ont suivi l’explosion du ChatGPT : l’impact à long terme de la révolution de l’IA sur l’avenir du travail. Des études réalisées ces derniers mois par l’OCDE et l’OIT suggèrent que la main-d’œuvre des pays développés court un plus grand risque immédiat de perdre des emplois à cause de l’automatisation permise par l’IA générative ; mais à plus long terme, ce bond devrait conduire à une plus grande productivité et à une augmentation du PIB. La main-d’œuvre du Sud ne sera pas touchée dans l’immédiat, mais ce n’est pas une bonne nouvelle pour ses perspectives de subsistance et de bien-être à long terme. Si leurs pays restent à l’écart de l’IA générative et d’autres avancées technologiques en matière d’IA, s’ils restent piégés dans les segments à faible valeur ajoutée de l’économie et s’ils deviennent des travailleurs temporaires ou des fantassins de la nouvelle 4RI, à l’instar des cultivateurs d’indigo de la révolution industrielle britannique, ce qui nous attend est un avenir économique néocolonial qui limite les options de la plupart des pays du monde.

C’est l’extractivisme des données de cette majorité mondiale qui alimente la révolution de l’IA. Et tout comme les biens communs publics du Web 2.0 ont été cannibalisés pour le profit des entreprises lors de la plateformisation de l’internet, contrecarrant la production de connaissances partagées et les possibilités de partage entre pairs, nous nous trouvons à un autre moment similaire de la révolution numérique. L’IA générative, en particulier, menace de coopter les biens communs de la connaissance publique sans aucune obligation de licence de partage/retour à la société. Imaginez une situation où les dossiers médicaux du gouvernement – des données publiques ouvertes – sont utilisés par les entreprises pharmaceutiques pour des recherches sur les prévisions épidémiologiques que le gouvernement est forcé d’acheter ou de louer en cas de crise sanitaire !

Les monopoles de brevets des grandes sociétés pharmaceutiques qui ont empêché la lutte contre le Covid devraient nous montrer qu’il s’agit là d’une possibilité bien réelle.

Nous devrions également nous recentrer sur l’IA fondamentale plutôt que sur l’IA générative. La majorité de la population mondiale engagée dans l’agriculture, l’élevage et les moyens de subsistance liés à l’agriculture, qui dépendent des forêts et des ressources naturelles communes, peut-elle être aidée à prospérer à l’ère de l’IA, en particulier en ce qui concerne ses besoins en matière d’adaptation au changement climatique et d’atténuation de ses effets ? Comment pouvons-nous permettre à des modèles de diagnostic et de prévision localisés de déclencher des alertes et des stratégies à long terme? Pourquoi ne faisons-nous qu’accroître le partage des données dans des directions qui semblent uniquement aider les grandes entreprises agroalimentaires et technologiques à intégrer les populations vivant dans des conditions extrêmement difficiles dans le marché hypercapitaliste de l’IA ? Les pays en développement doivent trouver des moyens d’exploiter leurs ressources en données pour se développer de manière autonome dans la révolution de l’intelligence, de la même manière qu’un pays comme la Thaïlande en Asie s’est redressé après la crise des années 1990 et a reconstruit son économie.

Anita Gurumurthy
Directrice exécutive, IT for Change

3) Le vol de la propriété intellectuelle par l’IA, qui exploite et réutilise des données, telles que des œuvres d’artistes, sans en mentionner la source, suscite de vives inquiétudes. Comment comptez-vous encadrer ce débat ?

Il est certain que l’IA générative, capable de développer des textes et des images visuelles et de cloner des voix, a mis la question du vol de la propriété intellectuelle sur le devant de la scène. Les décideurs politiques abordent cette question de différentes manières : La Chine veut contrôler les flux d’informations vers l’IA générative ; le Japon a d’abord voulu supprimer les droits d’auteur sur les ensembles de données utilisés pour l’IA générative, avant de revenir sur sa position ; les politiques de l’UE et des États-Unis sont ambivalentes quant à la question de savoir quand l’utilisation équitable couvre la formation à l’IA générative. L’équilibre entre les droits des créateurs et l’utilisation des ressources publiques des biens communs de la connaissance pour le développement technologique continue d’évoluer.

Examinons maintenant le point de vue du créateur. Les auteurs vivent le cauchemar fictif du « Grand grammairien automatique » de Roald Dahl, lorsque la machine imite leur style et leur voix mieux qu’eux et que la création devient une chaîne de production. Les droits moraux de l’auteur ou de l’interprète créatif sont menacés lorsque leurs œuvres sont cannibalisées pour former l’IA générative. Il existe également des problèmes d’appropriation culturelle, comme l’art indien Warli vendu aux enchères par Sotheby’s sans que soit reconnu le contexte culturel de sa production par les tribus forestières ; des préoccupations que la communauté maorie de Nouvelle-Zélande a soulevées et tenté de résoudre par l’utilisation de sa langue et de ses ressources linguistiques pour le développement de modèles de formation. L’octroi de licences collectives – la reconnaissance du patrimoine culturel commun de la littérature, de l’art et de l’héritage culturel humain – semble important. Un mécanisme fiduciaire pourrait être créé pour empêcher la cannibalisation ou la réutilisation en violation des biens communs culturels. Pour la littérature et l’art, l’équilibre entre le patrimoine intellectuel en tant qu’héritage public et commun de toute l’humanité et les droits moraux de l’auteur doit également être maintenu. La proposition de licence collective de la Guilde des auteurs semble utile à cet égard. Cette proposition se lit comme suit : « La Guilde des auteurs propose de créer une licence collective par laquelle un organisme de gestion collective (OGC) accorderait des licences au nom des auteurs, négocierait les redevances avec les sociétés d’IA et distribuerait ensuite les paiements aux auteurs qui s’inscrivent auprès de l’OGC. Ces licences pourraient couvrir les utilisations passées de livres, d’articles et d’autres œuvres dans les systèmes d’IA, ainsi que les utilisations futures. Ces dernières ne pourraient faire l’objet d’une licence sans l’autorisation expresse de l’auteur ou d’autres détenteurs de droits ».

Nandini Chami
Directrice Adjointe,  IT for Change

4) Quelles sont, selon vous, les principales questions et propositions liées à l’IA qui devraient être abordées dans des espaces multilatéraux tels que les Nations unies, afin de promouvoir la justice numérique et de contrer le pouvoir excessif des grandes entreprises numériques ?

Un débat est en cours, y compris en Inde, sur la question de savoir si la gouvernance de l’IA peut être traitée de manière adéquate sur la scène mondiale ou si nous avons besoin de réponses au niveau national. Les démocraties occidentales et le reste du monde ont des façons différentes de trouver l’équilibre entre les droits individuels et le bien social ; cette situation se retrouve dans le débat sur les droits de l’homme, car l’interprétation contextuelle des droits est extrêmement importante. Comme le montre une récente étude de la CNUCED sur les pays du G20, ce que l’on entend par « données personnelles sensibles » est défini différemment selon les sociétés. Idées d’innovation centrée sur l’homme, transparence et responsabilité du marché, trajectoires souhaitées de développement de l’IA : nous avons besoin d’un modèle de gouvernance à plusieurs échelles dans lequel les droits des personnes marginales sont protégés par des protections des droits fondamentaux et, en même temps, chaque communauté nationale peut s’engager dans un processus de délibération pour déterminer comment elle doit exploiter la révolution de l’IA et s’intégrer dans l’économie mondiale, avec l’appui d’une législation sur le développement de l’IA fondée sur les droits de l’homme et de la justice. L’hyper-libéralisation des marchés des services de données peut ne pas convenir à tous les pays, certains pouvant même tirer profit d’une limitation de leur intégration dans l’économie numérique mondiale.

(1) L’IA générative est une branche de l’intelligence artificielle qui se concentre sur la génération de contenu original à partir de données existantes et en réponse à des requêtes. (Wikipedia)

Cet article se retrouve dans the digital magazine Internet Ciudadana N° 10 – October 2023 – Another digital world is possible! (Un autre monde numérique est possible !)

* Anita Gurumurthy est membre fondateur et directrice exécutive de IT for Change, où elle dirige des projets et des collaborations de recherche avec la société en réseau, en se concentrant sur la gouvernance, la démocratie et la justice de genre.

* Nandini Chami est directrice adjointe de IT for Change. Son travail se concentre principalement sur la recherche et la défense des politiques dans le domaine des droits numériques et du développement, ainsi que sur l’économie politique des droits des femmes dans la société de l’information. Elle participe aux efforts de plaidoyer de l’organisation autour de l’Agenda 2030 pour le développement sur les questions des « données pour le développement » et des technologies numériques et de la justice de genre.

* Sally Burch est une journaliste anglo-équatorienne. Directrice exécutive de l’ALAI. Elle est titulaire d’une licence en littérature de l’Université de Warwick (Royaume-Uni) et d’une licence en journalisme de l’Université Concordia (Montréal, Canada). Elle publie régulièrement des articles sur les femmes et la communication, le droit à l’information et les mouvements sociaux.