Il est nécessaire de considérer ces entreprises numériques comme des pouvoirs hyper concentrés qui empêchent ou entravent la libre circulation des idées, en particulier, les idées qui ne favorisent pas l’ordre capitaliste, ni le facteur profit comme motivation de vie.

L’expansion de l’internet a permis en quelques années d’établir une connexion mondiale instantanée, à condition de disposer d’un dispositif approprié et d’une forme d’accès.

En plus d’alimenter le marché des infrastructures et la production d’appareils, le nouvel univers télématique s’est rapidement rempli de médiations. Un capitalisme décadent y a vu le potentiel de nouvelles rentabilités et la réinvention du système par la technologie.

La « libre concurrence » tant vantée (et fallacieuse) a rapidement fait place aux positions monopolistiques des grands empires technologiques.

Ce qui promettait d’être un modèle de facilitation de la communication mondiale, d’incitation à la participation décentralisée, d’accès sans restriction aux connaissances accumulées par l’humanité, a dérivé en une marchandisation de plus en plus rapide de la moindre faille d’activité sociale publique ou privée.

Parmi les espaces clés, les plateformes transnationales appelées « réseaux sociaux » ont conquis un rôle prépondérant, acquérant une centralité démesurée dans la controverse politique.

Cela a-t-il permis d’accroître la liberté d’expression ? D’approfondir la démocratie ? Ou, au contraire, en leur nom un appareil sophistiqué de censure mondiale de la pensée critique et émancipatrice a-t-il été mis en place ?

Une censure explicite

Tous les réseaux hégémoniques ont des politiques de contenu ou des « normes communautaires », qui sont passées de quelques recommandations initiales à un véritable corpus d’évaluation de ce qui y est publié.

Si la plupart de ces dispositions peuvent être considérées comme des piliers éthiques raisonnables, tels que le rejet de la violence, de la criminalité, de la discrimination ou de la maltraitance des enfants et de la pédopornographie, la discrétion absolue dont disposent les entreprises dans leur interprétation transforme ces règles en une censure de facto.

David Kaye, rapporteur spécial sur la promotion et la protection du droit à la liberté d’opinion et d’expression, a relevé à propos de la modération des contenus en ligne dans son rapport au Conseil des droits de l’homme de l’ONU (avril 2018) :

« L’imprécision des politiques relatives au harcèlement et aux discours de haine a donné lieu à des accusations de mise en œuvre incohérente de ces politiques, qui désavantagent les minorités tout en renforçant le statut des groupes dominants ou puissants. Les usagers et la société civile signalent des actes de violence et d’abus à l’encontre des femmes, y compris des menaces physiques, des commentaires misogynes, la publication d’images intimes fausses ou non consenties, et la publication d’informations personnelles confidentielles, des menaces d’agression à l’encontre des groupes politiquement marginalisés, des races et castes minoritaires, et des groupes ethniques faisant l’objet de persécutions violentes, et les abus dirigés contre les réfugiés, les migrants et les demandeurs d’asile. Dans le même temps, les plates-formes auraient réprimé le militantisme en faveur des lesbiennes, des gays, des bisexuels, des transgenres et des personnes asexuées, la contestation contre des gouvernements répressifs, la dénonciation de l’épuration ethnique, et la critique des phénomènes et des structures de pouvoir de nature raciste. » [1]

Il est probable que la pression publique et institutionnelle sur le caractère arbitraire des suspensions, des fermetures de comptes, de la réduction du nombre de « followers », et de l’opacité dans le retrait de contenus, a obligé les entreprises à étendre et à détailler avec un peu plus de précision leurs directives sur l’exclusion des messages, de pages ou de groupes.

Cependant, un bref examen et une analyse plus approfondie permettent de constater que ces explications ne correspondent pas vraiment à la réalité.

Censure semi-occulte

Afin d’identifier les éléments non conformes à leur ligne éditoriale au milieu d’un grand volume de publications, toutes les entreprises ont eu recours à l’automatisation.

Parmi les outils utilisés à cette fin figurent les filtres de mots, la détection de messages indésirables, les algorithmes de comparaison cryptographique, et le traitement du langage naturel.

Ces méthodologies s’étendent de jour en jour, et sont également exigées par les gouvernements pour leurs propres besoins d’interdiction. Cependant, le gadget – qui promet des résultats d’une précision quasi-magique – est lui-même limité et faillible, facilitant potentiellement, entre autres erreurs de perception, la censure excessive de groupes déjà marginalisés, et l’application biaisée des lois nationales et des conditions de service de ces plateformes elles-mêmes, comme le souligne un document du Center for Democracy and Technology. [2]

De ces imperfections techniques est née la pratique consistant à embaucher de plus en plus de travailleurs de « modération du contenu communautaire » (« CCM workers », abréviation anglaise), pour accomplir la tâche ingrate. L’existence de ces travailleurs et la nécessité de leur travail dans la chaîne de production des médias sociaux, note Sarah T. Roberts, « brise les mythes confortables concernant Internet en tant qu’espace de relations individuelles entre l’utilisateur et la plateforme. »

Pour l’universitaire, « ces décisions peuvent dévier autour de la base des utilisateurs, de la liberté d’expression, mais dans les médias et les plateformes commerciales, ces principes sont toujours contrebalancés par la recherche du profit ». Ce à quoi elle ajoute avec force : « En termes simples, la décision sur ce qui reste et ce qui doit être retiré sera, à un certain niveau, une question financière. » [3]

Des plateformes comme Facebook comptent environ 15.000 évaluateurs de contenu, dont la grande majorité est externalisée. D’autres sources, comme le Washington Post, avancent le chiffre de 30.000.

Environ 10.000 travailleurs examinent You tube et d’autres produits de Google (propriété d’Alphabet Inc.). Dans le cas de Twitter, le nombre de modérateurs est réduit à environ 1500.[4] TikTok, quant à lui, en compte environ 10.000, dont beaucoup étaient auparavant actifs sur Facebook, issus des entreprises d’externalisation Accenture, CPL, Hays ou Voxpro, selon la chaîne américaine CNBC.

À ces règles de restriction s’ajoutent de nombreuses demandes de gouvernements visant à bloquer géographiquement (« geoblocking », dans le jargon) certains contenus ou des individus ou groupes spécifiques, auxquelles les plateformes ont donné des réponses que tant les gouvernements que les organisations militantes jugent très insatisfaisantes.

Facebook, surtout, mais aussi Google et Twitter ont fait l’objet de vives critiques et d’un grand nombre de plaintes pour avoir entravé le travail des militants, des journalistes ou des défenseurs des droits humains, à plusieurs reprises en connivence avec des gouvernements répressifs.

Lors de la deuxième conférence sur la modération du contenu dans le monde, qui s’est tenue en mai 2018 à Washington (États-Unis), les défenseurs du droit à la liberté d’expression en ligne ont suggéré trois principes de base comme première étape pour garantir la transparence, l’équité et le respect des droits fondamentaux des utilisateurs : la publication régulière du nombre de messages supprimés et de comptes suspendus ou résiliés, la notification à l’utilisateur de la raison spécifique de la suppression du contenu, ou de la suspension du compte, et la possibilité d’établir un processus d’appel par l’utilisateur. [5]

La logique de la censure

Cependant, au-delà des efforts publics de toutes les plateformes pour montrer leur volonté de se conformer aux exigences susmentionnées, la logique de censure de ces réseaux numériques est inscrite dans les modèles mathématiques qui régissent l’alimentation en contenu.

Les couches successives des systèmes respectifs d’apprentissage automatique (« Machine or Deep Learning »), par le biais desquelles est traitée une grande quantité de données préalablement extraites de l’activité de chaque utilisateur, sont celles qui définissent ce qui est montré, et ce qui est caché ou placé dans des positions de visibilité minimale.

Bien que ces algorithmes changent fréquemment, il est possible d’établir certaines généralités à partir des informations fournies par les entreprises elles-mêmes. [6] Malgré tout, il convient de faire preuve d’un certain scepticisme. La pression des enquêtes, de la justice et de l’opinion publique oblige les plateformes à ouvrir une partie de leurs « boîtes noires » pour éviter de perdre toute crédibilité, mais rien ne garantit qu’elles révéleront tous leurs secrets.

Malgré tout, il est possible d’offrir des indices concernant la logique sur laquelle est construit le cœur de l’énorme business de la publicité et de la surveillance de ces réseaux, édulcoré par le concept de socialisation, d’accès ou de visualisation des contenus.

  1. Pour satisfaire l’intérêt supposé de l’utilisateur et, surtout, pour vendre de la publicité au plus offrant, toutes les interactions sont collectées, et une séquence personnalisée de ce que chaque utilisateur voit est programmée. Cette seule affirmation révèle le caractère absolu de la surveillance, de l’intrusion et de la collecte permanente d’informations sur la vie intime de chaque personne et de ses contacts, sous la justification faible et trompeuse de montrer « ce qui vous intéresse le plus ».
  2. La durée et la fréquence de l’activité dans l’application constituent un important facteur de notation positive dans les modèles, induisant ainsi la permanence et la dépendance un facteur clé dans l’économie des soins.
  3. La position de l’utilisateur est géolocalisée pour segmenter les offres de consommation ce qui affaiblit l’interaction avec des sujets ou des personnes d’autres latitudes.
  4. Le contenu payant est privilégié par rapport au contenu librement partagé (appelé contenu « organique » dans certains réseaux), tant dans les moteurs de recherche que sur les plateformes sociales commerciales. La différence entre les comptes publicitaires et les utilisateurs communs, établit en pratique des voies de priorité différentes, affectant le principe de neutralité du réseau. La prétendue non-idéologie est l’idéologie du profit, qui favorise automatiquement les récits de ceux qui investissent, c’est-à-dire le pouvoir économique.
  5. La priorité est donnée aux images attractives qui captent l’attention de l’utilisateur. Ainsi, dans la recherche d’une exposition maximale, les utilisateurs sont conduits au sensationnalisme et à l’exhibitionnisme, ce qui, dans des situations de vulnérabilité, peut être risqué.
  6. La boucle de l’intérêt supposé de l’utilisateur, au-delà de l’insertion de petites variations introduites par l’entreprise pour que le contenu ne soit pas monotone, consolide un système fermé conservateur, une « bulle ». Il est évident qu’à partir de l’une ou l’autre variable, l’irruption de nouvelles perspectives est hautement improbable.
  7. Les plateformes prétendent pouvoir prédire les émotions et les comportements, en proposant ce qu’elles pensent que l’utilisateur veut voir. En pratique, ils formatent le comportement numérique collectif selon les modèles mathématiques qu’ils élaborent, en suggérant quoi, comment, où, et quand vous devriez publier, afin d’obtenir un écho. En même temps, ils essaient de suggérer des morales et des comportements hors du réseau.
  8. Ils stimulent la « popularité », le regroupement des adeptes, la compétition et le classement pour atteindre le positionnement, c’est-à-dire les anti-valeurs individualistes typiques du système actuel.
  9. La présence encombrante de contenus publicitaires fatigue et décourage la communication entre les personnes.
  10. Les réseaux d’entreprise « récompensent » ou « pénalisent » les comportements, devenant juge et partie de ce qui peut ou doit être communiqué.
  11. Ils encouragent les contenus courts, les tendances fictives, la banalité, la décontextualisation ou la vacuité de contenu à travers des défis puérils.
  12. Ils favorisent la désinformation, plaçant comme « gardiens de l’information fiable » des médias liés au capital ou aux entités qu’ils financent.

Alternatives au pouvoir concentré des plateformes numériques des entreprises

Lorsqu’on essaie de mettre en œuvre des actions et des mécanismes pour désactiver l’énorme pouvoir des entreprises numériques qui, aujourd’hui, influencent les décisions et la vie des gens les solutions apparaissent lorsqu’on analyse la dimension politique de la question.

Il ne s’agit pas de promouvoir des positions néo-luddites [7] – qui équivaudraient aujourd’hui à pirater des systèmes, à diffuser des malwares ou d’autres formes de destruction cybernétique – ni d’adopter des positions technophobes ou anti-technologiques, enrôlées, peut-être par inadvertance, dans des courants conservateurs et rétrogrades qui se nourrissent de la grande insécurité produite par la rapidité des transformations en cours.

Il est nécessaire de considérer ces entreprises numériques comme des pouvoirs hyper concentrés qui empêchent ou entravent la libre circulation des idées, en particulier les idées qui ne favorisent pas l’ordre capitaliste, ni le facteur profit comme motivation de vie.

Ces entreprises assurent leur propre subsistance et celle des principaux acteurs spéculatifs – banques et fonds d’investissement – dont les rouages sont responsables de la pauvreté, de la faim, de la dégradation de l’environnement, et de l’absence d’avenir.

Sous l’angle géopolitique, les méga conglomérats numériques ancrés dans la Silicon Valley contribuent aux intentions de la puissance impérialiste américaine de récupérer sa position unipolaire déclinante, et constituent un vecteur de pénétration culturelle de premier ordre favorisant la prétention suprémaciste de l’Occident.

De même, ils imposent une centralisation technologique qui tente d’étouffer non seulement les compétences potentielles, mais aussi tout type d’approche différent de la technologie elle-même.

Il s’agit alors d’agir collectivement pour contrecarrer chacun des facteurs décrits ci-dessus. Loin de prétendre épuiser les débats, nous avons listé, à titre de stratégie simultanée et convergente cinq pistes d’actions concrètes :

  • Générer un pouvoir collectif face à un pouvoir centralisé abusif.

Comme dans toute lutte idéologique, sensibiliser, comprendre, amplifier la dénonciation du système oppressif et la proclamation d’alternatives est essentiel. La collaboration entre la diversité des secteurs et l’affirmation de propositions communes à la recherche de l’unité dans l’action collective est fondamentale.

  • Le processus révolutionnaire de remplacement du capitalisme

Les solutions pragmatiques de conjoncture sont équivalentes à une complaisance avec les situations d’injustice radicale et de violence. La numérisation des différents aspects de la vie est intimement liée aux stratégies de réinvention systémique, car les transformations doivent adopter un calibre similaire, ayant pour horizon de nouvelles formes d’organisation sociale et politique, loin des matrices d’accumulation.

  • Imbriquer la souveraineté numérique dans les luttes pour la souveraineté géopolitique

Alors que la planète entre dans une ère numérique, le conflit pour la souveraineté technologique est crucial. D’une part, la pénétration atteinte par les corporations qui s’assument comme les dirigeants de facto de l’internet, rend nécessaire une action concertée entre les Etats et la communauté organisée, une alliance public-communauté, pour interposer des mesures capables de freiner l’absolutisme et l’illégitimité politique de ces conglomérats d’affaires. D’autre part l’échelle mondiale de la domination exige une concertation multilatérale entre les États, en particulier entre ceux qui ne font pas partie des schémas de vassalité néocoloniale, ainsi que l’articulation d’organisations populaires au-delà des frontières nationales.

  • Générer une technologie alternative, utile au développement humain

Contrairement à d’autres moments historiques, il ne s’agit pas seulement d’une redistribution ou d’une appropriation des systèmes technologiques, une sorte de « moyens de production » de cette époque, car beaucoup d’entre eux, dans leur propre logique, sont incompatibles avec la solidarité et la liberté. Il est nécessaire de développer en parallèle – et par chance ce processus est déjà bien engagé – des modalités technologiques à l’esprit humaniste, qui placent la dignité humaine au centre et renforcent la solidarité, la collaboration, la décentralisation, l’horizontalité, la fédération, l’innovation non possessive, entre autres qualités.

  • Conduite critique. Passer du statut de matière première pour les entreprises à celui de sujets de l’internet.

Tout ce qui précède n’est pas viable, et n’a aucun sens sans les protagonistes essentiels de cette transformation. La condition nécessaire est de générer chez les individus, les collectifs organisés et les peuples, une attitude critique face aux promesses trompeuses des plateformes, qui réduisent les êtres humains à de la matière première pour leurs objectifs d’accumulation nuisibles. Comme dans n’importe quelle autre sphère, il est inévitable d’obtenir la conviction collective pour devenir des acteurs centraux de l’intrigue.

 

Notes

[1] Rapport du Rapporteur spécial sur la promotion et la protection du droit à la liberté d’opinion et d’expression. 6/4/2018 p.12, Voir https://undocs.org/fr/A/HRC/38/35

[2] Messages mixtes ? les limites de l’analyse automatisée du contenu des médias sociaux https://cdt.org/wp-content/uploads/2017/11/Mixed-Messages-Paper.pdf

[3] Modération de contenu commercial : Le sale boulot des travailleurs du numérique  https://core.ac.uk/download/pdf/61664278.pdf

[4] Barrett P. Who moderates the social media giants? A call to end outsourcing. Voir  https://static1.squarespace.com/static/5b6df958f8370af3217d4178/t/5ed9854bf618c710cb55be98/1591313740497/NYU+Content+Moderation+Report_June+8+2020.pdf

[5] Les principes de Santa Clara. Sur la transparence et la responsabilité dans la modération de contenu  https://santaclaraprinciples.org/

[6] Les liens suivants ont été consultés lors de la préparation de ce texte :

– Classement du fil d’actualité en trois minutes chrono https://about.fb.com/news/2018/05/inside-feed-news-feed-ranking/

– Qu’est-ce que l’algorithme d’Instagram et comment affecte-t-il votre classement ?  https://metricool.com/es/algoritmo-instagram/

– Évaluer l’expérience des pages pour un meilleur web   https://developers.google.com/search/blog/2020/05/evaluating-page-experience

[7] « Au début du 19e siècle, les travailleurs ont vu leurs conditions de travail et de vie se dégrader en raison de l’utilisation de machines dans le travail agricole et industriel, qui a introduit des heures de travail plus longues et plus dures, réduit la demande de main-d’œuvre et imposé des salaires plus bas. La réponse du mouvement luddite a été la destruction des machines dans les usines. » Les luddites, la grande rébellion anti-machine du 19ème siècle. National Geographic. https://historia.nationalgeographic.com.es/a/luditas-gran-rebelion-contra-maquinas-siglo-xix_14175

Cet article a été publié à l’origine dans le magazine America Latina en Movimiento N° 552 – avril 2021, une coédition de l’Agence latino-américaine d’information (ALAI) et de l’espace latino-américain des Caraïbes Internet Citoyen.

 

Traduction de l’espagnol, Ginette Baudelet