Es ist notwendig, diese digitalen Unternehmen als hyperkonzentrierte Mächte zu betrachten, die entweder den freien Ideenfluss verhindern oder erschweren, vor allem von solchen Ideen, die weder die kapitalistische Ordnung noch den Profitfaktor als Lebensmotivation fördern.

Die Ausbreitung des Internets hat innerhalb von wenigen Jahren eine direkte globale Verbindung möglich gemacht, vorausgesetzt man verfügte über ein passendes Gerät und irgendeine Art von Zugang.

Zusätzlich zur Ankurbelung der Nachfrage nach Infrastruktur und Geräteproduktion, hat sich der neue informatische Kosmos schnell selbst mit Vermittlungen zugeschüttet. Ein dekadenter Kapitalismus erkannte darin das Potential für neue gewinnbringende Aktivitäten und eine Wiedergeburt des Systems durch die Technologie.

Der so hoch gepriesene (und trügerisch) „offene Wettbewerb“ ist schnell einigen Monopolen von großen technologischen Konzernen gewichen.

Ein Modell, das die Vereinfachung globaler Kommunikation, Anreize für dezentralisierte Partizipation und uneingeschränkten Zugang zu kumuliertem, menschlichem Wissen versprach, artete aus in eine immer schnellere Kommerzialisierung eines jeden Funkens sozialer Aktivität, öffentliche oder private.

An entscheidender Stelle haben die multinationalen, sich selbst als „soziale Netzwerke“ bezeichnende Konzerne, eine führende Position ergattert, die ihnen eine zentrale, maßlose Rolle in der Politik gibt.

Führte dies zur Stärkung der Meinungsfreiheit? Ist die Demokratie jetzt tiefer verwurzelt? Oder hat man eher im Namen dieser beiden Prinzipien einen weltweiten, komplexen Zensurapparat gegen kritisches und befreiendes Denken geschaffen?

Eindeutige Zensur

Alle überlegenen Netzwerke haben Richtlinien für zulässige Inhalte oder „Gemeinschaftsregeln“, die als ein paar Empfehlungen angefangen haben, sich aber heute in echte Bewertungsmaßgaben für Veröffentlichungen entwickelt haben.

Auch wenn die meisten von diesen Richtlinien als ethisch sinnvolle Eckpfeiler angesehen werden können, wie die Ablehnung von Gewalt, Verbrechen, Diskriminierung oder Ausnutzung und Kinderpornographie, verwandelt die komplette Interpretationsfreiheit, die sich diese Unternehmen selbst zuweisen, die Richtlinien in echte Zensur.

David Kaye, Sonderberichtserstatter für die Förderung und den Schutz der Meinungsäußerung und –freiheit, äußerte sich in seinem Bericht für den UN-Menschenrechtsrat zur Handhabung der inhaltlichen Richtlinien online (April 2018):

„Die Unbestimmtheit der Belästigungs- und Hassredenrichtlinien hat zu Vorwürfen einer inkonsequenten Umsetzung solcher Richtlinien geführt, die Minderheiten benachteiligt und gleichzeitig die Position dominanter oder mächtiger Gruppen stärkt. Nutzer*innen und die Zivilgesellschaft berichten von Gewalttaten und Missbrauch gegen Frauen, darunter körperliche Bedrohungen, frauenfeindliche Kommentare, die Veröffentlichung falscher oder nicht einvernehmlicher intimer Bilder so wie von sensiblen persönlichen Informationen; Androhungen von Aggressionen gegen politische Randgruppen, gegen BIPoC und Kastenminderheiten sowie ethnische Gruppen, die gewaltsam verfolgt werden; und Übergriffe gegen Flüchtlinge, Migranten und Asylsuchende. Gleichzeitig haben die Plattformen Berichten zufolge Aktivismus für lesbische, schwule, bisexuelle, transgender und asexuelle Menschen, Protest gegen repressive Regierungen, Anprangerung ethnischer Säuberungen und Kritik an rassistischen Erscheinungen und Machtstrukturen unterdrückt“.[1]

Es ist möglich, dass der öffentliche und unternehmerische Druck aufgrund der willkürlichen Benutzersperrungen und –löschungen, der Verringerung der Anzahl von Followern und der Undurchsichtigkeit bei der Entfernung von Beiträgen die Unternehmen gezwungen hat, ihre Richtlinien zur Ausschließung von Veröffentlichungen, Seiten und Gruppen zu erweitern und genauer zu definieren.

Trotzdem kommt man nach einer schnellen Überprüfung und einer tieferen Analyse zu dem Ergebnis, dass solche Erklärungen nicht wirklich der Wahrheit entsprechen.

Halb verdeckte Zensur

Um im Rahmen einer sehr hohen Anzahl von Veröffentlichungen die Elemente zu identifizieren, die nicht in Übereinstimmung mit ihren Richtlinien sind, machen alle Unternehmen Gebrauch der Automatisierung. Einige hierfür verwendete Werkzeuge sind Wortfilter, Erkennung von Junk-Emails, Verschlüsselungsalgorithmen und die Verarbeitung von natürlichen Sprachen.

Sogar einige Regierungen fordern solche Vorgehensweisen, die sich tagtäglich weiterverbreiten. Trotzdem ist dieser Ansatz, der fast magisch genaue Ergebnisse verspricht, in sich beschränkt und fehlbar. Es könnte der Eindruck erweckt werden, dass übermäßige Zensur auf bestimmte bereits benachteiligte Gruppen ausgeübt wird und die Landesgesetze sowie die Dienstleistungsbedingungen auf voreingenommene Art und Weise angewendet werden. So erklärt es ein Bericht  des „Center for Democracy & Technology“[2] (auf Englisch).

Aus diesen technischen Unzulänglichkeiten ist die Praxis entstanden, immer mehr Social Media Content Moderator*innen einzustellen, um die undankbare Aufgabe zu erledigen. Die Existenz dieser Angestellten und die Notwendigkeit ihrer Arbeit in der Produktionskette der sozialen Medien, bemerkt Sarah T. Roberts, „bricht bequeme Mythen über das Internet als einen Raum der Eins-zu-eins-Beziehungen zwischen dem Benutzer und der Plattform“.

Für die Akademikerin „mögen sich diese Entscheidungen um die Nutzerschaft und die freie Meinungsäußerung drehen, aber in kommerziellen Medien und Plattformen wirkt diesen Prinzipien immer ein Profitmotiv entgegen.“ Dazu fügt sie eindringlich hinzu: „Einfach ausgedrückt, die Entscheidung darüber, was bleibt und was nicht, wird auf gewisser Ebene eine Geldfrage sein.“[3]

Plattformen wie Facebook haben etwa 15.000 Angestellte, die Inhalte prüfen und größtenteils extern arbeiten. Andere Quellen, wie die Washington Post, beziffern die Zahl eher auf 30.000. Etwa 10.000 prüfen YouTube und andere Google-Produkte (im Besitz von Alphabet Inc.). Bei Twitter reduziert sich die Zahl der Moderator*innen auf etwa 1500.[4] Bei TikTok sind es laut dem amerikanischen Sender CNBC etwa 10.000, von denen viele zuvor bei Facebook aktiv waren und von den Outsourcing-Firmen Accenture, CPL, Hays oder Voxpro kommen.

Zusätzlich zu diesen einschränkenden Richtlinien gab es zahlreiche Anfragen von Regierungen, bestimmte Inhalte oder bestimmte Personen oder Gruppen geografisch zu blockieren („Geoblocking“, im Fachjargon), worauf die Plattformen Antworten gegeben haben, die sowohl von Regierungen als auch von aktivistischen Organisationen als höchst unbefriedigend angesehen werden.

Vor allem Facebook, aber auch Google und Twitter sind Gegenstand heftiger Kritik und einer Vielzahl von Beschwerden, weil sie die Arbeit von Aktivisten, Journalisten oder Menschenrechtsverteidigern behindern, und zwar mehrfach und in Absprache mit unterdrückenden Regierungen.

Auf der zweiten Konferenz zur Moderation von massiven Inhalten, die im Mai 2018 in Washington (USA) stattfand, schlugen Befürworter*innen des Rechts auf freie Meinungsäußerung im Internet drei Grundprinzipien als ersten Schritt vor, um Transparenz, Fairness und die Achtung der Grundrechte aller beteiligten Personen zu gewährleisten: Regelmäßige Veröffentlichung der Anzahl gelöschter Beiträge und gesperrter oder gekündigter Konten, Benachrichtigung der Betroffenen über den konkreten Grund für die Entfernung von Inhalten oder die Sperrung von Konten und die Möglichkeit der Einrichtung eines Berufungsverfahrens durch Nutzer*innen.[5]

Zensurlogik

Abgesehen von den öffentlichen Bemühungen aller Plattformen, ihre Bereitschaft zur Einhaltung der oben genannten Anforderungen zu zeigen, ist die Zensurlogik dieser digitalen Netzwerke jedoch in den mathematischen Modellen eingebettet, die die Inhaltszufuhr regeln.

Die aufgereihten Schichten der jeweiligen maschinellen Lernsysteme („Machine oder Deep Learning“), durch die eine große Menge an Daten verarbeitet wird, die zuvor aus der Aktivität aller Nutzer*innen extrahiert wurden, sind diejenigen, die definieren, was der jeweiligen Person angezeigt wird und was ausgeblendet oder an Stellen mit minimaler Sichtbarkeit platziert wird.

Obwohl sich diese Algorithmen häufig ändern, ist es möglich, einige Allgemeinheiten aus den von den Unternehmen selbst bereitgestellten Informationen zu ermitteln[6]. Dennoch ist ein gewisses Maß an Skepsis ratsam. Der investigative, juristische und öffentliche Meinungsdruck zwingt die Plattformen dazu, einen Teil ihrer „Black Boxes“ zu öffnen, um nicht alle Glaubwürdigkeit zu verlieren. Nichts garantiert jedoch, dass sie alle ihre Geheimnisse preisgeben werden.

Dennoch ist es möglich, Hinweise auf die Logik zu geben, auf der das Herz des riesigen Werbe- und Überwachungsgeschäfts dieser Netzwerke aufgebaut ist, versüßt durch das Konzept der Sozialisierung, des Zugangs oder des Betrachtens von Inhalten.

  1. Um das vermeintliche Interesse der auf der Plattform aktiven Person zu befriedigen und vor allem, um Werbung an Meistbietende zu verkaufen, werden alle Interaktionen gesammelt und eine personalisierte Abfolge von dem programmiert, was alle Nutzer*innen sehen. Allein diese Aussage verrät die grundlegende Absicht der Überwachung, des Eindringens und des permanenten Sammelns von Informationen über das Intimleben eines jeden Menschen und seiner Kontakte. Die irreführende Rechtfertigung, nur zu zeigen, „was dich am meisten interessiert“, erscheint sehr schwach.
  2. Die Dauer und Häufigkeit der Aktivität innerhalb der Anwendung ist ein wichtiger positiver Bewertungsfaktor der Modelle und führt zu Dauerhaftigkeit und Abhängigkeit, zwei Schlüsselfaktoren in der Aufmerksamkeitsökonomie.
  3. Die Lage aller Nutzer*innen wird geolokalisiert, um Konsumangebote darauf abzustimmen, was die Interaktion mit Themen oder Personen aus anderen Breitengraden erschwert.
  4. Bezahlte Inhalte werden gegenüber frei geteilten Inhalten (in einigen Netzwerken als „organische“ Inhalte bezeichnet) priorisiert, sowohl in Suchmaschinen als auch auf kommerziellen sozialen Plattformen. Der Unterschied zwischen kommerziellen und privaten Accounts führt in der Praxis zu unterschiedlichen Rangfolgen, die das Prinzip der Netzneutralität beeinträchtigen. Die vermeintliche Nicht-Ideologie ist die Ideologie des Profits, die automatisch die Mitteilungen derjenigen begünstigt, die bezahlen, also der Wirtschaftsmächte.
  5. Vorrangig werden attraktive Bilder verwendet, die die Aufmerksamkeit der Nutzer*innen fesseln. Auf diese Weise werden sie Opfer ihrer eigenen maximalen Bloßstellung, der Sensationslust und des Exhibitionismus, was in schutzbedürftigen Situationen riskant sein kann.
  6. Die Schleife des vermeintlichen Interesses der Personen stellt jenseits kleiner, vom Unternehmen selbst eingeführten und gegen Langeweile wirkenenden Abwechslungen, ein geschlossenes Aufbewahrungssystems dar, eine „Blase“. Es liegt auf der Hand, dass das Eindringen neuer Perspektiven von der einen oder anderen dieser Variablen höchst unwahrscheinlich ist.
  7. Die Plattformen maßen sich an, Neigungen und Verhaltensweisen vorhersagen zu können, indem sie das anbieten, was eine Person ihrer Meinung nach sehen will. In der Praxis verändern sie das gemeinsame, digitale Verhalten nach den von ihnen ausgearbeiteten mathematischen Modellen und schlagen vor, was, wie, wo und wann man posten sollte, um Reaktionen zu erzeugen. Gleichzeitig versuchen sie, auf bestimmte Offline-Moral und -Verhaltensweisen hinzuweisen.
  8. Sie fördern die „Popularität“, das Sammeln von Followern, Wettbewerb und Rangfolge, um einen Vorteil zu erreichen. Anders gesagt, individualistische Anti-Werte, die für das aktuelle System typisch sind.
  9. Das übermäßige Vorhandensein von Werbeinhalten ermüdet alle und schwächt die zwischenmenschliche Kommunikation.
  10. Unternehmensnetzwerke „belohnen“ oder „bestrafen“ Verhaltensweisen und urteilen darüber, was kommuniziert werden kann oder soll.
  11. Sie fördern kurze Inhalte, fiktive Trends, Banalität, Dekontextualisierung oder Inhaltsleere durch kindische Herausforderungen.
  12. Sie begünstigen Desinformation, indem sie Medien, die mit dem Kapital oder von ihm finanzierten Unternehmen in Verbindung stehen, als „Hüter zuverlässiger Information“ darstellen.

Alternativen zur konzentrierten Macht der kommerziellen, digitalen Plattformen

Wenn wir versuchen, Maßnahmen und Mechanismen zu implementieren, um der enormen Macht der digitalen Konzerne entgegenzuwirken, die heute die Entscheidungen und das Leben vieler Völker beeinflussen, führt uns die Analyse der politischen Dimension des Themas auf Lösungswege.

Es geht weder darum, neo-ludditische[7] Positionen zu vertreten – was heute gleichbedeutend wäre mit dem Hacken von Systemen, der Verbreitung von Malware oder anderen Formen kybernetischer Zerstörung -, noch darum, technophobe oder antitechnologische Positionen einzunehmen. Diese Positionen reihen sich, vielleicht ungewollt, in konservative und rückschrittliche Strömungen ein, die von der großen Unsicherheit profitieren, die durch die Geschwindigkeit der laufenden Transformationen erzeugt wird.

Es ist notwendig, diese digitalen Konzerne als hyperkonzentrierte Mächte zu betrachten, die den freien Ideenaustausch verhindern oder erschweren, insbesondere von solchen Ideen, die weder die kapitalistische Ordnung noch den Profitfaktor als Lebensmotivation fördern.

Diese Konzerne unterstützen sich selbst und das Geschäft der wichtigsten spekulativen Akteure – Banken und Investmentfonds – deren Maschinerie für Armut, Hunger, Umweltzerstörung und Zukunftslosigkeit verantwortlich ist.

Aus geopolitischer Sicht tragen die digitalen Megakonglomerate, die im Silicon Valley verankert sind, zu den Absichten der imperialistischen Macht USA bei, ihre schwindende einseitige Position wiederzuerlangen. Sie stellen eine Kraft für die kulturelle Durchdringung ersten Ranges dar, die die anmaßende Vormachtstellung des Westens voranbringt.

Auf die gleiche Weise erzwingen sie eine Technologienzentralisierung, die nicht nur potenzielle Konkurrenzkompetenzen erstickt, sondern auch jeden Versuch, alternative Ansätze zur Technologie einzusetzen.

Es geht also darum, gemeinsam zu handeln, um jedem der oben beschriebenen Faktoren entgegenzuwirken. Weit davon entfernt, Diskussionen als abgeschlossen zu betrachten, haben wir folgend, fünf mögliche Wege konkreten Handelns aufgelistet, die wir als eine zeitgleiche und konvergierende Strategie verstehen.

  • Erzeugen von kollektiver Macht gegen die ausbeuterische, zentralisierte Macht.

Wie in jedem ideologischen Kampf ist es wichtig, das Bewusstsein zu schärfen, die Verständigung zu fördern, sowie die Anprangerung des unterdrückerischen Systems zu verstärken und Alternativen zu proklamieren. Die Zusammenarbeit zwischen den verschiedenen Beteiligten und die Bekräftigung gemeinsamer Vorschläge auf der Suche nach einheitlichem, gemeinsamem Handeln ist entscheidend.

  • Der revolutionäre Prozess der Ablösung des Kapitalismus

Pragmatische konjunkturelle Lösungen sind gleichzusetzen mit Selbstgefälligkeit gegenüber Situationen extremer Ungerechtigkeit und Gewalt. Die Digitalisierung verschiedener Lebensbereichen ist eng mit Strategien der systemischen Neuerfindung verbunden. Aufgrunddessen müssen die Transformationen eine ähnliche Wirkung haben, und als Ziel neue Formen der sozialen und politischen Ordnung haben, die sich weit entfernt von den Akkumulationsschemata befinden.

  • Die digitale Souveränität in die Kämpfe um die geopolitische Souveränität einbetten

So wie die Erde in ein digitales Zeitalter eintritt, so ist die Auseinandersetzung um die technologische Souveränität entscheidend. Das Vordringen der Konzerne, die sich als tatsächliche Herrscher des Internets aufspielen, macht einerseits eine fokussierte Aktion zwischen den Staaten und den organisierten Gemeinden notwendig. Eine öffentlich und durch Gemeinden geführte Allianz ist vonnöten, um durch geeignete Maßnahmen, den Absolutismus und die politische Illegitimität dieser Geschäftskonglomerate einzudämmen.  Andererseits erfordert das globale Ausmaß der Herrschaft multilaterale Einvernehmung zwischen den Staaten, insbesondere zwischen denjenigen, die nicht Teil des neokolonialen Vasallentums sind, sowie die Aktivierung von Volksorganisationen über nationale Grenzen hinaus.

  • Erzeugung von alternativen Technologien, die für die menschliche Entwicklung nützlich sind

Im Gegensatz zu anderen historischen Momenten geht es hier nicht um die Umverteilung oder Aneignung der technologischen Systeme, wie es mit den „Produktionsmitteln“ dieser Zeit geschieht, da viele von ihnen grundsätzlich nicht mit Solidarität und Freiheit vereinbar sind. Es ist eher notwendig, parallel dazu – und diese Prozesse sind glücklicherweise bereits in vollem Gange – technologische Alternativen mit einem humanistischen Kern zu entwickeln, die die Menschenwürde in den Mittelpunkt stellen und Solidarität, Zusammenarbeit, Dezentralisierung, Gleichsetzung, Vereinigung, nicht besitzergreifende Innovation und Weiteres fördern.

  • Kritisches Denken. Unsere Rolle als Rohstoff der Konzerne in Hauptakteure im digitalen Raum umwandeln.

Nichts von dem oben Erwähnten wäre möglich oder würde Sinn ergeben, ohne die wesentlichen Protagonist*innen dieser Transformation einzubeziehen. Es ist unbedingt notwendig, in den einzelnen Personen, in den Organisationen und in den Völkern eine kritische Haltung gegenüber den trügerischen Versprechungen der Plattformen zu erzeugen, die die Menschen auf Rohstoff für ihre schädlichen Akkumulationszwecke reduzieren. Wie in jedem anderen Bereich auch ist die gemeinsame Überzeugung unbedingte Voraussetzung, um eine zentrale Rolle in der Handlung zu spielen.

(*) Javier Tolcachier ist wisseschaftlicher Mitarbeiter des Weltzentrums für Humanistische Studien und Sprecher der internationalen Nachrichtenagentur Pressenza. Er nimmt aktiven Teil am Kommunikationsforum für die Integration UnserAmerika und am lateinamerikanischen-karibischen Programm „Bürgerliches Internet“.

Dieser Artikel wurde ursprünglich in der Zeitschrift Revista América Latina en Movimiento N° 552 – Abril 2021 veröffentlicht, eine Koproduktion der Lateinamerikanischen Informationsagentur (ALAI) und dem lateinamerikanischen-karibischen Programm „Bürgerliches Internet“.

Übersetzung aus dem Spanischen von Nadia Miranda, überarbeitet von Chiara Pohl, beide vom ehrenamtlichen Pressenza-Übersetzungsteam. Wir suchen Freiwillige! 


[1] Bericht des Sonderberichterstatters für die Förderung und den Schutz der Meinungsäußerung und –freiheit, UN-Menschenrechtsrat. 4. April 2018, S. 12. Gefunden in https://undocs.org/en/A/HRC/38/35 (Englisch

[2] https://cdt.org/wp-content/uploads/2017/11/Mixed-Messages-Paper.pdf

[3] https://core.ac.uk/download/pdf/61664278.pdf

[4] Barrett, P. – “Who moderates the social media? A call to end outsourcing.” Gefunden in https://static1.squarespace.com/static/5b6df958f8370af3217d4178/t/5ed9854bf618c710cb55be98/1591313740497/NYU+Content+Moderation+Report_June+8+2020.pdf

[5] https://santaclaraprinciples.org/

[6] Für die Zusammenfassung haben wir folgende Artikel zugrunde gelegt: https://about.fb.com/news/2018/05/inside-feed-news-feed-ranking/

[7]„Am Anfang des 19. Jahrhunderst, haben die Arbeiter aufgrund des Einsatzes von großen, landwirtschaftlichen und industriellen Maschinen eine Verschlechterung ihrer Arbeits- und Lebensbedingungen hinnehmen müssen. Diese Veränderungen führten zu längeren und schwierigeren Arbeitszeiten, verminderten die Nachfrage nach Arbeitskräften und verringerte die Löhne und Gehälter. Die Antwort Ludditen war die Zerstörung der Maschinen in den Fabriken.“ Luddismus, der große Aufstand gegen die Maschinen des 19. Jahrhunderts. National Geographic.
https://historia.nationalgeographic.com.es/a/luditas-gran-rebelion-contra-maquinas-siglo-xix_14175