{"id":2575119,"date":"2025-01-09T15:43:37","date_gmt":"2025-01-09T15:43:37","guid":{"rendered":"https:\/\/www.pressenza.com\/?p=2575119"},"modified":"2025-01-09T15:43:37","modified_gmt":"2025-01-09T15:43:37","slug":"schweden-frauen-arme-und-migranten-unter-ki-generalverdacht","status":"publish","type":"post","link":"https:\/\/www.pressenza.com\/de\/2025\/01\/schweden-frauen-arme-und-migranten-unter-ki-generalverdacht\/","title":{"rendered":"Schweden: Frauen, Arme und Migranten unter KI-Generalverdacht"},"content":{"rendered":"
\n

Schwedens Sozialversicherungsamt setzt auf einen diskriminierenden Algorithmus, um Betr\u00fcger im Sozialsystem ausfindig zu machen.<\/strong><\/p>\n

Daniela Gschweng<\/a><\/em> f\u00fcr die Online-Zeitung INFOsperber<\/a><\/em><\/p>\n<\/div>\n

\n

Frauen eher als M\u00e4nner, Migranten eher als Einheimische, Arme eher als Reiche und weniger Gebildete sowieso \u2013 seit 2018 bewertet ein Algorithmus, wer im schwedischen Sozialsystem wahrscheinlich betr\u00fcgen wird. Ist das gerecht? Nachvollziehbar? Begr\u00fcndet?<\/p>\n

Es gibt Kritik, denn in der Realit\u00e4t wird selten betrogen. Die K\u00fcnstliche Intelligenz scannt dennoch Hunderttausende Personen, die Sozialgelder beantragen. Tausende werden als verd\u00e4chtig markiert und einem ausf\u00fchrlichen Profiling unterzogen. Ohne davon zu erfahren und ohne jemals etwas falsch gemacht zu haben.<\/p>\n

Schwedische Beh\u00f6rden mauerten jahrelang<\/strong><\/p>\n

Die Sozialversicherungsbeh\u00f6rde F\u00f6rs\u00e4kringskassan will sich zu ihrem Vorgehen nicht in die Karten schauen lassen. Interne Quellen bezeichnen die Algorithmen als das bestgeh\u00fctete Geheimnis.<\/p>\n

Die schwedische Tageszeitung \u00abSvenska Dagbladet\u00bb<\/a> und das Investigativmedium \u00ab<\/a>Lighthouse Reports\u00bb blieben jahrelang hartn\u00e4ckig, um herauszufinden, wie die KI urteilt.\u00a0W\u00e4hrend drei Jahren versandte Lighthouse Reports hunderte E-Mails und stellte mehrere Anfragen auf Dateneinsicht nach dem \u00d6ffentlichkeitsgesetz. Die Beh\u00f6rde lehnte sie s\u00e4mtlich ab. Sie weigerte sich sogar, Daten herauszugeben, die sie bereits ver\u00f6ffentlicht hatte.<\/p>\n

Zwei Gerichtsverfahren und einen geleakten Datensatz sp\u00e4ter fanden die beiden Medien, dass der Predictive-Algorithmus mehrere Personengruppen diskriminiert. Die Datenanalyse offenbarte schwerwiegende Probleme wie ungleiche Behandlung von Antragstellenden und fragw\u00fcrdige Betrugsvorw\u00fcrfe. Dazu kommt mangelnde Transparenz und das Fehlen effektiver Beschwerdemechanismen.<\/p>\n

Der geleakte Datensatz enthielt Daten von mehr als 6000 Menschen, die Unterst\u00fctzung beantragt hatten, weil sie sich um kranke Kinder k\u00fcmmern mussten und die der Algorithmus als verd\u00e4chtig ausgew\u00e4hlt hatte. Frauen, Menschen mit migrantischem Hintergrund, Geringverdienende und Personen ohne universit\u00e4ren Abschluss wurden dabei \u00fcberm\u00e4ssig h\u00e4ufig verd\u00e4chtigt<\/a>, zu betr\u00fcgen. Frauen 1,7-mal h\u00e4ufiger, Migranten 2,3-mal h\u00e4ufiger, weniger Gebildete und Geringverdienende dreimal h\u00e4ufiger als eine demografisch angepasste Zufallsauswahl.<\/p>\n

\"\"

Gegen\u00fcber einer Zufallsauswahl wurden Frauen, Menschen, die unter dem Medianeinkommen verdienten und solche mit Migrationshintergrund und geringerer Bildung deutlich h\u00e4ufiger als verd\u00e4chtig ausgew\u00e4hlt. \u00a9 Lighthouse Reports<\/p><\/div>\n

Die Betroffenen bleiben oft ohne Unterst\u00fctzung und wurden in teils invasive Untersuchungen verwickelt. Auszahlungen wurden verz\u00f6gert. Amnesty International<\/a>, das die beiden Medien beratend unterst\u00fctzt hatte, ver\u00f6ffentlichte im November 2024 ebenfalls eine Stellungnahme.<\/p>\n<\/div>\n

Das System gleicht einer Hexenjagd<\/strong><\/p>\n

David Nolan, Amnesty International<\/em><\/cite><\/strong><\/p>\n

Die Anti-Betrugs-KI sei ein typisches Beispiel daf\u00fcr, dass das Recht der Menschen auf soziale Sicherheit, Gleichheit und Nichtdiskriminierung sowie auf Privatsph\u00e4re durch ein System verletzt w\u00fcrden, das eindeutig voreingenommen sei, sagte David Nolan, Senior Investigative Researcher bei Amnesty Tech.<\/p>\n

Die Beh\u00f6rde weist Vorw\u00fcrfe zur\u00fcck und argumentiert, dass ein menschlicher Pr\u00fcfer die endg\u00fcltigen Entscheidungen treffe. Dieser habe weitreichende Kompetenzen, beschreibt die Menschenrechtsorganisation.<\/p>\n

Er k\u00f6nne die Social-Media-Konten einer Person durchforsten, Daten von Institutionen wie Schulen und Banken einholen und sogar die Nachbarn einer Person befragen. Die Person, die dabei durchleuchtet wird, hat keinerlei Ahnung, dass sie von einem Algorithmus als verd\u00e4chtig markiert wurde. Das System, so Nolan, gleiche einer Hexenjagd.<\/p>\n

Bedenken wurden jahrelang ignoriert<\/strong><\/p>\n

Warnungen gab es bereits 2018, als die Kontrollbeh\u00f6rde ISF (Inspectorate for Social Security) darauf hinwies, dass der Algorithmus \u00abin seiner derzeitigen Ausgestaltung nicht der Gleichbehandlung entspricht\u00bb. Ein ehemaliger Datenschutzbeauftragter der schwedischen Sozialversicherungsanstalt warnte 2020, der gesamte Vorgang verstosse gegen die europ\u00e4ische Datenschutzverordnung. Die Beh\u00f6rde habe keine Rechtsgrundlage f\u00fcr die Erstellung von Profilen von Einzelpersonen.<\/p>\n

Nach der k\u00fcrzlich verabschiedeten europ\u00e4ischen Verordnung \u00fcber k\u00fcnstliche Intelligenz (KI-Gesetz) m\u00fcssten KI-Systeme zudem strenge Kriterien erf\u00fcllen, um sicherzustellen, dass sie nicht gegen Menschenrechte verstiessen. Schweden laufe Gefahr, einen Skandal loszutreten wie schon die Niederlande<\/a> vor einigen Jahren. 2019 wurde dort aufgedeckt, dass tausenden Erwachsenen zu Unrecht das Kindergeld entzogen oder tausende Euro von ihnen zur\u00fcckgefordert worden waren, vor allem von Ausl\u00e4nder:innen.<\/p>\n

Amnesty International fordert sofortigen Stopp<\/strong><\/p>\n

Es sei schwierig festzustellen, ob das schwedische KI-System unter das KI-Gesetz falle. Zu dieser Unsicherheit trage die Verweigerungshaltung der schwedischen Beh\u00f6rden bei. Es gebe jedoch Hinweise darauf, dass das System das Recht auf Gleichbehandlung verletze und Menschen diskriminiere. Deshalb m\u00fcsste es sofort abgestellt werden.<\/p>\n

Bedenken \u00e4ussert Amnesty auch gegen\u00fcber K\u00fcnstlicher Intelligenz, die im d\u00e4nischen<\/a> und franz\u00f6sischen<\/a> Sozialsystem verwendet wird.<\/p>\n

\n

Weiterf\u00fchrende Informationen<\/h3>\n