Amnesty International ha pubblicato oggi un nuovo rapporto sull’ente responsabile del welfare in Danimarca, Udbetaling Danmark (Udk), che rischia di discriminare persone con disabilit\u00e0, individui a basso reddito, migranti, rifugiati e gruppi razziali emarginati attraverso l\u2019uso di strumenti di intelligenza artificiale finalizzati a segnalare sospetti di frode nei sussidi sociali.<\/p>\n
Il rapporto, <\/i>Ingiustizia programmata: sorveglianza e discriminazione nello stato sociale automatizzato della Danimarca<\/a><\/i>, descrive come l\u2019utilizzo diffuso di algoritmi per la rilevazione di frodi, associato a pratiche di sorveglianza di massa, abbia portato le persone a rinunciare inconsapevolmente – o contro la loro volont\u00e0 – al proprio diritto alla privacy, creando un clima di paura.<\/p>\n “Questo genere di sorveglianza di massa ha dato vita a un sistema di sussidi sociali che rischia di prendere di mira, invece di aiutarle, proprio le persone che dovrebbe proteggere”, ha affermato Hellen Mukiri-Smith, ricercatrice di Amnesty International su intelligenza artificiale e diritti umani.<\/p>\n “Il funzionamento del sistema automatizzato di welfare danese sta erodendo la privacy individuale e minando la dignit\u00e0 delle persone. Utilizzando algoritmi per il controllo delle frodi e metodi tradizionali di sorveglianza per identificare truffe nei sussidi sociali, le autorit\u00e0 stanno facilitando ed espandendo una sorveglianza di massa digitalizzata\u201d, ha aggiunto Hellen Mukiri-Smith.<\/p>\n L\u2019Udbetaling Danmark (Udk) ha incaricato la Arbejdsmarkedets Till\u00e6gspension (Atp)<\/a>, un fondo pensionistico pubblico danese, di gestire i sussidi sociali e le iniziative per il controllo delle frodi. L\u2019Atp, a sua volta, ha collaborato con multinazionali private, inclusa la Nnit<\/a>, ovvero il fornitore leader di servizi e infrastrutture d\u2019intelligenza artificiale in Danimarca, per sviluppare algoritmi di controllo delle frodi su misura per le loro specifiche richieste.<\/p>\n “Seduti di fronte a una pistola”<\/b><\/p>\n L\u2019Udk\u00a0e l\u2019Atp utilizzano un sistema che pu\u00f2 includere fino a 60 modelli algoritmici, progettati – secondo quanto riferito – per rilevare sospetti di frode nei sussidi sociali e segnalare persone per ulteriori indagini da parte delle autorit\u00e0 danesi. Durante la sua ricerca, Amnesty International ha ottenuto un accesso parziale a quattro di questi algoritmi.<\/p>\n Per alimentare questi algoritmi di rilevamento delle frodi, le autorit\u00e0 danesi hanno promulgato leggi che consentono una raccolta estensiva e l\u2019integrazione dei dati presenti nei database pubblici di milioni di persone residenti in Danimarca. Questi dati comprendono informazioni su stato di residenza, spostamenti, cittadinanza, luogo di nascita e relazioni familiari, ovvero dati sensibili che possono anche fungere da indicatori indiretti della razza, dell\u2019etnia o dell\u2019orientamento sessuale di una persona.<\/p>\n “Questo potente strumento di sorveglianza viene utilizzato per documentare e profilare la vita di una persona, spesso distaccandosi dalla realt\u00e0. La macchina traccia e monitora il luogo di residenza di chi percepisce un sussidio sociale, il suo impiego, la sua cronologia di spostamenti, le cartelle sanitarie e persino i suoi legami con paesi stranieri”, ha dichiarato Hellen Mukiri-Smith.<\/p>\n L\u2019Udk afferma che la vasta raccolta e l\u2019incrocio dei dati personali per rilevare frodi nei sussidi sociali abbiano \u201cbasi legali\u201d. Tuttavia, i risultati di Amnesty International dimostrano che la quantit\u00e0 enorme di dati raccolti e trattati non \u00e8 n\u00e9 necessaria n\u00e9 proporzionata. Le persone intervistate da Amnesty International hanno descritto il grave impatto psicologico che ha su di loro la sorveglianza cui vengono sottoposte da parte degli ispettori antifrode e degli assistenti sociali.<\/p>\n Gitte Nielsen, la presidente della Commissione per le politiche sociali e del mercato del lavoro della Dansk Handicap Foundation, ha affermato che le persone con disabilit\u00e0, costantemente interrogate dagli assistenti sociali, spesso si sentono affrante, raccontando che il controllo continuo \u201cle sta consumando\u201d. Descrivendo il terrore di essere indagata per frode nei sussidi, una persona intervistata da Amnesty International ha dichiarato: \u201c[\u00c8 come] essere seduti di fronte a una pistola. Abbiamo sempre paura. [\u00c8 come se] la pistola fosse [sempre] puntata contro di noi\u201d.<\/p>\n Algoritmi arbitrari e discriminatori<\/b><\/p>\n La discriminazione generata dagli algoritmi della Udk e da Atp avviene in un contesto di disuguaglianze preesistenti – leggi, regole, istituzioni, norme e valori – radicate nella societ\u00e0 danese. Questi meccanismi discriminatori sono integrati nella progettazione dei modelli algoritmici di Atp, facilitando la categorizzazione delle persone e delle comunit\u00e0 in base a differenze o secondo logiche di \u201calterit\u00e0\u201d.<\/p>\n Per individuare frodi nei sussidi per le pensioni e nei programmi di assistenza all’infanzia, le autorit\u00e0 danesi utilizzano Really Single, un algoritmo volto a determinare lo stato familiare o relazionale di una persona. Tra i parametri usati dall\u2019algoritmo vi sono modelli di vita o disposizioni familiari \u201cinsoliti\u201d o \u201catipici\u201d. Tuttavia, non \u00e8 chiarito cosa venga considerato \u201cinsolito\u201d o \u201catipico\u201d, lasciando spazio a interpretazioni arbitrarie.<\/p>\n \u201cPersone in strutture abitative non convenzionali – come quelle che, pur essendo sposate, vivono separate a causa di disabilit\u00e0, persone anziane che hanno una relazione ma vivono separate o persone che vivono in nuclei familiari multigenerazionali, una situazione comune tra le comunit\u00e0 migranti – rischiano di essere prese di mira dall\u2019algoritmo Really Single per ulteriori indagini sulle frodi nei sussidi sociali\u201d, ha proseguito Hellen Mukiri-Smith.<\/p>\n L\u2019Udk e il fondo Atp utilizzano anche parametri relativi a \u201clegami con l\u2019estero\u201d nei loro modelli algoritmici. L\u2019algoritmo Model Abroad individua gruppi di beneficiari ritenuti avere \u201clegami di media o alta intensit\u00e0\u201d con paesi non appartenenti allo Spazio economico europeo e assegna loro una priorit\u00e0 per ulteriori indagini sulla frode in questione. La ricerca evidenzia che questo approccio discrimina le persone sulla base di fattori come l’origine nazionale e la condizione di persona migrante.<\/p>\n L\u2019Udk ha risposto ad Amnesty International che l’uso della \u201ccittadinanza\u201d come parametro nei propri algoritmi non costituisce un trattamento di dati personali sensibili. Amnesty International non \u00e8 d’accordo con questa argomentazione, poich\u00e9 la cittadinanza, come parametro, pu\u00f2 rivelare l\u2019origine etnica, la razza e lo status migratorio di una persona, comportando cos\u00ec una discriminazione diretta in base all’origine nazionale.<\/p>\n Un sistema di punteggio sociale?<\/b><\/p>\n Udk e Atp hanno fornito ad Amnesty International una documentazione parziale e poco chiara sul disegno di alcuni sistemi algoritmici, rifiutando sistematicamente le richieste dell\u2019organizzazione per un audit collaborativo e negando l’accesso completo al codice e ad altri dati utilizzati negli algoritmi per il rilevamento delle frodi.<\/p>\n \u201cLe informazioni raccolte e analizzate da Amnesty International indicano che il sistema utilizzato da Udk e Atp funziona come un sistema di punteggio sociale ai sensi della nuova legge europea sull\u2019intelligenza artificiale (AI Act) e dovrebbe quindi essere vietato\u201d, ha affermato Hellen Mukiri-Smith. L\u2019Udk\u00a0ha respinto la valutazione di Amnesty International secondo cui il proprio sistema antifrode ricadrebbe verosimilmente nel divieto di punteggio sociale previsto dall\u2019AI Act, senza per\u00f2 fornire una spiegazione adeguata a supporto del proprio punto di vista.<\/p>\n Amnesty International ha esortato la Commissione europea a chiarire, nelle linee guida dell\u2019AI Act, quali pratiche di intelligenza artificiale costituiscano punteggio sociale, rispondendo alle preoccupazioni sollevate dalla societ\u00e0 civile<\/a>. L\u2019organizzazione ha chiesto inoltre alle autorit\u00e0 danesi di dimostrare e garantire che il sistema di rilevamento delle frodi utilizzato dall\u2019Udk non sia un sistema di punteggio sociale; fino a quando ci\u00f2 non verr\u00e0 accertato, il sistema dovrebbe essere sospeso.<\/p>\n \u201cLe autorit\u00e0 danesi devono attuare urgentemente un divieto chiaro e legalmente vincolante sull\u2019uso di dati relativi a \u2018legami con l\u2019estero\u2019 o di dati indiretti per la valutazione del rischio ai fini del controllo antifrode. Devono inoltre garantire una trasparenza rigorosa e una supervisione adeguata nello sviluppo e nell\u2019implementazione degli algoritmi di controllo delle frodi\u201d, ha aggiunto Hellen Mukiri-Smith.<\/p>\n In base a diversi trattati internazionali sui diritti umani, alle leggi dell\u2019Unione europea e alla legislazione nazionale, la Danimarca ha l’obbligo legale di tutelare i diritti umani quali la privacy, la protezione dei dati, la libert\u00e0 di espressione, l’uguaglianza e la non discriminazione. \u201cQuesti diritti non sono solo il fondamento di una societ\u00e0 giusta, ma garantiscono anche un accesso equo alla sicurezza sociale, all\u2019assistenza sanitaria e a molto altro\u201d, ha concluso Hellen Mukiri-Smith.<\/p>\n Ulteriori informazioni<\/b><\/p>\n In vista della pubblicazione del rapporto, Amnesty International ha contattato Nnit, ma la societ\u00e0 non ha fornito ulteriori dettagli sui contratti stipulati con Udk e Atp, adducendo obblighi di riservatezza. La Nnit non ha nemmeno condiviso informazioni in merito a eventuali verifiche sui diritti umani effettuate prima di sottoscrivere l\u2019accordo con Udk e Atp.<\/p>\n La ricerca sulla Danimarca si basa anche su precedenti indagini di Amnesty International riguardanti l\u2019automazione e la digitalizzazione del settore pubblico nei Paesi Bassi<\/a>, in India<\/a> e in Serbia<\/a>, con particolare attenzione ai rischi per i diritti umani e alle conseguenze dell\u2019uso di algoritmi decisionali in tali contesti.<\/p>\n","protected":false},"excerpt":{"rendered":" Amnesty International ha pubblicato oggi un nuovo rapporto sull’ente responsabile del welfare in Danimarca, Udbetaling Danmark (Udk), che rischia di discriminare persone con disabilit\u00e0, individui a basso reddito, migranti, rifugiati e gruppi razziali emarginati attraverso l\u2019uso di strumenti di intelligenza…<\/p>\n","protected":false},"author":432,"featured_media":2562592,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[150,60,47],"tags":[112218,23212,24736,129103,3037],"class_list":["post-2562588","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-comunicati-stampa","category-diritti-umani","category-europa","tag-ai-it","tag-danimarca","tag-intelligenza-artificiale","tag-rischi-per-i-diritti-umani","tag-welfare"],"yoast_head":"\n