La lettera alle Istituzioni
Il 28 gennaio scorso, in occasione della Giornata europea della protezione dei dati personali, un gruppo di esperte in materia ha inviato una lettera a Consiglio dell’Unione europea, Parlamento europeo, Commissione europea, Autorità italiana per la protezione dei dati e Garante europeo della protezione dei dati.
L’iniziativa delle due avvocate Anna Cataleta e Sabire Sanem Yilmaz ha riscontrato l’interesse di numerose ricercatrici, docenti, manager e imprenditrici che hanno aderito in qualità di firmatarie. Ne è scaturita una profonda riflessione collettiva in cui sono confluite diverse attitudini accomunate dal medesimo obiettivo: rivolgersi alle principali Istituzioni europee affinché prendano atto dei risultati discriminatori connessi alla diffusione degli strumenti di Intelligenza Artificiale.
Gli aspetti analizzati nel testo sono molteplici, tutti estremamente importanti. Tuttavia, volendo attenermi al mio ambito di competenza, affronterò solo la questione dei pregiudizi e delle discriminazioni generate dall’IA e dai modelli linguistici di grandi dimensioni.
In che modo l’IA discrimina le donne?
Con parole di una non esperta in materia ecco cosa accade.
Gli algoritmi dell’Intelligenza Artificiale si basano su un processo di apprendimento automatico; se le informazioni adoperate per addestrarli contengono pregiudizi, verranno assorbite e riprodotte con queste assunzioni erronee.
L’IA, pertanto, tende a ripetere schemi stereotipati con il risultato di discriminare fasce deboli e/o sotto rappresentate.
Chi, meglio delle donne, rientra in tali categorie?
Questo rischio è stato ben evidenziato da una recente ricerca dell’UNESCO richiamata dalle promotrici dell’iniziativa in cui si legge: “gli algoritmi e i sistemi di intelligenza artificiale hanno il potere di diffondere e rafforzare gli stereotipi e i pregiudizi di genere, che rischiano di emarginare le donne su scala globale”.
Per quanto concerne i modelli linguistici adoperati dall’IA, anche in questo caso l’utilizzo di espressioni approssimative o discriminatorie, nel web come nella quotidianità, é alla base della loro diffusione all’interno dei modelli di IA. Catalogando le persone attraverso standardizzazioni, tali sistemi tendono ad appiattire le diversità e rafforzare ulteriormente stereotipi già esistenti.
Un fatto accaduto ad una pediatra inglese: la donna è stata bloccata dal sistema di gestione che regolava gli ingressi alla sua palestra poiché associava la professione “pediatra” solo al genere maschile. Da qui l’impossibilità per la donna di accedere allo spogliatoio femminile. Un esempio stupido? Forse, ma tale da far riflettere.
Vediamo adesso cosa accade in ipotesi più significative.
La legge europea sull’Intelligenza Artificiale
Istruzione, occupazione e servizi fondamentali sono tre ambiti ad alto rischio nei quali l’IA può dar luogo a possibili discriminazioni.
Pensiamo a quanti si rivolgono a un ente per richiedere una prestazione essenziale, si ponga il caso di un servizio sanitario. Quando la scelta di erogarlo o meno é demandata interamente ad un sistema automatico, il richiedente si può trovare in una condizione di vulnerabilità nella misura in cui tale sistema gli neghi ingiustamente la prestazione in quanto appartenente ad una determinata categoria.
Un discorso simile vale per i database testuali adoperati per il reclutamento del personale: molti di essi, poiché “nutriti” attraverso modelli storici di discriminazione, hanno pregiudicato alcune fasce deboli come donne e persone con disabilità riducendo grandemente le loro possibilità di trovare una occupazione.
Proprio per affrontare le problematiche generate dall’IA, l’Unione Europea ha adottato il regolamento (UE) 2924/1689, noto come l’IA Act. Entrato in vigore a partire dallo scorso 2 agosto, il testo intende garantire un utilizzo etico dei sistemi di IA e ridurre al minimo i loro effetti collaterali.
Tra i numerosi obiettivi di tale provvedimento, vorrei soffermarmi su questo: assicurare che i “sistemi di IA siano sviluppati e utilizzati in modo da includere soggetti diversi e promuovere la parità di accesso, l’uguaglianza di genere e la diversità culturale, evitando nel contempo effetti discriminatori e pregiudizi ingiusti vietati dal diritto dell’Unione o nazionale”.
Poche righe contengono l’immenso: dall’uguaglianza di genere e le pari opportunità, alla necessità di abbattere i pregiudizi, il tutto fornendo una adeguata rappresentazione della complessità del vivere sociale.
L’IA Act é un primo importante tentativo di regolamentare la materia con il delicato compito di bilanciare le esigenze di innovazione e di controllo. Tuttavia, nonostante il legislatore europeo sia stato chiaro nel voler combattere qualsiasi forma di discriminazione, la realtà è di gran lunga distante da quanto dichiarato in sede normativa.
Le mie conclusioni
Se i sistemi generativi apprendono un’informazione sbagliata, riprodurranno l’errore perpetrando le iniquità. Non si tratta di demonizzare le nuove tecnologie ma garantirne un uso rispettoso delle diversità senza pregiudicare le categorie più vulnerabili o le minoranze.
In che modo?
Prevedendo meccanismi di monitoraggio efficaci e affidando il ruolo di supervisore all’essere umano (A tal proposito il regolamento invita “organizzazioni imprenditoriali e della società civile, il mondo accademico, le organizzazioni di ricerca, i sindacati” a rendersi protagonisti di questa attività di vigilanza sin dalla fase progettuale di un sistema).
Infine, quanti utilizzino l’IA pregiudicando gli altrui diritti, andranno opportunamente sanzionati (costruttori, fornitori e distributori di servizi).
Non dimentichiamoci che….una macchina non ha emozioni, non prova né compassione né empatia. Eppure gli esseri umani le affidano il compito di prendere decisioni, anche molto importanti. Viviamo in un mondo che esalta soft skills e competenze trasversali per poi dipendere da decisori che ne sono privi del tutto.
Come sostiene il Prof. Galimberti, l’etica diviene patetica poiché chiede alla tecnica di non fare ciò che può in nome di principi a lei del tutto estranei.
E così, l’uomo vive in balia della tecnica, incapace di prevederne operato ed esiti.
Ecco perché le parole contenute nella lettera delle professioniste devono essere per tutti noi un monito.
Non dobbiamo “sottovalutare l’impatto che la discriminazione ha sulle persone vulnerabili, perché un tale errore di calcolo potrebbe danneggiare le nostre democrazie e lo spazio di libertà e di diritto che è alla base della creazione dell’Unione europea e di cui ogni essere umano dovrebbe godere”.
Ti abbraccio
