L'Intelligenza Artificiale è sessista?

Se nel mondo esiste un ben documentato problema di genere, l’AI potrebbe aiutare a rinforzarlo: sono molte le analisi e gli studi condotti, su scala ben più ampia di qualche test su ChatGPT, che hanno permesso di segnalare i tanti preconcetti che riguardano le donne di cui è pregna l’Intelligenza Artificiale. Dal considerare i loro corpi come oggetti sessuali all’attribuire loro minori abilità in certi ambiti lavorativi, fino ad ignorare le esigenze sanitarie prettamente femminili, un mondo che fa sempre più affidamento alle macchine per i processi decisionali può prendere una direzione anacronistica se suddette macchine sono programmate per avere dei pregiudizi di genere. Uno studio del Berkeley Haas Center for Equity, Gender e Leadership ha analizzato 133 sistemi di Intelligenza Artificiale in diversi settori, e ha scoperto che ben il 44% di essi presentava pregiudizi di genere (mentre il 25% presentava sia pregiudizi di genere che razziali).

La sessualizzazione delle donne

Un paio di anni fa, due giornalisti del Guardian hanno utilizzato degli strumenti basati sull’Intelligenza Artificiale per analizzare centinaia di immagini. Rappresentavano donne e uomini in situazioni in cui erano poco vestiti, per esempio al mare, in palestra, oppure durante esami medici. L’AI ha indicato tutte le foto con protagoniste donne come sexually suggestive, sessualmente esplicite, anche quando si trattava di un’immagine che rappresentava un controllo medico (alcune erano prese dal sito di un istituto che si occupa di tumori). Ovviamente questo non accadeva con le immagini maschili. L’algoritmo oggettifica e sessualizza il corpo femminile, imponendo alle piattaforme social di censurarlo. Di conseguenza, la promozione di alcune pratiche relative alla salute femminile, o di attività, realtà imprenditoriali, iniziative gestite da donne e per le donne, trovano più ostacoli nell'essere diffuse: ed ecco servito un altro dei mille modi che esistono per amplificare le disparità sociali. 

Un paio di anni fa si parlò molto di Lensa, l’app che creava avatar partendo da una fotografia, e sessualizzava le donne in modo pressoché grottesco. Vitini da vespa, chiome fluenti, pose da ninfe che riprendevano i cliché della seduzione, abbondanza di nudità, e naturalmente pelle liscia, magrezza, nessun segno di invecchiamento: chiunque caricasse una sua immagine finiva per trovarne la versione stereotipata, quella che nell’immaginario comune verrebbe definita sexy. “Non mi sarei mai aspettata di essere sessualizzata da un’AI”, scrisse sulla rivista del MIT Melissa Heikkilä, testimoniando i ripetuti tentativi di creare il suo avatar tramite l’app. “Francamente, è stata una delusione cocente. I miei colleghi e amici hanno avuto il privilegio di essere stilizzati in rappresentazioni artistiche di loro stessi. Erano riconoscibili nei loro avatar. Io no. Le mie erano immagini di donne asiatiche [l’autrice si definisce una donna dai tratti somatici asiatici] generiche, chiaramente modellate su personaggi di anime o videogiochi”. Lo stupore è addirittura aumentato quando ha chiesto all’app di creare un suo avatar, ma presentandosi come uomo. “Le differenze sono evidenti. Nelle immagini generate usando filtri maschili ho i vestiti addosso, ho un aspetto assertivo e, cosa più importante, riesco a riconoscermi nelle foto”.

I bias sulla professionalità e le competenze

Secondo uno studio condotto dall’UNESCO, i cui risultati confermano la natura sessista di alcuni modelli di Intelligenza Artificiale conversazionale, l’AI è uno strumento che può portare molti benefici, ma anche presentare seri rischi per la società se usato per implementare il quadro normativo mentre è zeppo di applicazioni discriminatorie. “I sistemi di AI spesso perpetuano, e addirittura amplificano su larga scala, i bias sociali, umani e strutturali. Questi bias non sono solo difficili da mitigare, ma possono nuocere sia ai singoli individui che alla società intera”. Lo studio suggerisce che alle macchine siano state impartite poche istruzioni per collegare, per esempio, le donne alla scienza e alla politica. Queste e altri tipi di ‘mancanza’ si possono tradurre in discriminazione nel mondo del lavoro (bias nel determinare se una candidata è adatta al ruolo), e nell’assegnazione di prestiti, mutui, borse di studio. Tutti questi fattori a loro volta possono portare a un sempre più ampio divario occupazionale, perché l’AI oggi è chiamata anche ad assolvere compiti di un certo rilievo, come ad esempio valutare curriculum o giudicare la posizione di qualcuno che richiede un mutuo: se l’algoritmo è pieno di dati che indicano le donne come meno affidabili, o semplicemente ‘legge’ che le precedenti assegnazioni di posizioni e mutui sono state destinate a uomini, finirà per attribuirne con più facilità alle persone di sesso maschile e metterà in difficoltà, o addirittura boccerà, tutte le candidature femminili. Lo stesso vale per borse di studio, o altri tipi di benefit.

Inoltre, rileva lo studio UNESCO, la scarsa presenza di donne in tutti quegli ambiti che riguardano lo sviluppo stesso dell’AI, porterà gli algoritmi ad ignorare diversità, specifici bisogni e prospettive. Prendiamo per esempio i tool innovativi che si stanno sperimentando in campo medico per fare diagnosi e trovare cure: se programmati esclusivamente da uomini, rischiano di non tenere in considerazione (come già accade nel mondo reale) molte tematiche legate alla salute femminile. Natacha Sangwa, una studentessa ruandese che ha partecipato al primo coding camp organizzato nell’ambito dell’iniziativa African Girls Can Code, ha riferito a UNWomen, ente promotore dell’iniziativa: “Ho notato che quando le donne utilizzano alcuni sistemi basati sull’intelligenza artificiale per diagnosticare malattie, spesso ricevono risposte imprecise perché l’intelligenza artificiale non è a conoscenza di sintomi che possono presentarsi in modo diverso nelle donne”.

Servono più donne nel mondo dell'AI

Stando ai dati rilevati dal Global Gender Gap Index del World Economic Forum, di questo passo occorreranno ancora 134 per colmare il divario di genere globale (l’indagine annuale si basa sui dati relativi alla partecipazione delle donne nell’economia, all’istruzione, al mondo politico, e prende in considerazione parametri come la salute), e il ritmo potrebbe addirittura rallentare se tutti gli ambiti in cui oggi l’Intelligenza Artificiale opera e prende decisioni sono permeati di bias e pregiudizi nei confronti delle donne. Ma come si risolve questo problema? Semplicemente, formando il più possibile tutte le figure professionali che lavorano con l’AI sulle tematiche di genere, ma soprattutto includendo più donne in questo scenario: il World Economic Forum rileva che solo il 30% delle figure professionali che ruotano attorno all’Intelligenza Artificiale è donna, e in generale un arresto al 29% delle donne nel mondo STEM - science, technology, engineering and mathematics. “Sviluppare la tecnologia con una sola prospettiva è come guardare il mondo con un occhio solo”, riflette per UNWomen Sola Mahfouz, ricercatrice di informatica quantistica alla Tufts University attualmente impegnata in un progetto per creare una piattaforma basata sull’Intelligenza Artificiale che permetta alle donne afghane di collegarsi tra loro. “Servono più ricercatrici nel settore. Le esperienze vissute dalle donne possono plasmare profondamente le fondamenta teoriche della tecnologia. E possono anche aprire nuovi modi di applicarla”.

Ovviamente chi ha potere decisionale, dagli amministratori delegati delle grandi aziende ai politici, dovrebbero regolamentare in modo stringente le politiche che riguardano gli aspetti etici dell’AI. Ma il timore è che accada proprio il contrario: vista la recente scelta dei colossi del tech di rinunciare al fact-checking e alla regolamentazione dell’hate speech, c’è da temere che la direzione presa sia proprio all’opposto, ovvero utilizzare l’AI proprio per immettere nella società ancora più discriminazioni.