Da Super Vicki a Siri: Ai e robot sono solo femmine

Partiamo dall'inizio: AI for Good è una piattaforma digitale aperta tutto l'anno ed è dell'International Telecommunication Union delle Nazioni Unite. Questa piattaforma permette agli innovatori dell'Intelligenza Artificiale e agli esperti del tech di discutere e confrontarsi per trovare soluzioni e avvicinarci agli Obiettivi di sviluppo sostenibile delle Nazioni Unite. Qualcosa che interessa, o dovrebbe interessare, a tutte e tutti. 

Ogni anno Ai for Good organizza un Global Summit e quello del 2023 è stato anche l'occasione per un grande raduno di nuovi robot umanoidi tra cui Ai-Da, Nadine Social Robot, Geminoid e Sophia. Tutte femmine. Siamo qui per chiederci perché, se è un caso oppure – probabilmente – no. E già che ci siamo, chiediamoci anche perché abbiamo bisogno di dare a dei robot dei connotati di genere e perché proprio femminili.

hey Siri

Sono passati quarant'anni da quando andava in onda la sitcom Super Vicki in cui Vicki era appunto una robot adottata dalla famiglia Lawson perché assistesse i bambini con handicap. Sono passati quarant'anni e ancora pensiamo che ad assisterci debbano essere "femmine". 

La prima cosa che viene in mente per dare una sorta di speigazione a questo è che i campi della robotica e dell'intelligenza artificiale sono evidentemente occupati principalmente da uomini. Per questo molti robot o anche le cosiddette assistenti dotate di intelligenza artificiale come Siri (Apple), Alexa (Amazon) o Cortana (Microsoft) sono femmine? Forse sì. La cultura e i pregiudizi cognitivi che ciascuno di noi ha si fanno sentire ogni qual volta la nostra mente viaggia in automatico: se un uomo deve progettare una macchina (o una voce) che gli dia una mano è probabile che progetti un'assistente e non un assistente.

la domanda da porci

La domanda che dobbiamo porci è se siamo consapevoli che stiamo permettendo all'intelligenza artificiale di svilupparsi con le nostre tossine culturali. E si tratta di tossine legate alle discriminazioni di genere che l'Intelligenza Artificiale sta assumendo come naturali perché, per chi non fosse addentro alla questione, l'AI sviluppa sé stessa in modo autonomo ma pur sempre partendo da una base di dati iniziali forniti da umani e successivamente registra e fa suo tutto quello che trova online. Che sono sempre dati forniti da umani. Stereotipi, pregiudizi e discriminazioni comprese. E questo squilibrio di genere nell'intelligenza artificiale non è solo un'impressione: anche l'Unesco ha messo in guardia ricercatori e ricercatrici contro i pericoli della prassi attuale perché lasciare che una macchina così potente costruisca sé stessa discriminando le donne (ma non solo loro) potrebbe dare il colpo di grazia a un sistema già discriminatorio.

E questo senza tenere conto deglio attributi estetici di cui sono state dotate le robot presenti al summit di AI for Good. L'esigenza di rendere femminili i sistemi di intelligenza artificiale si radica in dei meccanismi culturali che sono stati indagati anche da alcuni team di professionisti di psicologia e marketing: il bias determinante, per quanto inconscio è quello che ci convince che le femmine sono meno spaventose dei maschi, nella vita come nella realtà virtuale. Per questo un robot femmina incute meno timore di un robot maschio.

le femmine sono più inclini a sottomettersi

Secondo la rivista scientifica Psychology & Marketing la femminilizzazione è quindi sistematicamente utilizzata nell'IA perché, proprio come nel mondo reale, le donne tendono ancora a essere oggettivate (rese oggetti) e di conseguenza sono ritenute assistenti perfette. Perché anche la narrazione che ci è stata restituita da film, pubblicità e abitudini ci mostra ogni giorno che l'assistente è femmina e possiede queste caratteristiche: aspetto curato, esperienza, spirito di servizio, nessuna reale ambizione e di certo priva di competenze che metterebbero a rischio il posto del capo. E non solo: le donne sono tendenzialmente percepite come più aperte e amichevoli degli uomini. Quindi dotare di connotati femminili degli oggetti contribuisce in modo determinante al processo di umanizzazione di macchine che ai fini del loro commercio devono essere percepite come aperte e amichevoli, come ricche di esperienza, come servizievoli ma prive di competenze che metterebbero a rischio il posto di lavoro degli umani. E la parola chiave è percepite: volti e voci femminili sono rassicurantil ma è solo una percezione.

Per via del loro essere costruite per sembrare “femmine”, le robot e le bot genderizzate sono percepite come più inclini a soddisfare i bisogni dell'umano, proprio come culturalmente ci si aspetta che le donne siano inclini a soddisfare i bisogni emotivi del prossimo. Ma se già è sciocco immaginare che un essere umano abbia inclinazioni e attitudini sol perché appartenente a un genere, figuriamoci un sistema. Per esempio, è come credere che cambiando dalle impostazioni dell'iPhone la voce di Siri per conferirle una voce da uomo, diventi meno "disponibile". È chiaro che si tratta di pregiudizi di genere che applichiamo senza pudore a macchine asessuate e genderless.

robot femmine progettate da maschi

Ora che sappiamo che la femminilità viene utilizzata per umanizzare entità non umane allo scopo di farle sembrare innocue e servizievoli, dovrebbe essere più chiaro che la discriminazione di genere esiste. Per citare la filosofa Martha C. Nussbaum, "L'oggettivazione comporta la trasformazione in una cosa di qualcosa che in realtà non è una cosa". Ed ecco cosa stiamo facendo alle robot, nel tentativo di umanizzarle e di farle percepire come donne si mette nero su bianco quale sia la visione che il mondo ha delle donne: servizievoli e progettate per soddisfare i bisogni altrui. O almeno quale sia la visione di quella parte di mondo che sta progettando robot e intelligenze artificiali.

Ma la differenza sostanziale è che questo processo di genderizzazione dei e delle robot non li rende meno problematici o più umani: restano macchine, grovigli di cavi e insiemi di informazioni e dati che crescono in autonomia e che s', sono una risorsa. Ma che per quanto possano sembrare innocue le robot che ci preparano il caffè e ci riordinano i documenti, saranno sempre più intelligenti e più forti di noi. Anche se siamo noi a progettarle., Anche se siamo maschi.