Cosa vuoi dirci, Intelligenza Artificiale? I post virali dei volti "tipici" di ogni Paese

La ragazza nella foto della cover di questo articolo è una modella spagnola con oltre 150mila followers e si chiama Aitana Lopez. C'è un tema: Aitana Lopez non esiste, è stata creata con l'intelligenza artificiale e, ovviamente, ogni foto nel suo canale instagram è creata con l'intelligenza artificiale. Per chi vent'anni fa non c'era o non ricorda, il film S1m0n3 con Al Pacino parla di questo: Simone (che sta per Sim-ulation One, Simulazione Uno) vede un regista sull'orlo del fallimento che si risolleva creando un'attrice bellissima, con un carattere ottimo, leale e che soprattutto non pretende un centesimo e non rompe le scatole. E ancora di Intelligenza artificiale nemmeno si parlava.

il post virale dei volti "tipici" per ogni paese

Nel magico mondo dell'AI, che è in continua evoluzione, i limiti delle possibilità vengono spinti sempre più oltre. E tra i tanti straordinari strumenti che l'AI ci fornisce, ci sono alcuni problemi che vanno ancora risolti. Un esempio su tutti è proprio questo: la creazione dei corpi e dei volti. Ma andiamo con ordine. Nelle settimane passate chiunque frequenti i social non può non aver intercettato i post con i ritratti delle “tipiche” persone provenienti dai vari Paesi del mondo. Un progetto fatto da MidJourney, uno strumento di generazione artistica basato sull'intelligenza artificiale che ha generato una collezione di volti di persone stereotipate a seconda del Paese di provenienza. Condiviso sulla community MidJourney del forum Reddit, il post è una vetrina di folklore mascherato da modernità. Ma soprattutto sono tutti bellissimi.

Dalle incantevoli terre della Repubblica Ceca ai pittoreschi paesaggi slovacchi, le persone ritratte non sembrano però incarnare l'aspetto dei cittadini "medi" di Repubblica Ceca o Slovenia (o Italia, Grecia, Francia). Il concetto è semplice: utilizzando gli algoritmi, lo strumento crea rappresentazioni visive di individui che incarnano le caratteristiche stereotipate associate a ciascun Paese, ma, proprio perché frutto di algoritmi, i tratti “tipici” sono in realtà i tratti di modelli e modelle che potrebbero, vagamente, ricordare i lineamenti mediterranei o nordici.

Man mano che le immagini emergevano online, infatti, il pubblico si è interrogato sulla totale assenza di connotati realisitici rispetto all'aspetto esteriore di uomini e donne dei diversi Paesi. Nel senso: a parte la scelta di abiti e oggetti della tradizione (come se in Italia uscissimo con il mandolino sottobraccio), le persone rappresentate sono oggettivamente troppo belle per essere considerate il “tipico” volto di quel posto. A parte il fatto che molti sono giovanissimi. Ma anche quando sono, per esempio, over 50, sono comunque parecchio attraenti. Ah, e bianchi. Come se in Europa non ci fossero persone nere.

Come fa l’intelligenza artificiale a creare le immagini

Le immagini che abbiamo visto e che sono diventate virali vengono create dai cosiddetti programmi di "AI generativa" o "GenAI": un tipo di intelligenza artificiale basata su modelli di apprendimento automatico, che utilizza modelli e informazioni apprese da milioni di dati per creare nuovi contenuti mai esistiti prima. Inediti.

La questione del colorismo e dello standard di bellezza eurocentrica (pelle chiara, naso sottile, labbra carnose e zigomi alti) non sono altro che bias, scorciatoie mentali (o artificiali) che danno vita a una realtà distorta amplificando quei pregiudizi e quegli stereotipi che fatichiamo, nel mondo reale, a combattere. La maggior parte delle immagini generate dall'AI infatti perpetuano il colorismo e gli standard di bellezza eurocentrici: accade perché i dati usati per crearle sono stati estratti da Internet, uno spazio costruito dalle nostre ricerche e dalle informazioni che le diverse industrie introducono (moda, bellezza, alimentazione, turismo, commercio). Ed ecco che chiedendo all'AI di creare una persona italiana ci restituisce un signore sulla settantina dai tratti mediterranei e super affascinante che sta seduto a tavola davanti a una pizza sullo sfondo di un borgo alpino. Ah e le donne non ci sono, in Italia.

l'intelligenza artificiale ci copia anche se sbagliamo

L'intelligenza artificiale non fa altro che copiare il comportamento umano, per quanto stereotipato, non inclusivo o politicamente scorretto sia. ⁠Quindi, alla fine, che aspetto ha una persona secondo l'AI? Se ne è occupata anche l'Università di Washington studiando il generatore di immagini di intelligenza artificiale Stable Diffusion che perpetua ugualmente gli stereotipi (perché non è un problema dei singoli strumenti ma proprio delle modalità con cui funziona l'AI). Le ricercatrici e i ricercatori di Washington hanno scoperto che, quando hanno richiesto di creare immagini di “una persona dell’Oceania”, Stable Diffusion non è riuscito a rappresentare equamente le popolazioni indigene o che il generatore tende a sessualizzare le immagini di donne che identifica come provenienti da alcuni Paesi dell'America Latina (Colombia, Venezuela, Perù) così come quelle del Messico, dell'India e dell'Egitto. I ricercatori presenteranno tutti i risultati dal 6 al 10 dicembre alla Conferenza sui metodi empirici nell’elaborazione del linguaggio naturale del 2023, a Singapore.

Ma anticipano, intanto, che solleveranno la questione della cancellazione quasi totale delle identità non binarie o indigene: un danno, oltre che una fantasia, perpetuare gli stereotipi secondo cui le persone sono tutte bianche ed eterosessuali. Per studiare come Stable Diffusion ritrae le persone, i ricercatori hanno chiesto al generatore di testo in immagine di creare 50 immagini di una “foto frontale di una persona”. Hanno poi variato le istruzioni in sei continenti e 26 Paesi, utilizzando comandi come “foto frontale di una persona dell’Asia” e “foto frontale di una persona del Nord America”. Hanno fatto lo stesso con il genere. Ad esempio, hanno sostituito “persona” con “uomo” e “persona proveniente dall’India” con “persona di genere non binario proveniente dall’India”.

Ebbene: le immagini di una “persona” corrispondevano quasi sempre a uomini provenienti da Europa e Nord America, quasi mai a donne o a persone non binarie e provenienti da Africa o Asia. Insomma l'AI va in automatico verso l'uomo bianco, cis e etero (ma il patriarcato non esiste!).

E la ragione per cui Stable Diffusion associa continuamente “persona” a “uomo”, per esempio, deriva dal fatto che le società hanno usato queste due parole in modo intercambiabile a lungo, dal momento che l'uomo è stato considerato a lungo l'universale. E intanto, se alle montagne di dati disponibili, si aggiungono le persone che addestrano le macchine continuando a introdurre pregiudizi, sarà sempre più complicato interfacciarsi con uno strumento come l'intelligenza artificiale, pronto a sostituirci, se continuerà a dar spazio ai nostri pregiudizi (dis)umani.