L'intelligenza artificiale ha il cervello un maschio beta: gli errori con le donne e le persone queer

Chi ha paura dell'intelligenza artificiale ce l'ha perché teme di poter essere sostituito, sostituita, sul lavoro o perché teme di trovarsi nella distopia del Grande Fratello predetto da George Orwell. Ma se davvero dobbiamo aver paura dell'AI, dovemmo avercene perché è molto più stupida di quanto non sembri. E la trattiamo come se fosse il Verbo divino (non lo è).

Abbiamo voluto approfondire la questione con l'imprenditrice e filologa Laura Venturini, una delle SEO più importanti d’Italia, appena uscita con il libro "Prompt Mindset" (Flaco Edizioni, con la prefazione di Cathy La Torre): un volume che prende le mosse dall’attività di evangelizzazione che svolge rispetto a un uso etico dell'AI. Tra i vari capitoli, il topic dei bias degli algoritmi torna spesso all’interno del manuale.

avere paura dell'Ai significa avere paura di sé stess*

Quindi, chi plasma il futuro digitale? Noi. Di certo non l’intelligenza artificiale che sì, si evolve da sola ma sulla base dei nostri comandi e delle nostre idee. Lei non è certamente neutra. È una creatura forgiata dall’esperienza, dalla cultura e dalle intenzioni di chi la sviluppa. E qui emerge subito una prima crepa nel suo presunto universalismo: "La stragrande maggioranza degli sviluppatori proviene da contesti omogenei: uomini, bianchi, anglofoni", attacca Laura Venturini, "E i sistemi che progettano inevitabilmente riflettono questi punti di vista. Non per malizia, ma per struttura". Se la maggior parte di persone che sviluppano l'AI è di quel tipo, il dataset di addestramento è sbilanciato e viziato, in poche parole: chi sceglie i dati di base da inserire ha pieno potere, almeno in una fase iniziale.

Nell'AI ogni algoritmo si nutre di dati e i dati non sono altro che un riflesso del mondo da cui provengono. Un mondo che è, purtroppo, ancora intriso di pregiudizi. "Chi seleziona i dataset? Con quale criterio? Il risultato è che l’AI finisce per replicare – e talvolta amplificare – stereotipi e discriminazioni".

ha suggerito la terapia di conversione a un ragazzo gay

Il caso dei software di riconoscimento facciale è emblematico: "L’accuratezza è altissima per uomini bianchi (errore sotto l’1 per cento), ma crolla per persone trans o non binarie (con errori vicini al cento per cento), e raggiunge livelli inquietanti di fallacia per donne nere. Qui, l’intersezionalità della discriminazione si fa evidente".

E non si tratta di una questione di fome. "I dati sanitari per esempio sono spesso basati su corpi maschili, ignorando sintomi e bisogni femminili", continua Venturini. "L’AI non fa che riproporre ciò che trova, come uno specchio deformante che, anziché correggere, moltiplica i difetti". Chiaramente, un altro tema bruciante è quello del linguaggio e del pensiero critico: "L’AI fatica ad accedere e valorizzare fonti e racconti che non siano già dominanti. In un episodio sconcertante e gravissimo del 2023, Google ha suggerito di accedere alla terapia di conversione a un utente che parlava della propria omosessualità. Una violenza algoritmica mascherata da assistenza digitale".

Va detto chiaramente: l’AI non inventa, apprende. Ed è qui che si apre un secondo fronte critico. Chi pone le domande? Chi costruisce le query? "Se una persona chiede all’AI di spiegare “perché le mele volano”, il sistema proverà a rispondere, non dirà che non è vero o che non lo sa", spiega l'imprenditrice. "Lo stesso accade con tesi complottiste, razziste o omofobe: l’AI segue, non contesta. È uno specchio pericolosamente accondiscendente che risponde allineandosi anche a domande distopiche come le teorie della Terra Piatta".

E allora, che fare? Una soluzione sta nel rendere più eterogenei i team di sviluppo. "Serve che nei luoghi dove si scrive il futuro siano presenti donne, persone LGBTQ+, soggetti neurodivergenti, rappresentanti delle minoranze, persone non bianche: perché la giustizia sociale non nasce dall’algoritmo in sé, ma da chi lo costruisce. Ma si tratta di forzare un sistema che è contrastato da chi, oggi, governa: gli Stati Uniti di Trump hanno cancellato i programmi di Diversity & Inclusion e le maggiori società di sviluppo dell'AI si trovano lì". Un’altra chiave è sicuramente l’educazione all'uso critico delle Intelligenze Artificiali.

Non dobbiamo accettare gli output dell’AI come oracoli infallibili ma "chiederci sempre se non siano presenti errori logici o aberrazioni etiche. Una soluzione è per esempio chiedere sempre di ricevere due tesi opposte su una stessa questione, chiedere risposte alternative e, soprattutto, verificare sempre", continua. Succede infatti che siamo noi a educare lei, non il contrario. Infatti "l’AI migliora con l’uso, ma solo se gli input sono consapevoli. Più noi impariamo a dialogare con lei in modo critico, più lei potrà crescere in direzioni etiche. Ma se ci limitiamo ad assorbirne le risposte senza spirito critico, rischiamo di diventare semplici ingranaggi in una macchina cieca. L’intelligenza artificiale non è il nostro sostituto, ma un’estensione delle nostre intenzioni".