L’Intelligenza Artificiale fa ormai parte della nostra quotidianità, e, man mano che si amplia il suo raggio d’azione, ne sarà sempre più protagonista. Fa già parte dei sistemi di intrattenimento (gli algoritmi ci suggeriscono che film guardare, che musica ascoltare, ci propongono pagine social da seguire), ci suggerisce come vestire e cosa preparare per cena. Non solo: scrive e disegna per noi, fa ricerche e crea progetti, permette alle automobili di condursi da sole o quasi, consente ai macchinari di fare diagnosi sanitarie, riconosce i volti, assegna mutui e borse di studio, seleziona curriculum. Sempre più autonome, le macchine sono già perfettamente in grado di sostituire l’essere umano in numerosi ambiti, e le sue competenze si estenderanno sempre di più. Ma della mente umana l’AI non ha acquisito solo le competenze: anche i bias, i pregiudizi e tutto il corollario di  discriminazioni più o meno insite nel genere umano rischiano di palesarsi attraverso le nuove applicazioni di questa tecnologia. Perché, in fondo, sono pur sempre delle persone in carne ed ossa (e bias) ad istruire le macchine: ecco dunque che nel settore tecnologico si avverte la necessità di disporre di qualcuno che monitori, eviti e mitighi certe rischiose derive, e faccia sì che la tecnologia venga applicata in un contesto giusto ed equo, rispettoso dei diritti umani. Quella dell'AI ethicist, che in Italiano si può tradurre con esperto o specialista di etica nell’Intelligenza Artificiale, è una figura professionale emergente, ma sempre più utile e richiesta, e ha proprio il compito di garantire che lo sviluppo, l’implementazione e l’uso delle tecnologie siano allineati con i principi etici e non rechino danno alle persone o a intere categorie. 

Chiara Valerio e l'AI: chi ha paura dell'intelligenza artificiale?

Il ruolo di un AI ethicist

Lo specialista in etica dell’AI ha il compito di valutare e mitigare i rischi etici legati all’uso dell’Intelligenza Artificiale. Per esempio, cerca di capire come i sistemi di AI potrebbero perpetrare discriminazioni, magari rinforzando pregiudizi di genere o razziali, o come potrebbero danneggiare la privacy delle persone raccogliendone i dati. Inoltre, contribuisce allo sviluppo di linee guida che delineano come queste tecnologie devono essere progettate e utilizzate. Inoltre, studia le implicazioni legali e normative, e promuove la responsabilità sociale chiedendosi, ad esempio, se una specifica tecnologia potrebbe avallare gender gap o disuguaglianze sociali.  

Intervistata dal Sole24Ore, Francesca Rossi, AI Ethics Global Leader presso IMB, spiega che l’AI ethicist lavora sulle “Proprietà che deve avere questa tecnologia per essere allineata a dei principi, per poi poterla usare e perché di lei ci si possa fidare”. L’esperta, che sottolinea come all’interno delle grandi aziende questo compito venga solitamente affidato a più persone che provengono dai vari settori, dice che si tratta di “Un lavoro multidisciplinare. Io affianco ricercatori in Intelligenza Artificiale, ma anche esperti in altre discipline, come neurotecnologie, psicologia, filosofia… Interveniamo da tanti punti di vista, cercando di capire se questi tipi di AI discriminano, specialmente quelli basati sul machine learning cioè sull’apprendimento dei dati. Il nostro compito è capire se ci possono essere dei bias nascosti, dei pregiudizi, delle correlazioni fra variabili che magari noi neanche consideriamo, che poi possono portare a delle possibili discriminazioni nelle decisioni. Ad esempio, pensiamo ad un sistema di AI applicato alle richieste di mutui: se tutti gli esempi di richieste rifiutate sono quelle che provengono da donne, mentre quelle che vengono accettate sono di uomini, la macchina farà una correlazione tra il genere e le decisioni da prendere in futuro”.

Ma come si diventa Ai ethicist? Ci sono varie strade, e non per forza si originano nel mondo della tecnologia. Scienze sociali, sociologia, filosofia e varie combinazioni di studi umanistici forniscono l’impianto critico necessario a fare questo lavoro, anche se ovviamente si deve avere dimestichezza con la tecnologia e la computer science. Si può lavorare per qualche azienda specifica, per un ente pubblico, per istituzioni o per la pubblica amministrazione, oppure prendere la strada della ricerca. È possibile anche lavorare come consulenti esterni, collaborando e aiutando vari organi o aziende in progetti specifici.  

Cosa significa lavorare con l’etica dell’AI

Qualsiasi rivoluzione tecnologica ha portato con sé delle considerazioni riguardanti l’etica, ma con l’intelligenza artificiale il discorso sembra avere un'impellenza maggiore per due ragioni: innanzitutto, perché l’AI è pensata per ‘sostituire’ l’intelligenza umana, e di conseguenza anche la sua capacità di discernere cosa è giusto da cosa è sbagliato (pur essendo questi dei concetti molto relativi). In secondo luogo, perché l’AI viene utilizzata per prendere decisioni, e in base ad esse può dipendere la vita delle persone. Tuttavia a rendere questo argomento molto complesso c’è il fatto che concetto di ‘etica’, di giusto o sbagliato, è relativo: per questo occorre analizzare caso per caso quando si parla di tecnologia discriminante o irrispettosa. Su questo punto si sofferma molto Diletta Huyskes, ricercatrice che si occupa dell’etica, della cultura, del design e dell’impatto sociale delle tecnologie, nonché co-CEO di Immanence, società benefit che fornisce consulenza nella valutazione degli impatti etici di intelligenze artificiali e tecnologie digitali. “L’etica della tecnologia esiste da tanto tempo ed essendo un tema complicato, io cerco sempre di applicarla a contesti specifici, a una situazione più piccola possibile. Quando lavoriamo con delle aziende, con delle PA o organizzazioni varie, cerchiamo innanzitutto di capire quali sono le implicazioni di quel contesto specifico. Da lì proviamo a fare un lavoro di adesione a dei principi più alti, che però vanno sempre inseriti nella situazione specifica che si sta guardando”. 

“Quello che tendenzialmente facciamo con la nostra società è guidare lo sviluppo delle tecnologie in modo che siano etiche fin dall’inizio”, spiega Huyskes. “Sostanzialmente si tratta di affiancare dei team tecnici che costruiscono le tecnologie e che magari non si rendono conto di alcune cose, perché semplicemente sono abituati a pensarci in un modo diverso da come faccio io. Ognuno guarda gli aspetti che gli competono, persegue gli obiettivi che gli interessano, per cui un data scientist ha un obiettivo di accuratezza, di efficienza di un certo tipo, io invece ho l’obiettivo che quella tecnologia discrimini il meno possibile alcune categorie sociali o che impattando sulla società non crei delle sproporzioni di altro tipo. Tutto questo calato in una realtà aziendale può voler dire tantissime cose”.

“Abbiamo per esempio consigliato di inserire più lingue in un’applicazione in modo da poterla far usare a persone anche che non parlano l’italiano”, prosegue la ricercatrice. “Abbiamo raccomandato di considerare delle voci che fossero neutrali, quindi che non avessero un genere: gli assistenti vocali normalmente storicamente sono delle donne ma ci capita di consigliare di non scegliere questa indicazione di default. Fondamentalmente quello che facciamo è guidare queste scelte, un po’ per far capire che la costruzione di un’intelligenza artificiale implica tantissime opzioni che diamo per scontate. Spesso chi le costruisce va un po’ col pilota automatico, in e quindi la mia esperienza serve a portare uno sguardo diverso. Quando mi metto al fianco di un data scientist e vedo cosa fa in automatico e gli chiedo perché hai fatto così? Perché hai scelto questi label, queste etichette, perché hai preso questi dati e non questi altri? Perché hai scelto questi come indicatori principali? Faccio in modo che vengano discussi tutti questi automatismi”.

E quando invece una tecnologia è già esistente? “In questo caso facciamo delle valutazioni di impatto, cerchiamo quindi di capire quali possono essere le conseguenze sulla società di quell'applicazione o programma, e cerchiamo soluzioni per provare a mitigare quegli impatti se rischiosi, cercando di correggere alcune dimensioni dentro la tecnologia”. Diletta Huyskes racconta un aneddoto esemplificativo di come le macchine possano avere un impatto importante sulla vita delle persone: “Nei Paesi Bassi qualche anno fa si venne a sapere che un programma basato sull’Intelligenza Artificiale utilizzato dal governo e dell’autorità fiscale aveva sistematicamente discriminato alcune famiglie (circa 30.000) che accedevano regolarmente a welfare e sussidi. Si è scoperto che questo software nell’arco di sette anni aveva considerato come a rischio di commettere frode allo Stato e ai servizi sociali tutte le categorie sociali già socialmente escluse. Parliamo quindi soprattutto di persone con background migratorio, di donne e di persone giovani, e a maggior ragione quando una persona incarnava tutte e tre queste caratteristiche. Ovviamente il software aveva semplicemente applicato un’indicazione che gli era stata impartita in origine da esseri umani, che avevano identificato quelli come indicatori d’alto rischio. La macchina si è basata su statistiche storiche, e ha deciso di applicare questi dati del passato su un futuro che non era ancora avvenuto”.

Come si mitigano i pregiudizi delle macchine

Non esiste un’unica soluzione al problema del pregiudizio e dei bias nell’AI. Spesso le governance delle grandi aziende cercano di ovviare a questi problemi etici diversificando ed ampliando il più possbicile il team: persone con diverse esperienze possano riconoscere i bias l’uno dell’altro. Inoltre, è importante formare i programmatori e fornire loro gli strumenti per accedere ai dati corretti. Ma anche investire nella loro cultura, nella loro formazione, nel loro training. Tuttavia, la risposta a questa domanda è troppo complessa per essere ridotta a poche semplici formule: “Ogni caso è diverso. Non esiste una soluzione univoca su come sradicare il pregiudizio e dare una connotazione etica all’AI, perché il pregiudizio purtroppo è una componente delle nostre società. Inoltre, assume sembianze diverse a seconda del contesto che stiamo guardando: le discriminazioni che facciamo in Italia sono diverse da quelle che si fanno negli USA, da dove arrivano molte delle tecnologie che utilizziamo”. 

“L’etica è un concetto molto grande, io ogni volta che ne parlo mi sento investita di un’enorme responsabilità”, sottolinea Huyskes. “Può voler dire tante cose, può intendere il bene, gli ideali di bontà, di giustizia. Nel linguaggio comune spesso viene confusa con una sua parente strettissima, la morale”. Uno dei temi su cui si sofferma la ricercatrice è l’impossibilità di stabilire cosa sia l’etica universale, e la difficoltà che deriva dunque nel voler dare alla tecnologia un carattere etico condiviso da tutti: “Le Nazioni Unite, il Consiglio d’Europa, l'UNESCO, tanti altri organi sovranazionali hanno provato in questi anni a dare degli indirizzi in questo senso, però poi i principi sono talmente alti, e le applicazioni di queste tecnologie sono talmente su larga scala, che è molto difficile calarli nel contesto”. 

“Soprattutto quando mi occupo di ricerca”, conclude l’esperta, “metto molta enfasi su tutto quello che c'è di umano nel mondo dell’AI. Tendenzialmente io non parlo mai di problemi, discriminazioni, bias delle tecnologie, perché i valori, le idee, i pregiudizi vengono immessi dalle persone che lavorano queste tecnologie. Quello che c’è di tecnologico è l’infrastruttura, è il funzionamento tecnico, che purtroppo non può cambiare, magari solo perfezionarsi. Sono le scelte umane invece quelle che si possono rivedere, cambiare, aggiustare. Secondo me molto spesso la cosa principale da cui partire è chiedersi: a chi ci serve questa intelligenza artificiale? Perché la vogliamo? Qual è l’obiettivo? E soprattutto, ci serve davvero? Molto spesso questa è la vera domanda zero. E tante volte la risposta ci fa capire che no, non serve”.