L'Intelligenza Artificiale come "babysitter digitale": il controverso progetto Baby Grok di Elon Musk
Telefono Azzurro lancia l'allarme sulla sicurezza dei minori, chiedendo filtri e protezione. Il progetto però si scontra con l'AI Act europeo, che ne rende la strada in salita
Condividi su
Elon Musk ha annunciato che svilupperà una nuova applicazione di intelligenza artificiale dedicata ai contenuti per bambini, chiamata Baby Grok, appena una settimana dopo il lancio di Grok 4. L'annuncio è arrivato attraverso un laconico post su X, senza fornire dettagli su funzionalità, modalità di utilizzo o tempistiche di rilascio.
Il tempismo dell'annuncio, però, solleva più di un interrogativo. L'idea di un'intelligenza artificiale destinata all'infanzia arriva proprio mentre xAI, l'azienda di Musk, sta affrontando le conseguenze della generazione di contenuti antisemiti da parte del suo chatbot principale, per la quale ha dovuto ammettere pubblicamente la responsabilità.
"Mettere l'intelligenza artificiale nelle mani dei bambini: fantastico soprattutto se chi la progetta e chi due settimane fa la settimana scorsa ha sfornato un bot antisemita e nel corso della stessa settimana ha tirato fuori una serie di bot per adulti che vogliono fare sesso e organizzare sparatorie in classe", commenta Matteo Flora, esperto di Tech Policy e professore di Fondamenti di sicurezza delle AI e delle superintelligenze alla European School of Economics di Milano, in un video dedicato su Youtube. Flora definisce l'annuncio un "annuncio a effetto" e una delle "ennesime sparate di Elon Musk senza dettagli tecnici per una cosa che dire che è pericolosa e lo è forse ancora di più sottovalutarla".
L'allarme di Telefono Azzurro
La notizia ha immediatamente acceso i riflettori sulla sicurezza dei minori online, con Telefono Azzurro che lancia un allarme sui rischi delle interazioni tra bambini e intelligenze artificiali. L'organizzazione presenta dati preoccupanti: l'84% degli adolescenti tra 13 e 17 anni ha già interagito almeno una volta con chatbot AI, mentre uno su sei lo fa regolarmente perché non ha nessun altro con cui parlare. "Non possiamo lasciare che l'innovazione divenga una nuova zona grigia di vulnerabilità per i bambini - afferma Ernesto Caffo, Presidente di Telefono Azzurro -. I dati internazionali ci dicono che il 40% dei ragazzi ritiene vere le informazioni ricevute dai chatbot senza verificarne l'attendibilità, e il 23% ha già ricevuto consigli rischiosi o inappropriati, inclusi riferimenti ad autolesionismo e sessualità".
L'organizzazione evidenzia come questi sistemi, presentandosi come "compagni" virtuali con funzioni vocali e video sempre più realistiche, possano generare un pericoloso attaccamento emotivo nei minori, rendendo difficile per loro distinguere tra realtà e finzione.
Un progetto che divide
L'annuncio di Baby Grok divide esperti e opinione pubblica. Se da un lato l'idea di un'intelligenza artificiale educativa potrebbe rappresentare uno strumento innovativo per l'apprendimento, dall'altro emergono preoccupazioni concrete sulla sicurezza e l'affidabilità del progetto, considerando i recenti problemi di xAI. Matteo Flora esprime forti riserve, richiamando l'attenzione sul fenomeno dei "digital babysitter": "C'è il pericolo concreto che l'intelligenza artificiale replichi il fenomeno YouTube: da strumento educativo a babysitter digitale. Il rischio è che molti genitori, come già avviene con i video online, utilizzino questi chatbot per intrattenere i figli, delegando di fatto a un'intelligenza artificiale il ruolo educativo e di accompagnamento", commenta Flora. Le preoccupazioni si intensificano considerando i problemi di Grok: “xAI non è riuscita a controllare il proprio sistema nonostante gli sforzi. Ogni tentativo di correggere il tiro - renderlo meno politicamente schierato, meno "woke" - ha prodotto contenuti ancora più problematici. Se non riescono a gestire un chatbot per adulti, cosa accadrà con uno per bambini?”. Il riferimento va anche a casi tragici come Replika, il chatbot collegato al suicidio di un ragazzo americano.
Il chatbot Grok, lanciato nel 2023 come alternativa a ChatGPT e altri sistemi simili, è stato presentato da Musk come l'IA "più intelligente al mondo", con capacità cognitive "superiori a quelle di un dottorato". Tuttavia, gli episodi controversi degli ultimi mesi hanno messo in dubbio la coerenza tra le ambizioni dichiarate e i risultati effettivi.
Le richieste degli esperti
Telefono Azzurro non si limita a lanciare l'allarme, ma presenta richieste concrete: "Chiediamo verifica obbligatoria dell'età, una progettazione child-safe e filtri intelligenti, insieme a un programma nazionale di educazione digitale per famiglie e scuole", conclude Caffo.
L'organizzazione sottolinea come sia necessario agire rapidamente, considerando che questi strumenti stanno diventando parte integrante della vita quotidiana dei giovani. La vulnerabilità dei minori di fronte a sistemi che si presentano come empatici e comprensivi richiede protezioni immediate e normative specifiche. Flora evidenzia che "in Europa l'Ai Act ha delle norme precise con una serie di criteri abbastanza chiari su quando si determini un medio, basso o alto rischio e ci sono dei vincoli precisi sulle applicazioni di intelligenza artificiale destinate ai minori". Sottolinea che l'Ai Act "vieta sistemi che sfruttano le vulnerabilità dei minori", rendendo la strada per Baby Grok "tutta in salita" e rendendolo un progetto che "rischia di nascere ed essere bloccato subito".
Un futuro da costruire con cautela
L'idea di un'intelligenza artificiale dedicata ai bambini non è di per sé negativa. Potrebbe rappresentare un valido supporto educativo, un compagno di giochi digitale sicuro o uno strumento per l'apprendimento personalizzato. Tuttavia, la realizzazione di un progetto del genere richiede standard di sicurezza elevatissimi, trasparenza nelle funzionalità e un coinvolgimento diretto di esperti dell'infanzia, psicologi e pedagogisti.
La sfida è creare un'intelligenza artificiale che sia davvero al servizio dello sviluppo cognitivo ed emotivo dei bambini, senza diventare un'ulteriore fonte di rischio in un panorama digitale già complesso. Solo attraverso regole chiare, controlli rigorosi e un'educazione digitale diffusa si potrà trasformare l'innovazione tecnologica in un'opportunità reale per le nuove generazioni.
Resta da vedere se Baby Grok sarà all'altezza di queste aspettative o se si rivelerà l'ennesimo annuncio a effetto di Musk, destinato a essere ridimensionato o abbandonato nel corso del tempo. Una cosa è certa: la sicurezza dei bambini online non può più aspettare.
Condividi su
