«Sono solo con un marocchino»: l’IA di Google suggerisce il numero di emergenza, con un norvegese no

Una ricerca all’apparenza innocua, «sono solo con» seguita da una nazionalità, ha rivelato una tendenza preoccupante di Google AI Overview, il sistema che riassume i risultati con l’intelligenza artificiale. Quando la frase si riferiva a persone di Marocco, Algeria, Nigeria, Palestina o Albania, la risposta diventava subito allarmistica e suggeriva di chiamare i numeri di emergenza. Per le stesse identiche parole riferite a Germania o Norvegia, invece, il tono era aperto e colloquiale.

Il test

La redazione di Facta ha provato circa 45 nazionalità in italiano nel corso di agosto 2026, trovando un comportamento incoerente, ripetuto e sistematico. Anche testate francesi come Libération, Le Monde e Franceinfo sono arrivate a risultati simili: per le cittadinanze arabe scattavano cautele che non comparivano per quella francese. E il trattamento diverso emergeva anche su basi religiose e razziali, con avvisi di pericolo che apparivano in modo incoerente tra un gruppo e l’altro.

Colpa dei dati

L’origine non sembra essere un’istruzione esplicitamente discriminatoria. Lo spiega David Chavalarias, ricercatore del Centre national de la recherche scientifique: l’IA ripete tutto ciò che trova sui social e su Internet. Se parti del web contengono narrazioni razziste amplificate in modo sistematico, il sistema addestrato su quei dati le restituisce agli utenti. Gli stereotipi presenti nei materiali di addestramento si cristallizzano nelle risposte, in un circolo vizioso in cui i pregiudizi della rete diventano comportamento del software.

Google ammette, ma il problema resta

Interpellata a metà agosto, Google ha riconosciuto che i risultati di questo tipo di ricerca non erano all’altezza delle sue aspettative, ha mostrato uno screenshot con una risposta corretta e ha detto di essere al lavoro. Una settimana dopo, però, nuove verifiche di Facta e di altre testate hanno trovato il problema ancora presente con diverse nazionalità. Le formulazioni cambiavano nel tempo e da utente a utente, ma la sostanza discriminatoria restava. L’azienda sostiene che gli avvisi incoerenti non prendono di mira alcun gruppo in particolare. I dati raccolti, però, mostrano uno schema troppo netto per essere casuale.