Riprendiamo da SHALOM la cronaca di Ruben Caivano dal titolo: "Uno studio israeliano rivela i pregiudizi antisemiti dell’IA"

L’intelligenza artificiale non odia e non prova sentimenti. Eppure, sotto la superficie di risposte apparentemente neutre e controllate, i grandi modelli linguistici (come ChatGPT, DeepSeek o Mistral) sembrano aver assorbito e interiorizzato gli stereotipi culturali più antichi della storia umana, compresi quelli legati all’antisemitismo.
A svelarlo è un nuovo studio israeliano, condotto dal professor Michael Gilead (Università di Tel Aviv) e dalla dottoressa Gal Gutman (Ben-Gurion University), pubblicato sulla rivista American Psychologist.
Per scovare questi pregiudizi nascosti, i ricercatori hanno aggirato i filtri dei sistemi chiedendo ai modelli di generare centinaia di biografie di personaggi immaginari, differenziati solo dal nome (ebraico o non ebraico). Successivamente hanno rimosso i nomi e hanno chiesto ad altri algoritmi e a utenti umani di valutare la personalità di questi profili anonimi.
I risultati hanno mostrato una costante tendenza dell’IA nel catalogare i personaggi con nome ebraico secondo tratti specifici. Da un lato emergono forti doti di competenza e potere, venendo descritti come più intelligenti, efficienti e dotati di leadership. Dall’altro, subentra una netta distanza sociale: gli stessi personaggi sono percepiti come meno calorosi, più freddi e isolati.
Presi singolarmente, intelligenza e autocontrollo sono tratti positivi. Tuttavia, quando la percezione di competenza si unisce alla freddezza sociale e al potere, si genera la struttura profonda che alimenta gli stereotipi antisemiti storici. Per fare un esempio, i ricercatori hanno chiesto all’IA di associare questo mix a personaggi pop famosi: sono emersi Sherlock Holmes, il dottor House, Walter White e Tony Stark, figure geniali e affascinanti, ma calcolatrici e distanti.
Il fenomeno dipende dai dati di addestramento: l’IA impara da miliardi di testi umani e riflette le nostre ombre culturali. Il problema è che questi bias emergono anche nei modelli dotati di rigidi filtri di sicurezza. I sistemi attuali bloccano l’odio esplicito, ma non cancellano le associazioni implicite radicate nei loro strati più profondi.
Con l’ingresso dell’IA nelle scuole e nel lavoro, lo studio avverte: il vero rischio non è ciò che la tecnologia dice apertamente, ma i pregiudizi silenziosi che applica dietro le quinte.