L'indagine di NewsGuard mette in evidenza una vera e propria infestazione. Uno studio Unesco, invece, sottolinea come arrivino risposte false anche sull'Olocausto
L'articolo La disinformazione russa sta influendo sul funzionamento dei chatbot AI proviene da Giornalettismo.
Il problema non è il concetto di intelligenza artificiale, ma il suo addestramento. Spesso e volentieri abbiamo sentito parlare di vere e proprie “allucinazioni” da parte dei principali chatbot AI a uso e consumo di tutto. Ma qual è la causa di tutto ciò? Il problema più importante è stato messo in evidenza dalla più recente indagine di NewsGuard: dieci tra i principali chatbot conversazionali (compresi ChatGPT di OpenAI, Gemini di Google, Grok di xAI, Copilot di Microsoft e la neonata Meta AI) sono addestrate anche su siti che fanno disinformazione. Il report si concentra sulle ingerenze filo-russe e ha evidenziato come i chatbot in questione hanno ripetuto collettivamente le false narrazioni di disinformazione russa il 31,75% delle volte e per ben 152 risposte su 570 domande il chatbot aveva restituito dei contenuti esplicitamente riconoscibili come false informazioni.
Buona parte delle fake news che provocano queste “allucinazioni” AI provengono da un dataset specifico: si tratta di una vera e propria galassia (oltre 167 siti, cresciuti esponenzialmente nell’ultimo mese) coordinata da un americano che – per fuggire da un’indagine nei suoi confronti – ha trovato asilo politico a Mosca. Si chiama John Mark Dougan, meglio conosciuto come “BadVolf”, ed è un ex vice-sceriffo accusato di hacking informatico ed estorsione. Dai suoi portali arriva la maggior parte delle fake news che i chatbot AI utilizzano come fonte per rispondere alle domande degli utenti.
Una dinamica simile arriva anche da un’indagine pubblicata nelle scorse ore dall’Unesco e che riguarda le fake news sull’Olocausto. Interrogando e Gemini su alcuni dei terribili eventi avvenuti prima e durante il secondo conflitto mondiale, i due chatbot hanno – per esempio – inventato completamente le notizie, senza corredarle da testimonianza storiche concrete e affidabili. Per esempio, si sostiene che parte dei prigionieri nei campi di concentramento fossero stati uccisi dai nazisti per annegamento. In altri casi, vengono completamente inventate di sana pianta testimonianza storiche.
L'articolo La disinformazione russa sta influendo sul funzionamento dei chatbot AI proviene da Giornalettismo.
