La disinformazione automatica: il caso dell’Air India Flight 171

In seguito al tragico incidente del volo Air India 171, che ha causato la morte di oltre 200 persone tra passeggeri e membri dell’equipaggio, molti utenti si sono affidati a Google per ottenere notizie. Come sempre più spesso accade, la prima risposta visibile non è un link, ma un Google AI Overview, ovvero un riassunto generato dall’intelligenza artificiale.

Il problema? In questo caso, l’AI ha sbagliato modello di aereo. Alcuni utenti hanno riportato di aver visto attribuzioni errate, secondo cui l’incidente avrebbe coinvolto un Airbus A330. In realtà, l’aereo era un Boeing 787.

Un utente su Reddit (@stuckintrraffic) ha documentato l’errore con uno screenshot: la panoramica AI affermava con sicurezza che si trattasse di un Airbus, ignorando completamente la realtà dei fatti. In altre ricerche, lo stesso sistema ha mescolato riferimenti sia ad Airbus che a Boeing, generando risposte ancora più confuse.

Perché l’errore è avvenuto: i limiti dell’intelligenza generativa

Le panoramiche generate da Google AI Overview non funzionano come le tradizionali ricerche: non riportano una fonte singola, ma aggregano contenuti da più articoli per formulare una risposta. Questo processo non è deterministico: due utenti che cercano la stessa cosa possono ricevere risposte diverse.

Nel caso del disastro aereo, la confusione nasce probabilmente dal fatto che molti articoli menzionavano Airbus come principale concorrente di Boeing. L’AI, nel tentativo di “riassumere” i contenuti, ha incluso il nome Airbus fuori contesto, generando un errore che rischia di diventare disinformazione virale.

Il problema è amplificato dalla fiducia che molti utenti ripongono nell’output AI, che appare autorevole e definitivo, pur essendo spesso impreciso. Sebbene ci sia un disclaimer (“le risposte AI possono contenere errori”), la sua visibilità è minima e l’utente medio tende a ignorarlo.

La reazione di Google: rimozione manuale e difesa della tecnologia

Dopo la segnalazione dell’errore, Google ha rimosso manualmente la risposta errata. A Ars Technica ha dichiarato:

“Come per tutte le funzionalità di Ricerca, miglioriamo continuamente il sistema e usiamo esempi come questo per aggiornare le nostre soluzioni. Questa risposta non è più visibile. Manteniamo un livello qualitativo elevato per tutte le funzionalità, e la precisione di AI Overview è paragonabile a quella dei Featured Snippet.”

È una risposta che riconosce implicitamente le criticità, ma che lascia aperto il dibattito sulla responsabilità dei sistemi AI nel diffondere notizie sensibili, specie in contesti tragici e delicati.

Anche se il problema è stato risolto in questo caso, il rischio di ulteriori errori rimane alto, soprattutto con l’espansione continua delle funzionalità AI nella Ricerca Google.

Quale futuro per Google AI Overview?

L’errore legato all’Air India Flight 171 non è isolato. Sempre più utenti documentano su forum e social casi in cui l’AI Overview fornisce informazioni fuorvianti, parziali o completamente sbagliate.

La sfida sarà quindi bilanciare la velocità dell’informazione automatica con la precisione necessaria in contesti critici. Le aziende come Airbus potrebbero sentirsi danneggiate dall’inclusione impropria in notizie drammatiche, mentre Boeing, pur coinvolta realmente, rischia di vedere il proprio nome offuscato o parzialmente assente.

Il caso dimostra ancora una volta che l’AI non è infallibile. E finché le panoramiche generative non saranno in grado di distinguere chiaramente tra menzioni e contesto, il rischio di disinformazione algoritmica resterà alto.