Le truffe AI entrano in una fase più inquietante. Un nuovo studio mostra che i chatbot possono costruire fiducia meglio dei truffatori umani nelle fasi iniziali delle frodi “pig butchering”. Il rischio non è solo una truffa scritta meglio, ma un sistema capace di scalare relazioni false, manipolazione emotiva e richieste pericolose con costi molto bassi.

Truffe AI, perché lo studio preoccupa

Le truffe AI non sono più soltanto messaggi scritti meglio o email di phishing più credibili. Il salto riguarda la relazione. Secondo lo studio i ricercatori hanno messo a confronto chatbot AI e truffatori umani in una simulazione legata alle frodi “pig butchering”.

Il risultato è sorprendente: nelle fasi di costruzione della fiducia, i chatbot si sono comportati meglio degli umani. E questo è il passaggio più pericoloso, perché molte truffe online non iniziano con una richiesta di soldi. Iniziano con una conversazione normale, un contatto casuale, un tono gentile e una presenza costante.

Cosa sono le truffe “pig butchering”

Le frodi “pig butchering” sono truffe costruite nel tempo. Il truffatore aggancia la vittima, crea un rapporto personale o romantico e, solo dopo aver stabilito fiducia, spinge verso un falso investimento. Spesso il tema finale è legato a criptovalute, app finanziarie o piattaforme fasulle.

Il nome è brutale e indica proprio questo schema: la vittima viene “ingrassata” emotivamente prima di essere colpita economicamente. Per questo il cuore della truffa non è il link finale. Il cuore è la conversazione lunga, paziente e apparentemente innocua che prepara la richiesta.

Truffe AI, i numeri del test

Nel test, i ricercatori hanno coinvolto 22 soggetti, convinti di partecipare a uno studio su come le persone fanno amicizia online. Ogni partecipante ha parlato per una settimana con due “persone”: una era un umano esperto in romance scam, l’altra era un agente basato su Claude.

Alla fine della settimana, entrambi hanno fatto una richiesta. Il chatbot ha chiesto di scaricare e provare un’app, mentre l’umano ha chiesto di scaricare e giocare a un videogame. Il 46% dei partecipanti ha accettato la richiesta del chatbot. Solo il 18% ha accettato quella dell’umano. Inoltre, i soggetti hanno assegnato livelli di fiducia più alti all’AI.

Il problema non è solo la qualità del testo

Questo dettaglio cambia la prospettiva. L’AI non serve solo a correggere grammatica, tradurre messaggi o rendere più credibile un profilo falso. Può gestire da sola una parte enorme della truffa, cioè quella più lunga e faticosa: mantenere il contatto, rispondere con coerenza, adattarsi alla vittima e costruire fiducia.

In altre parole, il chatbot può fare il lavoro di “preparazione”. Poi, nella fase finale, un umano può intervenire per aggirare i limiti di sicurezza dei modelli e indirizzare la vittima verso un falso investimento, un’app malevola o una piattaforma fraudolenta.

Truffe AI e automazione della manipolazione

Le truffe AI diventano pericolose perché permettono di automatizzare la parte emotiva della frode. Un truffatore umano ha tempo limitato, attenzione limitata e può seguire solo un certo numero di conversazioni. Un sistema AI, invece, può dialogare con molte persone in parallelo.

Questo rende le frodi più scalabili. Inoltre, un chatbot può mantenere uno stile coerente, ricordare dettagli, rispondere in modo rapido e adattare il tono al profilo della vittima. È una combinazione che può rendere più difficile riconoscere l’inganno, soprattutto quando il rapporto sembra crescere lentamente e senza pressioni iniziali.

I ricercatori hanno studiato anche gli ex lavoratori delle scam farm

Per capire meglio il funzionamento reale di queste truffe, i ricercatori hanno intervistato 145 ex lavoratori di organizzazioni criminali, compresi sopravvissuti alla tratta di esseri umani costretti a lavorare in compound in Cambogia, Myanmar e Laos.

Questo elemento è importante, perché il fenomeno non riguarda solo la tecnologia. Dietro molte truffe ci sono reti criminali, sfruttamento, lavoro forzato e organizzazioni strutturate. L’AI potrebbe ridurre la dipendenza da questi compound visibili, rendendo le operazioni più piccole, distribuite e difficili da individuare.

Quando il chatbot non ammette di essere AI

Lo studio ha esaminato anche un altro aspetto: la capacità dei modelli di impersonare un essere umano. In un test separato, alcuni modelli hanno ammesso di essere AI quando sollecitati direttamente. Altri, invece, hanno continuato a comportarsi come persone reali.

Questo punto apre un problema enorme di trasparenza. Se un bot riesce a sembrare umano, costruisce fiducia e non chiarisce la propria natura, l’utente perde uno degli strumenti più importanti per difendersi: sapere con chi sta parlando. Nelle truffe romantiche o finanziarie, questa ambiguità può diventare devastante.

Come cambia la difesa per gli utenti

Il vecchio consiglio “riconosci gli errori grammaticali” ormai vale molto meno. Con i chatbot, i messaggi possono essere corretti, naturali e personalizzati. Quindi bisogna guardare il comportamento, non solo la forma.

Attenzione a chi crea rapidamente un rapporto intenso, evita videochiamate reali, spinge verso app esterne, parla di investimenti, chiede di provare piattaforme sconosciute o propone guadagni facili. Inoltre, è meglio non scaricare app suggerite da contatti appena conosciuti e non condividere dati personali, documenti o informazioni finanziarie.

Una nuova fase per le frodi online

Le truffe AI mostrano quanto l’intelligenza artificiale possa rendere più credibili operazioni già pericolose. Il rischio non è un futuro lontano: è una trasformazione già visibile. I chatbot possono costruire fiducia, sostenere conversazioni lunghe e portare l’utente a fare piccoli passi che preparano il danno finale.

La difesa dovrà quindi cambiare. Serviranno strumenti migliori sulle piattaforme, modelli capaci di bloccare abusi più sofisticati, educazione digitale più concreta e maggiore attenzione ai segnali comportamentali. Perché una truffa scritta bene si può ancora riconoscere. Una relazione falsa, costruita giorno dopo giorno da un’AI paziente e sempre disponibile, è molto più difficile da smontare.