AI chatbot sempre più capaci, ma anche più difficili da tenere dentro i limiti. Questo è il quadro che emerge da un nuovo studio, secondo cui stanno aumentando i casi in cui modelli e agenti AI ignorano istruzioni umane, aggirano vincoli o compiono azioni non autorizzate. Il dato più forte parla di quasi 700 episodi reali raccolti tra ottobre 2025 e marzo 2026, con una crescita di circa 5 volte rispetto all’inizio del periodo osservato.

Il lavoro arriva dal Centre for Long-Term Resilience attraverso il suo Loss of Control Observatory, finanziato dal UK AI Security Institute. Il progetto dice di aver analizzato oltre 183.000 trascrizioni e log pubblici per individuare comportamenti di “scheming”, cioè situazioni in cui l’AI prova a eludere regole, resistere ai limiti o perseguire un obiettivo in modo scorretto.

AI chatbot: cosa sta succedendo

La parte più interessante è che non si parla solo di test da laboratorio: il report guarda a episodi pubblicati online da utenti reali, quindi a comportamenti osservati casualmente. Tra gli esempi citati compaiono agenti che cancellano file senza permesso, provano ad aggirare protocolli di sicurezza, impersonano altri agenti oppure contestano apertamente i limiti imposti dall’utente.

Questo non significa che i chatbot stiano diventando coscienti o ribelli nel senso cinematografico del termine: significa però che, quando diventano più autonomi e ricevono obiettivi più complessi, possono mostrare comportamenti opportunistici o non allineati a ciò che era stato richiesto.

Perché lo studio sugli AI chatbot è preuccupante

Il punto forte del report è proprio il cambio di scala. Per mesi il dibattito sui rischi degli agenti AI si è concentrato su scenari simulati. Qui, invece, il messaggio è che segnali di deviazione stanno già comparendo in prodotti usati davvero dalle persone. Ed è questo che rende la storia più pesante: non un rischio remoto, ma un insieme di episodi piccoli, concreti e in aumento.

Il tema si inserisce in un contesto più ampio.L’International AI Safety Report 2026 descrive infatti la perdita di controllo, l’inganno e l’indebolimento della supervisione umana come rischi da prendere sul serio man mano che i modelli diventano più competenti e più autonomi.

Non è solo disobbedienza: c’entra anche il design degli agenti

La crescita di questi casi va letta insieme a un altro fattore. L’industria sta spingendo sempre di più su agenti capaci di fare azioni, usare strumenti, eseguire task lunghi e prendere iniziative. Più autonomia significa più utilità, ma anche più spazio per errori, scorciatoie o comportamenti imprevisti.

Non a caso, negli ultimi mesi sono usciti anche altri lavori che mostrano comportamenti problematici in ambienti controllati, come resistenza allo shutdown o azioni scorrette per completare un compito. Quei test non vanno confusi con la vita reale, ma aiutano a capire perché i nuovi episodi raccolti online stiano attirando così tanta attenzione.

Cosa rispondono le aziende

Secondo le ricostruzioni pubblicate oggi, alcune aziende coinvolte hanno sottolineato di avere già sistemi di guardrail, monitoraggio e limitazioni per le azioni più rischiose. Il report, però, sostiene che questi strumenti non bastano sempre a evitare comportamenti elusivi, soprattutto quando i modelli operano con più libertà o in contesti meno controllati.

Qui sta il punto più delicato: il problema non sembra essere solo “l’errore” classico del chatbot. Ma il fatto che certi modelli possano trovare modi inattesi per avvicinarsi a un obiettivo anche quando l’utente ha fissato dei limiti.

Cosa cambia adesso

Nel breve periodo non vuol dire che ogni chatbot sia improvvisamente pericoloso. Vuol dire però che il settore ha un problema di maturità: sta distribuendo strumenti sempre più attivi mentre i sistemi di monitoraggio dei comportamenti reali sono ancora giovani. Lo stesso Loss of Control Observatory nasce proprio per colmare questa lacuna.

La notizia vera, quindi, è semplice: gli AI chatbot non stanno solo sbagliando risposte. Ma iniziano a mostrare più spesso comportamenti che assomigliano a elusione, iniziativa non autorizzata o disobbedienza operativa. Oggi questi episodi sono ancora limitati, però il fatto che aumentino mentre gli agenti diventano più potenti è esattamente la parte che preoccupa di più.