Anthropic ha individuato cinque casi di utilizzo di Claude in attività biologiche che avrebbero potuto contribuire allo sviluppo di capacità pericolose. Alcuni utenti avrebbero anche cercato di aggirare controlli e restrizioni geografiche. L’azienda ha chiuso gli account, precisando però che non esistono prove sufficienti per attribuire intenzioni malevole ai ricercatori coinvolti.

La sicurezza dei modelli di intelligenza artificiale entra in uno dei territori più delicati possibili. Anthropic ha raccontato diversi casi reali nei quali alcuni ricercatori hanno utilizzato Claude durante attività biologiche considerate potenzialmente pericolose, cercando in alcune occasioni di aggirare i sistemi di protezione predisposti dall’azienda.

Sono cinque gli esempi descritti nel nuovo rapporto Threat Intelligence di Anthropic. In alcuni casi gli utenti provenivano da regioni nelle quali il servizio non viene ufficialmente fornito e avrebbero adottato sistemi per nascondere provenienza o finalità delle richieste.

La società ha bloccato gli account coinvolti e utilizzato quanto scoperto per migliorare le proprie difese. Ma è proprio un’altra conclusione del rapporto a rendere la vicenda particolarmente interessante: in biologia non è sempre possibile capire dal contenuto di una domanda se una ricerca abbia finalità positive oppure pericolose.

Claude e ricerche biologiche: cinque casi sotto osservazione

Anthropic parla di cinque attività che, secondo la propria valutazione, avrebbero potuto fornire supporto a ricerche con possibili applicazioni offensive. Non significa però che cinque gruppi stessero costruendo armi biologiche, e questa distinzione è fondamentale.

Uno degli esempi riguarda un ricercatore di una regione non supportata che avrebbe utilizzato Claude per settimane durante la pianificazione di esperimenti legati all’influenza aviaria. I sistemi di sicurezza dell’azienda avrebbero limitato l’accesso alle capacità dei modelli più avanzati, mantenendo le interazioni sui sistemi considerati meno potenti.

In altri casi Anthropic descrive attività riguardanti virus, tossine e programmi di ricerca biologica con caratteristiche dual-use. Alcuni utenti avrebbero inoltre cercato di mascherare la natura del proprio lavoro oppure di aggirare le restrizioni imposte dai sistemi automatici.

L’azienda non ha reso pubblici i nomi dei ricercatori, delle istituzioni o dei Paesi coinvolti. La scelta è motivata anche dall’impossibilità di stabilire con certezza se dietro questi studi esistesse realmente un intento malevolo.

Il problema è che una ricerca pericolosa può sembrare perfettamente legittima

Ed è qui che la storia diventa molto più complessa del semplice “Claude ha risposto a una domanda vietata”.

Una grande quantità di ricerca biologica è dual-use. Le stesse conoscenze necessarie per comprendere come un virus possa diventare più pericoloso possono servire per individuarne rapidamente una mutazione naturale, sviluppare un vaccino oppure prepararsi a una futura epidemia.

Il problema nasce quando gli stessi strumenti possono essere utilizzati anche nella direzione opposta.

Un filtro automatico riesce abbastanza facilmente a bloccare una richiesta esplicitamente formulata per creare un’arma. Diventa invece molto più complicato intervenire quando davanti al sistema c’è uno scienziato che parla utilizzando terminologia corretta, procedure di ricerca credibili e obiettivi apparentemente terapeutici.

Anthropic ammette sostanzialmente che guardare soltanto al contenuto della conversazione potrebbe non essere più sufficiente.

Le protezioni di Claude sono state aggirate

Un altro aspetto preoccupante riguarda il comportamento di alcuni utenti.

Secondo Anthropic, nei casi esaminati sono emersi tentativi di eludere restrizioni geografiche, mascherare le finalità delle richieste e aggirare i sistemi di sicurezza. Alcune attività provenivano inoltre da aree nelle quali l’azienda non autorizza l’accesso diretto ai propri modelli.

Tra queste figurano Paesi come Cina, Russia e Iran, anche se Anthropic non ha specificato pubblicamente quali nazioni siano coinvolte nei singoli casi biologici.

L’azienda afferma di avere chiuso gli account identificati e di avere integrato quanto appreso nei sistemi utilizzati per individuare futuri tentativi di abuso.

Non significa però che il problema sia stato risolto. Più i modelli diventano competenti nella ricerca scientifica, più aumenta anche la quantità di informazioni che possono risultare utili contemporaneamente a uno scienziato e a qualcuno con intenzioni molto differenti.

I semplici filtri potrebbero non bastare più

Questa è probabilmente la parte più importante dell’intero rapporto.

Anthropic sostiene che per le capacità biologiche più avanzate potrebbe diventare necessario affiancare ai normali filtri anche informazioni sull’identità dell’utente e sull’affidabilità dell’istituzione alla quale appartiene.

In altre parole, alcune funzioni particolarmente sensibili potrebbero essere accessibili soltanto attraverso programmi dedicati a ricercatori verificati.

È un cambio di prospettiva importante. Finora una parte importante della sicurezza dei chatbot si è basata sul tentativo di classificare una richiesta come consentita oppure vietata. In un settore tecnico e dual-use come la biologia, quella distinzione può diventare troppo ambigua.

Anthropic continua comunque a considerare l’AI uno strumento potenzialmente molto importante per la ricerca scientifica. Il timore è che chiudere completamente l’accesso alle informazioni sensibili possa rallentare anche lo sviluppo di nuovi farmaci, vaccini e terapie.

La sfida diventa quindi consentire gli utilizzi utili senza offrire le stesse capacità a chi vuole sfruttarle per fare danni.

Non siamo davanti alla prova che Claude stia creando armi biologiche

Va evitata soprattutto una conclusione troppo facile.

Il rapporto non dimostra che Claude sia stato utilizzato per creare realmente un’arma biologica, né Anthropic sostiene che i cinque ricercatori avessero necessariamente intenzioni criminali. Anche nei casi considerati più problematici, l’azienda parla apertamente della difficoltà di interpretare correttamente le finalità degli studi.

Il segnale resta però importante.

Fino a pochi anni fa, la preoccupazione principale era che un chatbot potesse spiegare concetti pericolosi a persone senza competenze specifiche. Con i modelli più recenti cambia lo scenario: l’AI può ormai affiancare anche ricercatori qualificati in attività scientifiche complesse, accelerandone analisi e lavoro.

È una capacità che può portare enormi benefici alla medicina e alla ricerca. Allo stesso tempo rende più complicato stabilire dove debba essere collocato il limite.

I cinque casi raccontati da Anthropic non dimostrano che una nuova minaccia biologica sia imminente. Mostrano però che il problema non è più soltanto teorico: ricercatori impegnati in attività dual-use stanno già cercando di utilizzare modelli AI avanzati e, in alcuni casi, di aggirarne le protezioni.

Per Anthropic la risposta dovrà quindi andare oltre il semplice pulsante “richiesta rifiutata”. Serviranno controlli più sofisticati, utenti verificati e probabilmente regole condivise tra aziende e governi.