L’AI è fuori controllo? Il dibattito sui rischi dell’intelligenza artificiale negli Stati Uniti si accende dopo nuovi allarmi provenienti dagli stessi laboratori. Alcuni ricercatori parlano persino di rischi esistenziali, mentre Donald Trump considera prioritaria la sfida tecnologica con la Cina. Elon Musk liquida invece parte degli avvertimenti come una “psyop”, mentre OpenAI chiede regole nazionali obbligatorie.

La discussione sulla sicurezza dell’intelligenza artificiale ha assunto toni molto più accesi negli ultimi giorni. A scatenarla sono state soprattutto le dichiarazioni di alcuni ricercatori che lavorano, o hanno lavorato, nei principali laboratori del settore.

Le posizioni sono però molto distanti. Da una parte arrivano richieste di rallentare e introdurre verifiche indipendenti, dall’altra c’è chi teme soprattutto di perdere la corsa tecnologica contro la Cina.

AI fuori controllo? gli allarmi arrivano dall’interno

Uno dei casi più discussi riguarda Jacob Coxon, ex ricercatore di Anthropic e OpenAI. Coxon ha lasciato Anthropic sostenendo che il settore stia procedendo troppo velocemente verso sistemi sempre più autonomi e potenti.

Le sue preoccupazioni sono state appoggiate anche da alcuni ricercatori ancora attivi nell’azienda. Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha affermato di attribuire oltre il 10% di probabilità a uno scenario nel quale l’AI possa minacciare la sopravvivenza umana entro dieci anni. 

È fondamentale leggere correttamente questa cifra. Non rappresenta una previsione scientifica condivisa né una probabilità accertata, ma la valutazione personale di un ricercatore direttamente coinvolto nello sviluppo di questi sistemi.

Il dibattito non riguarda inoltre soltanto scenari estremi. Anthropic ha recentemente documentato tentativi di utilizzare i propri modelli per attività legate a malware, sorveglianza, armamenti e ricerca biologica pericolosa. 

AI fuori controllo? Secondo Trump il problema è non perdere contro la Cina

Il presidente statunitense Donald Trump ha una lettura molto diversa. Interrogato sui timori che l’intelligenza artificiale possa arrivare a rappresentare una minaccia esistenziale, ha detto di non essere particolarmente preoccupato.

La sua priorità è mantenere gli Stati Uniti davanti alla Cina. Trump ha affermato che perdere la leadership nell’AI metterebbe il Paese in una posizione molto difficile. 

Secondo Trump, gli Stati Uniti manterrebbero attualmente un vantaggio di circa un anno sulla Cina. Una distanza che, nel settore dell’intelligenza artificiale, il presidente considera significativa. 

La posizione riflette uno dei grandi problemi del dibattito sulla sicurezza. Anche chi ritiene utile rallentare deve fare i conti con il rischio che altri Paesi continuino invece ad accelerare.

AI fuori controllo? Anche Ted Cruz teme i rischi, ma guarda alla competizione

La divisione non segue perfettamente gli schieramenti politici. Il senatore repubblicano Ted Cruz, per esempio, ha espresso preoccupazione per i possibili rischi catastrofici e sta lavorando a iniziative legislative.

Allo stesso tempo, Cruz ha osservato che la Cina difficilmente interromperebbe lo sviluppo dell’AI solo perché lo facessero gli Stati Uniti. È proprio questa tensione tra sicurezza e vantaggio strategico a rendere la questione particolarmente complessa. 

Anche altri esponenti di entrambi gli schieramenti hanno chiesto maggiore attenzione. Le reazioni spaziano da nuovi strumenti di controllo fino a proposte molto più radicali sulla superintelligenza. 

Musk parla di una “psyop”

Elon Musk ha invece attaccato direttamente la recente ondata di allarmi. Il fondatore di xAI ha definito la vicenda una “psyop”, suggerendo che possa trattarsi di una campagna costruita per favorire maggiore regolamentazione.

Coxon ha respinto questa interpretazione, sostenendo che le proprie preoccupazioni siano genuine. Lo scontro mostra quanto sia diventato difficile separare discussione tecnica, interessi industriali e confronto politico. 

Musk non è l’unico a essere scettico sugli scenari di estinzione. Anche tra gli studiosi dell’AI esistono posizioni molto diverse sulla probabilità e sulla vicinanza temporale di rischi così estremi.

Questo non elimina però problemi più concreti già osservabili, come uso criminale dei modelli, cyberattacchi e possibili applicazioni biologiche pericolose.

OpenAI apre alla possibilità di rallentare

In questo scenario si inserisce una posizione interessante di OpenAI. Secondo Bloomberg, Sam Altman avrebbe comunicato ai dipendenti che l’azienda è disponibile a valutare un rallentamento dello sviluppo dei modelli più avanzati.

L’ipotesi prevederebbe possibilmente un coordinamento con altri laboratori, anche se non esiste alcuna garanzia che tutti decidano di partecipare. Reuters ha successivamente riportato le dichiarazioni attribuite ad Altman. 

Sul piano pubblico, OpenAI ha inoltre assunto una posizione molto chiara. L’azienda sostiene requisiti nazionali obbligatori per la sicurezza dell’AI, basati sulle effettive capacità dei modelli. 

OpenAI ha anche annunciato il proprio sostegno a diverse iniziative legislative della California, comprese quelle dedicate alle valutazioni indipendenti e agli standard degli auditor. 

La California introduce nuovi controlli

La California ha già iniziato a trasformare parte del dibattito in norme concrete. Il governatore Gavin Newsom ha firmato due leggi dedicate alla verifica indipendente dei sistemi AI.

Le misure introducono standard per organizzazioni che valutano modelli e sistemi, oltre a un registro per gli auditor AI. L’obiettivo dichiarato è aumentare indipendenza, trasparenza e responsabilità dei controlli. 

Questo approccio è molto diverso da un divieto generale allo sviluppo. L’idea è permettere all’innovazione di continuare, imponendo però valutazioni indipendenti sui sistemi più potenti.

Ed è proprio questo compromesso che potrebbe diventare centrale anche a livello federale.

Il vero scontro è sicurezza contro velocità

Ridurre tutto alla domanda “l’AI distruggerà l’umanità?” rischia però di semplificare troppo la questione.

Da una parte abbiamo ricercatori che ritengono possibile perdere il controllo di sistemi futuri. Dall’altra esistono rischi già molto più concreti, legati a cybersecurity, biologia e utilizzo criminale.

Nel mezzo c’è la competizione geopolitica. Gli Stati Uniti temono che vincoli troppo rigidi possano rallentare le proprie aziende mentre la Cina continua a investire.

È una preoccupazione reale, così come lo sono le richieste di verificare meglio sistemi sempre più potenti prima della loro distribuzione.

Trump, Musk e Altman raccontano tre strategie diverse

Le posizioni emerse negli ultimi giorni rappresentano quasi tre modi differenti di affrontare lo stesso problema.

Trump privilegia la leadership tecnologica americana. Musk contesta gli allarmi più estremi e teme che possano diventare strumenti per aumentare la regolamentazione. OpenAI, invece, continua lo sviluppo ma sostiene controlli obbligatori e apre alla possibilità di coordinare eventuali rallentamenti. 

Nessuna di queste strategie risolve da sola il problema centrale: come sfruttare i vantaggi dell’AI senza arrivare troppo tardi con le misure di sicurezza.

La discussione sulle probabilità di estinzione continuerà inevitabilmente a dividere. Più concreto è invece il fatto che governi, aziende e ricercatori stanno iniziando a discutere seriamente chi debba controllare i sistemi più potenti e secondo quali regole.

Ed è probabilmente questa la domanda destinata a pesare di più nei prossimi mesi. Non soltanto quanto velocemente riusciremo a sviluppare l’intelligenza artificiale, ma quanto controllo saremo ancora capaci di esercitare mentre lo facciamo.