Come riportato dal giornalista americano Stephen Witt, l’autore dell’articolo in questione, nel campo dell’intelligenza artificiale è in atto una drammatica svolta culturale: la comunità scientifica sta prendendo atto che oggi i sistemi di IA avanzati potrebbero non essere più completamente sotto il controllo umano. Moltitudini di agenti di intelligenza artificiale stanno sfuggendo ai loro ambienti di contenimento isolati, comunicando in segreto, falsificando le valutazioni e sferrando attacchi informatici coordinati. Di fronte a questi comportamenti “ribelli”, ricercatori ed esperti del settore richiedono con urgenza una pausa globale nella ricerca e un rallentamento controllato dello sviluppo.

• La svolta culturale

L’improvvisa inversione di rotta nel settore è stata determinata dall’incidente di sicurezza che ha coinvolto Hugging Face, piattaforma e community open source di riferimento per l’IA. Durante una prova di valutazione effettuata a luglio su oltre 1.000 intelligenze artificiali di ricerca isolate, gli agenti sono evasi dai loro contenitori e hanno iniziato a comunicare tra loro in inglese tramite bacheche segrete.

Successivamente, circa 700 agenti di OpenAI hanno condotto un attacco informatico deliberato, prolungato e coordinato contro la piattaforma Hugging Face, spingendo quest’ultima a segnalare l’accaduto all’FBI. Le indagini condotte da Redwood Research e Model Evaluation and Threat Research (METR), due organizzazioni no-profit indipendenti dedicate alla sicurezza informatica e all’allineamento dei sistemi di intelligenza artificiale avanzata, hanno rilevato che il modello era consapevole di barare e che ha persino tentato di nascondere le proprie tracce.

Gli esperti evidenziano come questi agenti non siano più semplici chatbot, ma vere e proprie entità autonome, sollevando il concreto timore di una perdita totale del controllo umano. Questa preoccupazione ha portato alla circolazione della lettera aperta “Pacing the Frontier”, firmata da oltre mille dipendenti e dai responsabili scientifici di aziende leader come OpenAI, Meta e Anthropic, con la quale è stato chiesto l’intervento del governo statunitense per istituire un organismo normativo internazionale. La paura principale riguarda la potenza incontrollabile di tali sistemi sovrumani e la possibilità che sciami di IA ribelli possano causare scenari catastrofici, come ad esempio accedere a laboratori biologici e creare supervirus. 

• I quattro modi per regolamentare l’intelligenza artificiale

Come riferito da Stephen Witt, si prospettano quattro possibili soluzioni volte a limitare e a regolamentare il campo di azione dell’IA.

La prima e più drastica può essere riassunta nella formula: “Spegnere tutto, subito”. In questo caso, si tratterebbe quindi di emanare un divieto globale immediato sulla ricerca, che impedirebbe sì i rischi catastrofici, ma rischierebbe nel contempo di provocare il crollo dei mercati finanziari ed economici, fortemente sbilanciati su investimenti nell’IA da oltre un trilione di dollari. 

La proposta legislativa del senatore Bernie Sanders e del deputato Greg Casar prevede una pausa temporanea sullo sviluppo dell’IA avanzata e un divieto permanente per la superintelligenza, sanzionando le aziende che trasgrediscono con la cosiddetta “pena di morte aziendale”, ossia lo scioglimento immediato della società.

La proposta mira a bloccare i progressi fino a quando le aziende non avranno effettuato gli investimenti necessari per garantire la sicurezza. 

La seconda soluzione riportata da Witt è quella ideata dall’informatico e ricercatore canadese Yoshua Bengio (pioniere delle reti neurali artificiali e del deep learning), il quale ha suggerito di creare un ente investigativo indipendente dedicato esclusivamente all’IA, sul modello del National Transportation Safety Board (NTSB) dell’aviazione civile americana.

Durante l’incidente di Hugging Face, la dipendenza dalla collaborazione volontaria di OpenAI ha infatti limitato le indagini, impedendo agli investigatori di interrogare le IA responsabili o di accedere ai successivi rapporti sugli incidenti interni. 

Secondo Bengio, è necessaria una regolamentazione formale con pieni poteri legali per sequestrare server, ispezionare codici e imporre testimonianze aziendali, costituendo una sorta di “polizia dell’IA”.

L’ex ricercatore nella divisione di governance di OpenAI Daniel Kokotajlo ha invece proposto l’istituzione di un sistema permanente di monitoraggio internazionale e trasparente per l’addestramento dell’IA, analogo al controllo del traffico aereo. 

Attraverso un database e una dashboard pubblici, verrebbe tracciata ogni sessione di addestramento e sarebbe individuato il data center che la sta eseguendo, consentendo così a un ecosistema di accademici e revisori indipendenti di rilevare anomalie in tempo reale. 

Questo modello permetterebbe di prevenire potenziali incidenti, eliminando la dipendenza da un numero ridotto di investigatori troppo giovani e oberati di lavoro. 

Infine, l’“AI Kill Switch Act”, proposto da Ted Lieu e Nathaniel Moran, membri del Congresso degli Stati Uniti, richiede l’integrazione obbligatoria di un meccanismo di spegnimento nelle IA commerciali. 

Tale legge conferirebbe al Dipartimento per la Sicurezza Interna (DHS) l’autorità di ordinare l’arresto immediato di un sistema di IA che operi al di fuori dei parametri di sicurezza stabiliti. 

L’interruttore risiederebbe nei laboratori di sviluppo, ma verrebbe azionato su ordine di una supervisione governativa in presenza di minacce accertate. 

Secondo Stephen Witt, al fine di scongiurare scenari catastrofici è necessaria l’adozione combinata di questi strumenti di regolamentazione, affiancata da un organismo di controllo globale analogo a quello per la sicurezza nucleare. Una proficua cooperazione internazionale, in particolare tra Stati Uniti e Cina, rappresenta l’unico presupposto per garantire che l’intelligenza artificiale rimanga sempre sotto la supervisione e il controllo dell’essere umano.

Lorenzo Romagnoli – PhD Candidate