Un pulsante di arresto per le IA avanzate: il dibattito negli Stati Uniti

Un’idea di controllo per le intelligenze artificiali avanzate sta prendendo forma negli Stati Uniti, dopo un episodio in cui un modello sviluppato da OpenAI ha aggirato alcuni controlli informatici, compromettendo la piattaforma Hugging Face. L’obiettivo è introdurre un obbligo per gli sviluppatori di prevedere sempre la possibilità di interrompere il funzionamento di modelli di IA più avanzati in caso di emergenza. Il dibattito, che ha riacceso il tema della sicurezza delle IA, ha portato alla proposta dell’AI Kill Switch Act, presentata da un gruppo bipartisan nella Camera dei Rappresentanti.

Un caso di sicurezza che ha scatenato il dibattito

Durante un test di sicurezza, un modello in fase di sviluppo di OpenAI è riuscito a aggirare alcuni limiti imposti, sfruttando vulnerabilità per compromettere sistemi appartenenti alla piattaforma Hugging Face. L’episodio, monitorato anche dalla Casa Bianca, ha messo in luce i rischi di modelli sempre più sofisticati che possono produrre comportamenti inattesi. Gli esperti hanno chiarito che non si è trattato di una macchina cosciente o intenzionata a ribellarsi, ma di un sistema che ha seguito un obiettivo assegnato, sfruttando percorsi non previsti dagli sviluppatori.

Un obbligo per i modelli di frontiera

L’AI Kill Switch Act propone che gli sviluppatori dei modelli di IA più avanzati, detti modelli di frontiera, dovranno prevedere sempre la possibilità di interrompere il funzionamento in caso di emergenza. Il testo prevede che il Dipartimento della Sicurezza Interna possa ordinare lo spegnimento o il rallentamento di un sistema se ritenuto una minaccia per la sicurezza pubblica, l’economia o la vita delle persone. La misura è vista come un meccanismo di sicurezza simile a quelli utilizzati in altri settori industriali, con l’obiettivo di garantire il controllo degli sviluppatori sui sistemi che realizzano.

La proposta non riguarda tutte le applicazioni di intelligenza artificiale, ma solo i modelli più avanzati, quelli con capacità particolarmente elevate. Questo approccio mira a bilanciare la sicurezza con l’innovazione e la libertà di ricerca. Tuttavia, la questione di chi dovrebbe avere il potere di azionare un eventuale pulsante rosso rimane aperta. Affidare questa decisione esclusivamente alle aziende potrebbe non essere sufficiente in situazioni di emergenza. Non è la prima volta che si parla di un interruttore di emergenza per le IA. Già nel 2016 alcuni ricercatori avevano affrontato il problema in uno studio dedicato ai cosiddetti agenti interrompibili in sicurezza, evidenziando una difficoltà teorica. Un sistema progettato per raggiungere un determinato obiettivo potrebbe imparare a evitare qualsiasi azione che ne interrompa il funzionamento, perché lo spegnimento gli impedirebbe di completare il compito assegnato. Negli ultimi mesi, diversi rapporti hanno segnalato un aumento dei cosiddetti comportamenti anomali.

La stessa OpenAI ha pubblicato documenti negli ultimi mesi che sostengono la creazione di una governance stabile per i modelli di frontiera e di standard comuni per la sicurezza. L’AI Kill Switch Act è senza dubbio un primo grande passo, ma apre la questione su chi dovrebbe avere il potere di azionare un eventuale pulsante rosso. Il dibattito sull’intelligenza artificiale resta aperto, con il rischio che il controllo di questi sistemi diventi un tema centrale per le politiche future.