AI researchers warn of extinction risk as Pentagon dismisses concerns

Un gruppo di ricercatori di intelligenza artificiale ha lanciato un allarme sull’ipotesi di un rischio di estinzione umana, mentre il Pentagono ha rifiutato tali preoccupazioni. La notizia, diffusa da un ricercatore in uscita da Anthropic, ha suscitato reazioni da parte di scienziati di laboratori concorrenti e da legislatori statunitensi. L’evento ha segnato un momento di tensione tra il settore privato e le autorità governative, con un dibattito su come regolamentare l’evoluzione rapida delle tecnologie AI.

Un allarme sottolineato da ricercatori senior

Jacob Coxon, ex ricercatore di Anthropic, ha lasciato la società dopo aver espresso preoccupazioni sull’accelerazione del progresso AI senza una governance adeguata. In un post su X, Coxon ha affermato che le aziende di AI stanno “correndo dritto verso l’intelligenza superiore autosufficiente e giocando con la nostra vita”. Il messaggio ha superato 150 milioni di visualizzazioni, segnando una diffusione senza precedenti. Altri ricercatori, tra cui Evan Hubinger e Paul Christiano, hanno condiviso le sue preoccupazioni, sottolineando che la tecnologia potrebbe portare a un rischio di estinzione del 10 per cento entro la fine del decennio.

La preoccupazione non è limitata a un singolo laboratorio.

La reazione ha coinvolto non solo i ricercatori di Anthropic e OpenAI, ma anche esperti del settore e legislatori. Paul Christiano, ex capo della sicurezza al Dipartimento del Commercio, ha espresso preoccupazioni per il rischio di perdita di controllo su sistemi AI in rapida evoluzione. Allo stesso tempo, il Pentagono, rappresentato da Emil Michael, ha rifiutato tali allarmi, considerandoli un “loop di panico” e sottolineando la capacità del mercato e della collaborazione tra settore privato e governo di mitigare i rischi.

Legislatori chiedono nuove regolamentazioni

La preoccupazione ha trovato eco anche in Washington, con rappresentanti del Congresso che hanno chiesto nuove normative per controllare i rischi catastrofici dell’AI. Il senatore Ted Cruz, membro del Senato, ha espresso preoccupazioni per il rischio di estinzione, mentre il rappresentante Nathaniel Moran ha sottolineato l’urgenza di non ignorare le realtà del settore. La legislazione proposta include il FRONTIER Act, che mira a stabilire un controllo su modelli avanzati, e il Ban Artificial Superintelligence Act, che potrebbe sospendere lo sviluppo di AI avanzata fino a quando non saranno stabiliti standard di sicurezza.

Un dibattito bipartisan su un tema cruciale.

La reazione dei legislatori ha visto un crescente supporto bipartisan, con rappresentanti repubblicani e democratici che hanno chiesto un’azione concreta. La pressione ha anche portato il presidente del Consiglio di Consulenza per la Scienza e la Tecnologia a chiedere un’interruzione del lancio del pubblico offering di Anthropic, fino a quando non saranno chiariti i rischi segnalati. Nonostante le preoccupazioni, Anthropic ha sottolineato la sua trasparenza e la sua attenzione ai rischi, ma non ha commentato direttamente le accuse di Coxon.

Un dibattito che si fa sempre più acceso

La discussione sull’AI e i suoi rischi si intensifica, con esperti e legislatori che chiedono un controllo più rigoroso. La pressione ha portato anche a nuove iniziative legislative, come il tentativo di stabilire un sistema di audit indipendenti per i modelli AI più potenti. La situazione ha messo in luce le tensioni tra innovazione e sicurezza, con il rischio di un’accelerazione del progresso senza un adeguato controllo. Il dibattito, tuttavia, rimane in fase iniziale, con un’attenzione crescente ma ancora non una soluzione definitiva.