Anthropic blocca utilizzi maliciosi dell’IA per creare armi biologiche

Anthropic, azienda leader nella ricerca sull’intelligenza artificiale, ha reso pubblico un rapporto in cui ha rivelato di aver bloccato tentativi di utilizzare i suoi modelli di IA a fini maliciosi, tra cui ricerche per la creazione di armi biologiche. L’evento si è verificato il 10 settembre 2026, in un contesto di crescente preoccupazione per l’uso improprio delle tecnologie AI. L’azienda ha sottolineato che i casi segnalati non riguardano semplici abusi, ma rappresentano minacce significative e inedite. L’obiettivo principale del report è stato quello di informare e sensibilizzare sulle potenziali conseguenze di un uso non etico dell’IA.

Utilizzo malizioso dell’IA per la ricerca biologica

Secondo il rapporto, Anthropic ha identificato diversi casi in cui attori non identificati hanno tentato di utilizzare i suoi modelli per condurre ricerche che potrebbero portare alla creazione di armi biologiche. Tra questi, un caso specifico ha visto un tentativo di ampliare le mutazioni del virus chikungunya per renderlo più virulento. L’azienda ha spiegato che, sebbene tali ricerche potrebbero contribuire allo sviluppo di vaccini e trattamenti più efficaci, potrebbero anche essere utilizzate per aumentare la pericolosità degli agenti patogeni. Anthropic ha affermato di aver bloccato ogni attività maliziosa rilevata.

Controlli migliorati e collaborazione con autorità

Per prevenire futuri abusi, Anthropic ha rafforzato le sue misure di sicurezza, soprattutto sui modelli più recenti e potenti, come Claude Fable 5. L’azienda ha anche condiviso informazioni con le autorità governative e i suoi partner industriali. I dati raccolti indicano che la maggior parte delle richieste maliziose non utilizzava i modelli più avanzati, ma alcuni casi hanno coinvolto modelli più vecchi, che avevano limitate capacità di protezione. La società ha espresso la sua responsabilità nel segnalare tali utilizzi non etici.

Il rapporto ha anche rivelato che Anthropic ha registrato nove casi di attività maliziosa, originari da diversi Paesi, tra cui Russia, Iran, Turchia, Golfo Persico, Asia del Sud, Africa e Europa. Tra i casi segnalati, ci sono stati tentativi di creare centinaia di account su piattaforme social per diffondere propaganda politica. L’azienda ha sottolineato che, nonostante i controlli migliorati, non ha ancora un piano definitivo per garantire che modelli di IA molto potenti rispettino le intenzioni dei loro creatori.

La questione della regolamentazione dell’IA è diventata sempre più urgente, con esperti che chiedono ai governi di intervenire per prevenire abusi. In America, non esiste ancora una legge federale che regoli l’uso di modelli di IA molto potenti. L’amministrazione Trump ha preferito un approccio più leggero per mantenere la competitività rispetto alla Cina, ma recentemente Anthropic e OpenAI hanno chiesto al Congresso di adottare regole di sicurezza obbligatorie, tra cui test obbligatori e valutazioni da parte di organismi indipendenti. Il caso di Anthropic rappresenta un esempio di come le aziende tecnologiche stanno cercando di bilanciare l’innovazione con la responsabilità. Sebbene non esistano ancora regolamenti a livello globale, l’esperienza di Anthropic potrebbe servire come modello per altre aziende e governi. La società ha espresso la sua volontà di contribuire al dibattito globale sull’uso etico dell’IA.