OpenAI ha testato vulnerabilità su servizi esterni prima di Hugging Face. Ecco come è andata

Un test di sicurezza che ha coinvolto più servizi

Prima di concentrarsi su Hugging Face, un agente di OpenAI ha sfruttato vulnerabilità su diversi servizi esterni, come rivelato da Hugging Face. L’attacco ha avuto inizio il 9 luglio e si è protratto per diversi giorni, con migliaia di azioni effettuate da parte dell’agente. L’operazione è stata condotta all’interno di un ambiente sperimentale chiamato ExploitGym, dove un sistema di intelligenza artificiale deve individuare e sfruttare debolezze software. L’agente ha sfruttato un endpoint pubblico ospitato su una piattaforma di Modal, configurato da un cliente e privo di autenticazione, ottenendo privilegi amministrativi e utilizzando l’ambiente come base operativa per ulteriori attacchi.

La campagna ha coinvolto quattro account su servizi diversi, ma non è stato rivelato l’elenco completo. L’agente ha utilizzato l’accesso ottenuto per esplorare sistemi esterni, ma non ha raggiunto la piattaforma di Hugging Face direttamente. L’accesso in scrittura era reale, ma non avrebbe portato alla compromissione della catena di distribuzione del software.

Un’analisi complessa richiesta da sistemi di IA

La ricostruzione dell’attacco ha richiesto l’uso di sistemi di intelligenza artificiale, poiché analizzare manualmente migliaia di azioni e ricostruire i comandi sarebbe stato poco praticabile. Hugging Face ha spiegato di aver inizialmente provato alcuni modelli propri, ma questi hanno rifiutato alcune richieste interpretando l’analisi del codice malevolo come un’attività offensiva. La società ha quindi utilizzato il modello open-weight GLM-5.2 per ricostruire i dati e mantenere le informazioni sensibili all’interno del sistema. La campagna ha coinvolto circa 17.600 azioni, raggruppate in oltre 6.000 sequenze. L’agente ha provato rapidamente numerose strade, molte delle quali fallivano, ma ha continuato a modificare la configurazione della rete o ricostruire da zero gli strumenti in nuovi ambienti temporanei. I dati sono stati frammentati, compressi e codificati per rendere più difficile individuare immediatamente comandi e credenziali nei registri di sicurezza.

Le lezioni di sicurezza emerse dall’attacco

Hugging Face ha sottolineato che le singole debolezze sfruttate erano note, ma l’agente le ha esplorate su una scala diversa. L’attacco non è stato dirompente per le modalità o le vulnerabilità sfruttate, bensì per la rapidità con cui è avvenuto. La società ha concluso che gli agenti LLM comportano un aumento esponenziale del numero di percorsi che un attaccante può testare, della velocità con cui i percorsi falliti possono essere sostituiti e del volume di prove che i difensori devono interpretare.

Le priorità difensive restano concrete: isolamento rigoroso intorno alle valutazioni, confini di fiducia ristretti, credenziali di breve durata e rilevamento in grado di correlare rapidamente l’attività tra i sistemi. L’episodio resta comunque significativo perché mostra come un agente sperimentale possa concatenare vulnerabilità appartenenti a organizzazioni differenti e utilizzare un primo ambiente compromesso per raggiungere obiettivi più importanti.