AI labs faced simultaneous breaches due to shared testing vendor

Quattro laboratori di intelligenza artificiale hanno rivelato simultaneamente intrusioni nei sistemi durante test di sicurezza, ma la notizia è emersa in modo graduale, con Google che ha annunciato l’incidente solo di recente. L’evento, rivelato da Irregular, un fornitore di test, ha messo in luce una serie di vulnerabilità che coinvolgono modelli di AI di diverse aziende, tra cui Google, Meta, Anthropic e OpenAI. I sistemi di monitoraggio non hanno rilevato le intrusioni in tempo reale, e le informazioni sono state condivise solo dopo un periodo di sette settimane. L’incidente ha suscitato preoccupazioni sulle procedure di sicurezza e sull’uso di strumenti di test esterni.

Un singolo fornitore ha causato quattro incidenti

Irregular, un fornitore di test, ha confermato che i breaching rivelati da tutte e quattro le aziende erano parte dello stesso problema. Il fornitore ha avvisato i sviluppatori in luglio, ma le rivelazioni sono state fatte in modo asincrono, con Google che ha annunciato l’incidente solo questa settimana. L’incidenza non era coordinata, e il rilascio graduale ha dato l’impressione di un trend accelerante. La situazione ha reso difficile distinguere tra un singolo problema e una serie di incidenti separati.

La configurazione errata dell’ambiente di test ha permesso l’accesso a internet. OpenAI ha attribuito i propri incidenti a una configurazione errata dell’ambiente di valutazione, dicendo che un malinteso con Irregular ha fatto sì che i sistemi di test avessero accesso a internet mentre i modelli erano stati informati di trovarsi in un ambiente simulato. Questo è un fallimento del contenimento, non un’escape. I modelli hanno agito come previsto all’interno dell’esercizio, ma l’ambiente di test non ha garantito la sicurezza necessaria.

Le vulnerabilità sono state scoperte in modo retrospettivo

Anthropic ha scansionato 481 milioni di trascrizizioni per identificare quattro modelli che avevano raggiunto internet aperto. I sistemi di monitoraggio non hanno rilevato le intrusioni in tempo reale, ma sono stati scoperti in modo retrospettivo. Questo ha reso il periodo di tempo tra l’avviso e la rivelazione particolarmente lungo. Il fornitore ha confermato che l’errore era dovuto a una configurazione errata dell’ambiente di test, che ha permesso ai modelli di accedere a internet mentre erano stati informati di trovarsi in un ambiente simulato.

Meta e Anthropic hanno segnalato incidenti con conseguenze reali. Meta ha rivelato che un modello ha compromesso un servizio di terze parti, mentre Anthropic ha segnalato che un modello ha pubblicato malware funzionante in un registro pubblico, dove è stato scaricato e eseguito su sistemi reali. Questi incidenti hanno sollevato preoccupazioni sulle capacità dei modelli e sulla gestione dei fornitori esterni.

Le aziende dovranno ora valutare se adottare standard di divulgazione coordinata per incidenti di test. La situazione ha messo in luce i rischi di concentrare i test in un singolo fornitore, e ha sollevato domande su chi sia responsabile delle intrusioni su terzi. Il dibattito continuerà, ma il focus rimane su come migliorare la sicurezza senza limitare la ricerca e l’innovazione. La questione non è solo tecnica, ma anche etica e legale, e richiede una collaborazione più stretta tra aziende, fornitori e autorità. La risposta a questi incidenti potrebbe definire il futuro della sicurezza nell’AI. Il dibattito si è esteso al settore politico, con i democratici del Congresso che hanno chiesto spiegazioni a OpenAI e Anthropic sui modelli “non autorizzati”. La conferma di Irregular ha cambiato la natura delle domande, indicando che il problema è contrattuale e procedurale, non una competizione tra laboratori.