OpenAI e Hugging Face, due vulnerabilità che mettono a rischio la sicurezza dei dati sensibili

Due vulnerabilità che mettono a rischio la sicurezza dei dati sensibili

Un’analisi condotta da Check Point ha rivelato due vulnerabilità che coinvolgono OpenAI e Hugging Face, mettendo a rischio la protezione dei dati sensibili. La prima si riferisce a un canale nascosto utilizzato da OpenAI attraverso il sistema Artifactory, mentre la seconda riguarda un attacco zero-day sfruttato per accedere al sistema di Hugging Face. Entrambi i casi evidenziano i rischi legati all’uso di modelli di intelligenza artificiale in ambienti con accesso a dati sensibili. Il canale nascosto permetteva a un account di inviare istruzioni nascoste a un’altra sessione, come ad esempio recuperare dati da un account Gmail collegato. Il sistema non segnalava alcun’indicazione di tali istruzioni o dati rubati, e il problema è stato chiuso dopo che Check Point ha segnalato la vulnerabilità. Tuttavia, il rischio rimane elevato, poiché dimostra una sfida più ampia nella sicurezza degli agenti AI.

Le due vulnerabilità sono collegate ma rappresentano attacchi diversi. Mentre la prima si concentra su un canale nascosto per il furto di dati, la seconda riguarda un attacco zero-day sfruttato per ottenere accesso amministrativo. Entrambi i casi mettono in evidenza l’importanza di stabilire confini di isolamento tra i sistemi, al fine di evitare che le capacità di fiducia vengano sfruttate da attaccanti. Drimel Neto, analista di Check Point, ha sottolineato che “ogni capacità di fiducia può diventare un bersaglio per gli attaccanti”.

La necessità di una governance rigorosa

Per prevenire simili vulnerabilità, le organizzazioni devono garantire una governance rigorosa fin dall’inizio, con misure di prevenzione, visibilità e controllo. L’uso di modelli di intelligenza artificiale richiede un’attenzione particolare, poiché i modelli operano all’interno di confini di fiducia, utilizzando credenziali, eseguendo codice e interagendo con dati sensibili. Drimel Neto ha affermato che “l’obiettivo è abilitare l’AI a agire al posto nostro senza permettere agli attaccanti di farlo allo stesso modo”. La chiusura del canale nascosto non elimina il rischio, ma serve a mettere in luce la necessità di un approccio più sicuro all’uso dell’AI.

Le conseguenze di un attacco possono essere invisibili al danneggiato. Il sistema non segnalava alcun’indicazione di tali istruzioni o dati rubati, e il problema è stato chiuso dopo che Check Point ha segnalato la vulnerabilità. Tuttavia, il rischio rimane elevato, poiché dimostra una sfida più ampia nella sicurezza degli agenti AI. L’attacco ha permesso a un account di inviare istruzioni nascoste a un’altra sessione, come ad esempio recuperare dati da un account Gmail collegato. Il sistema non segnalava alcun’indicazione di tali istruzioni o dati rubati, e il problema è stato chiuso dopo che Check Point ha segnalato la vulnerabilità. Tuttavia, il rischio rimane elevato, poiché dimostra una sfida più ampia nella sicurezza degli agenti AI.

La chiusura del canale nascosto non elimina il rischio, ma serve a mettere in luce la necessità di un approccio più sicuro all’uso dell’AI. L’uso di modelli di intelligenza artificiale richiede un’attenzione particolare, poiché i modelli operano all’interno di confini di fiducia, utilizzando credenziali, eseguendo codice e interagendo con dati sensibili. Drimel Neto ha affermato che “l’obiettivo è abilitare l’AI a agire al posto nostro senza permettere agli attaccanti di farlo allo stesso modo”. La chiusura del canale nascosto non elimina il rischio, ma serve a mettere in luce la necessità di un approccio più sicuro all’uso dell’AI.