Google AI ha rivelato un segreto di gioco presente solo in un documento privato

Un sviluppatore indie ha rivelato che l’AI di Google ha restituito un segreto di gioco presente solo in un documento privato, senza averlo addestrato. Il caso ha suscitato preoccupazione nel settore tecnologico, con il sviluppatore che non riesce a spiegare come l’AI abbia ottenuto l’informazione. Il gioco in questione è Operation Octo, sviluppato da Klub Kofta Studio, dove un giocatore ha chiesto informazioni su contenuti non rivelati, e l’AI ha restituito un nome di personaggio, “Vantage Tripod”, che non era mai stato condiviso con nessuno. Il sviluppatore ha affermato che il nome era presente solo in un documento privato di Google Docs, e non aveva mai parlato dell’argomento all’AI.

Un caso inedito di rivelazione di informazioni

Il caso ha iniziato nel server Discord del gioco, dove un giocatore ha posto domande all’AI di Google su contenuti non rivelati. Il sviluppatore ha notato che le risposte includevano dettagli inusuali per un gioco di piccola dimensione. Dopo aver chiesto al giocatore di provare a chiedere informazioni su contenuti non annunciati, l’AI ha restituito il nome del personaggio “Vantage Tripod”, che il sviluppatore aveva mai condiviso con nessuno. Il nome era presente solo in un documento privato di Google Docs, e il sviluppatore ha affermato che non aveva mai parlato dell’argomento all’AI.

Il sviluppatore ha anche sottolineato che il nome del personaggio non era incluso nel codice del gioco, nei file o nei dati di Steam. Nonostante Google abbia chiarito che non addestra i suoi modelli su documenti privati, il caso ha sollevato domande su come l’AI possa ottenere informazioni non condivise. Il sviluppatore ha affermato che il caso non è più riproducibile dopo che il post è circolato su Reddit.

Google non addestra l’AI sui documenti privati

Google ha chiarito che non utilizza i documenti privati di Google Workspace, come Drive e Docs, per addestrare i suoi modelli di intelligenza artificiale, tra cui Gemini. Tuttavia, i documenti condivisi pubblicamente possono essere indicizzati se i link sono accessibili ai crawler di ricerca. Il sviluppatore ha affermato che il documento in questione era privato e non era stato condiviso con nessuno. Nonostante ciò, l’AI ha restituito il nome del personaggio, e il sviluppatore ha affermato che non è stato possibile riprodurre il caso dopo che il post è circolato su Reddit. Il caso ha sollevato domande fondamentali sui sistemi di ricerca basati sull’AI: quando una risposta include informazioni poco comuni, gli utenti devono sapere da dove provengono tali informazioni, se sono da una fonte affidabile, un documento pubblico o il modello stesso. Il sviluppatore ha anche sottolineato che il nome del personaggio non era incluso nel codice del gioco, nei file o nei dati di Steam.

Il caso ha suscitato preoccupazioni anche per i sviluppatori, che si chiedono come mantenere la riservatezza dei progetti non rivelati. Il caso ha anche messo in luce come le risposte generate dall’AI possano essere manipolate, come nel caso di un YouTuber che ha convinto l’AI a ripetere una falsa affermazione riguardo a Grand Theft Auto 6. Google ha affermato che i suoi AI Overviews utilizzano sempre più contenuti da Reddit nei risultati di ricerca, il che può essere utile per i utenti che cercano discussioni dirette, ma può anche creare problemi quando i post contengono voci, battute o affermazioni non supportate.

Il sviluppatore ha concluso che il caso è un monito per i sviluppatori, che devono essere consapevoli dei rischi di condividere informazioni non rivelate, anche se non sono state condivise con l’AI. Il caso ha anche sollevato domande fondamentali sui sistemi di ricerca basati sull’AI: quando una risposta include informazioni poco comuni, gli utenti devono sapere da dove provengono tali informazioni, se sono da una fonte affidabile, un documento pubblico o il modello stesso.