Trust e affidabilità chiave per sfruttare il potenziale dell’azienda agente con AI, dice Snowflake
Snowflake sottolinea la fiducia e l’affidabilità come elementi essenziali per il successo dell’azienda agente con AI, con le dichiarazioni del Chief Security & Trust Officer Mayank Uphadyay.
Il tema della fiducia e dell’affidabilità sta diventando cruciale per il successo dell’azienda agente (agentic enterprise) nell’era dell’intelligenza artificiale, secondo Mayank Uphadyay, Chief Security & Trust Officer di Snowflake. Durante la Snowflake World Tour London, Uphadyay ha sottolineato come la governance dell’AI sia un tema centrale per le aziende, con un focus particolare sulla protezione dei dati e sulla sicurezza delle operazioni. “Questo anno è stato molto su come governare l’AI”, ha detto Uphadyay, “c’è due lati della moneta: da un lato devi assicurarti che l’AI di qualcun altro non rompa i tuoi confini, dall’altro devi garantire che la tua AI sia ben comportata, in modo che non esporti dati e non esca in modo imprevisto dai confini.”
La fiducia come base per l’adozione dell’AI agente
La fiducia, secondo Uphadyay, è il pilastro su cui si basa l’adozione dell’AI agente. “Quando le persone ci affidano i loro dati, dobbiamo garantire che la nostra piattaforma sia assolutamente sicura contro gli attacchi agenti”, ha sottolineato. Questo concetto è stato ulteriormente sviluppato durante la keynote della Snowflake World Tour London, dove è stato messo in evidenza come la scelta del modello AI e l’uso dell’agente debbano essere supportati da dati “rock solid”. “Il modello AI è come il cervello umano, l’agente è come il corpo, e tutto deve lavorare su una base di dati solida”, ha spiegato Uphadyay.
La sicurezza non è più un ostacolo, ma un enabler per l’adozione dell’AI.
Uphadyay ha anche sottolineato come la sicurezza non sia più un ostacolo, ma un enabler per l’adozione dell’AI. “La sicurezza è adesso l’enabler, non più il blocker”, ha detto. Questo è particolarmente rilevante per i clienti di Snowflake, che si trovano a diversi livelli di adozione dell’AI. “I nostri clienti si trovano in diversi punti dello spettro di adozione dell’AI, ma la differenza principale è che la sicurezza è adesso l’enabler”, ha aggiunto. Questo approccio è reso possibile grazie al Trust Center di Snowflake, un strumento che collega i tre livelli di sicurezza menzionati e offre visibilità sul sistema, nonché suggerimenti per miglioramenti.
La gestione dei permessi e la sicurezza dei dati
Uphadyay ha anche menzionato l’importanza di gestire i permessi correttamente, soprattutto quando si utilizzano agenti AI che esplorano in modo autonomo. “Assicurarsi di fornire il set giusto di permessi per gli agenti AI, che sono di natura esplorativa, può andare molto lontano nel garantire che non si verifichino problemi e i dati rimangano sicuri”, ha spiegato. Questo è particolarmente rilevante in un contesto in cui i dipendenti, dopo anni di lavoro, possono accumulare permessi per sistemi e servizi che non necessitano più, creando potenziali rischi quando si utilizzano agenti come se fossero loro stessi.
La fiducia è ciò che ti permette di muoverti con sicurezza, come quando premi i freni mentre guidi.
La fiducia, quindi, non è solo un concetto teorico, ma un elemento pratico che deve essere costruito e mantenuto attraverso misure concrete. “La fiducia è ciò che ti permette di muoverti con sicurezza, come quando premi i freni mentre guidi”, ha detto Uphadyay, citando il pilota Mario Andretti. “Premere i freni ti dà la fiducia necessaria per girare, e senza di essi, guideresti molto lentamente”. Questo paragone è stato usato per spiegare come la sicurezza, se ben implementata, non solo protegge, ma anche permette di agire con fiducia e sicurezza nell’ambito dell’AI agente.