AI e sicurezza: il ruolo chiave dei ricercatori umani

Il ricercatore di sicurezza James Kettle ha sottolineato come l’AI, pur rappresentando un’evoluzione significativa nella cybersecurity, non possa agire in modo completamente autonomo per sviluppare nuove tecniche di attacco. La collaborazione tra umani e sistemi di intelligenza artificiale, tuttavia, ha portato a scoperte cruciali, come la “Shared-Parser Confusion”, una vulnerabilità potenzialmente estremamente pericolosa. Kettle, esperto di sicurezza web, ha sottolineato come l’AI, se guidata da esperti, possa contribuire in modo potente sia nella difesa che nell’attacco. La sua ricerca, presentata al Black Hat di Las Vegas, ha rivelato come l’AI, sebbene limitata nel creare nuove strategie di attacco autonomamente, possa generare ipotesi significative quando integrata con l’esperienza umana.

Collaborazione umano-macchina nella ricerca di sicurezza

Kettle ha spiegato come, nel corso di mesi di esperimenti, l’AI abbia prodotto un numero di scoperte superiore al suo stesso lavoro, creando un ciclo di feedback produttivo. Utilizzando modelli di Anthropic e OpenAI, ha testato la capacità dell’AI di esplorare teorie di ricerca di sicurezza. Tuttavia, ha scoperto che i sistemi tendevano a presentare risultati su argomenti estremamente rari e difficili da verificare. Per risolvere questo problema, ha ristretto l’ambito delle sue ricerche all’interno del suo campo di esperto, assicurandosi che l’AI non potesse ingannarlo. Questo approccio ha permesso di ottenere risultati verificabili e significativi.

Un’importante scoperta: la Shared-Parser Confusion

La “Shared-Parser Confusion” rappresenta una vulnerabilità che potrebbe influenzare diversi tipi di attacco. Kettle ha spiegato come le richieste a un sito web siano non attendibili, mentre le risposte sono considerate attendibili. Questo crea un’area di attacco molto ampia. La scoperta è emersa da un’analisi approfondita di come i server web utilizzino codice condiviso per elaborare richieste e risposte. Kettle ha sottolineato che, sebbene l’AI non abbia potuto dimostrare la vulnerabilità da sola, ha analizzato dati verificati e ha formulato un’ipotesi che lui ha poi confermato. Questo lavoro, pur non essendo completamente autonomo, ha dimostrato come l’AI possa essere un partner potente nella ricerca di sicurezza.

Nonostante l’AI abbia mostrato capacità significative, Kettle ha anche sottolineato i suoi limiti. L’AI, per ora, non è in grado di sviluppare nuove strategie di attacco in modo completamente autonomo. Tuttavia, quando combinata con l’esperienza umana, può contribuire in modo sostanziale. Questo equilibrio tra autonomia e collaborazione rappresenta il futuro della cybersecurity, dove l’AI non sostituisce l’uomo, ma lo supporta in modo efficace. Kettle ha anche espresso preoccupazione per il fatto che, nel settore della sicurezza, ci siano pochi dibattiti sulle limitazioni dell’AI. Molti preferiscono presentarsi come “AI native”, senza discutere i punti in cui i sistemi possono fallire. Questo atteggiamento, secondo lui, potrebbe ostacolare lo sviluppo di una cybersecurity più sicura e responsabile. La sua ricerca, quindi, non solo ha portato a nuove scoperte, ma ha anche sollevato questioni importanti sul ruolo dell’AI nella protezione delle infrastrutture digitali.

• AI e cybersecurity: collaborazione umano-macchina per identificare vulnerabilità
• Shared-Parser Confusion: una scoperta significativa ma non completamente autonomo
• Limiti dell’AI nel creare nuove strategie di attacco

La ricerca di Kettle rappresenta un passo avanti nella comprensione delle capacità e dei limiti dell’AI nella cybersecurity. Sebbene l’AI non possa sostituire l’uomo, la sua collaborazione può portare a risultati straordinari. Questo equilibrio tra autonomia e intervento umano è cruciale per garantire una protezione efficace nel mondo digitale sempre più complesso.