Superintelligenza artificiale: il rischio è reale, ma non c’è un piano condiviso

La superintelligenza artificiale potrebbe distruggere l’umanità, ma nessuno sa come controllarla. È questa la conclusione di una serie di interviste pubblicate da Paliside Research, che mettono in guardia su un tema sempre più dibattuto: il rischio che l’intelligenza artificiale superi i limiti della razionalità umana. Secondo alcuni ricercatori, la probabilità che l’umanità si estinga a causa di un sistema di intelligenza artificiale potrebbe essere simile a quella di un lancio di moneta. Altri, invece, parlano di un rischio del 10 per cento, un numero che, sebbene basso, è comunque sufficiente a suscitare preoccupazione.

Un rischio non sottostimabile

Geoffrey Irving, che ha lavorato sia per OpenAI che per Google DeepMind, ha espresso una visione probabilistica del rischio: “Secondo me la probabilità che l’umanità si estingua è più o meno quella di un lancio di moneta”. Una frase che, sebbene sembri distaccata, mette in evidenza un’incertezza totale. Allo stesso tempo, Neel Nanda, ricercatore di Google DeepMind, ha sottolineato che il 10 per cento di probabilità di estinzione umana è una cifra “ridicolmente alta”, un’affermazione che ha suscitato reazioni forti nel settore.

La probabilità di estinzione umana è simile a quella di un lancio di moneta.

Un’industria in corsa senza un piano

Le interviste raccolte da Paliside Research mostrano un quadro complesso: da un lato, un’industria che investe miliardi per sviluppare sistemi sempre più potenti, dall’altro, una comunità scientifica che non ha ancora trovato una soluzione condivisa. Daniel Kokotajlo, ex ricercatore di OpenAI, ha sottolineato che una superintelligenza artificiale potrebbe essere “potente come un dio”, ma senza un guinzaglio. “Purtroppo non sappiamo affatto come controllarle”, ha detto, aggiungendo che “probabilmente nessuno le controllerebbe”. La questione della sicurezza dell’AI è diventata un’etichetta vaga, che può indicare ricerca tecnica, pressione politica o semplice rassicurazione agli investitori. Mentre alcuni chiedono di fermare tutto, altri preferiscono guidare con maggiore prudenza. Il risultato è un dibattito senza un punto d’incontro.

Marketing o realtà?

Una delle sezioni più interessanti del sito di Paliside Research affronta il sospetto che la paura dell’AI possa essere un’arma di marketing. “Dire che il proprio prodotto è così potente da poter distruggere il mondo è una pubblicità efficace”, ha osservato un commentatore. Mary Phuong, di Google, ha ammesso con onestà: “Credo che dobbiate assolutamente diffidare di quello che dico, perché sono pagata dal laboratorio”. Una confessione rara, ma che mette in luce un aspetto poco discusso: il conflitto tra interesse personale e responsabilità collettiva.

La paura dell’AI potrebbe essere un’arma di marketing.

Nel frattempo, i ricercatori continuano a lavorare, anche se alcuni di loro, come Neel Nanda, hanno chiarito che il loro lavoro potrebbe ridurre direttamente i rischi esistenziali. “Se non credessi che il mio lavoro stia riducendo direttamente questi rischi esistenziali, me ne andrei”, ha detto. Una risposta che, sebbene comprensibile, lascia interdetti. L’industria non si fermerà, e i ricercatori non si arrenderanno. Il rischio è reale, ma non c’è un piano condiviso. Ecco il dilemma che il settore dell’AI deve affrontare: come controllare un’entità che potrebbe distruggere l’umanità, senza sapere come farlo.