L’AI non va rallentata, ma chi la controlla? La battaglia tra responsabilità e sovranità

Il dibattito sull’intelligenza artificiale si intensifica, con il fondatore di Meta, Mark Zuckerberg, che ha sottolineato che la corsa all’AI non deve essere rallentata, ma i laboratori devono assumersi la responsabilità dei propri modelli. La questione, tuttavia, si complica: chi dovrà decidere quando il rischio è diventato troppo grande? La battaglia si svolge tra chi sostiene un controllo esterno e chi ritiene sufficiente la responsabilità interna. L’Europa, da parte sua, cerca un equilibrio tra innovazione, sicurezza e sovranità tecnologica.

Responsabilità e mercato: il caso di Zuckerberg

Zuckerberg ha sottolineato che i laboratori devono assumersi la responsabilità dei propri sistemi e rallentare autonomamente quando necessario, senza attendere un accordo generale. Secondo il CEO di Meta, esistono già forti incentivi per investire nella sicurezza: gli utenti non vorranno utilizzare agenti che non fanno ciò che viene loro chiesto e le aziende possono essere chiamate a rispondere dei danni provocati dai propri sistemi. La fiducia e l’allineamento stanno rapidamente diventando le capacità più importanti attraverso cui agenti e modelli si differenzieranno. Meta ha scelto di destinare la “grande maggioranza” della propria potenza di calcolo a sistemi utilizzati dalle persone, invece che a una corsa verso il cosiddetto recursive self-improvement. Tuttavia, anche in questo caso la soluzione rimane essenzialmente volontaria: “Gli altri laboratori possono semplicemente fare lo stesso”, ha sottolineato. La questione, però, non è solo tecnica: si tratta di un conflitto di interessi tra innovazione e controllo.

La competizione nell’AI procede su modelli, utenti, sviluppatori, contratti aziendali, talenti e capacità di calcolo.

Un’alternativa: il controllo esterno e la sovranità digitale

L’Europa non punta a fermare l’AI, ma cerca di conciliare sicurezza, regolamentazione e una crescente esigenza di autonomia tecnologica. La Presidente della Commissione europea, Ursula von der Leyen, ha dichiarato che l’Europa deve diventare “produttrice di tecnologia AI” e costruire capacità di calcolo proprie. La Banca centrale europea, attraverso Christine Lagarde, ha avvertito che il continente rischia di essere escluso dalla rivoluzione dell’intelligenza artificiale. La Commissione europea propone un modello in cui i cittadini e le imprese possano utilizzare i modelli più avanzati, ma attribuisce alle aziende “l’onere di dimostrarne la sicurezza”. Questo approccio si distingue dall’autoregolamentazione, poiché la gestione del rischio si inserisce nel sistema di obblighi costruito con l’AI Act. L’Europa, inoltre, cerca di recuperare autonomia industriale e di trasformare alcuni principi di sicurezza in obblighi verificabili.

La questione non è scegliere tra innovazione e sicurezza, ma stabilire chi controlla chi costruisce l’intelligenza artificiale.

Man mano che i sistemi diventano più potenti e autonomi, però, meno può bastare la promessa di chi li costruisce che tutto sia sotto controllo. La questione non è scegliere tra innovazione e sicurezza, ma stabilire chi controlla chi costruisce l’intelligenza artificiale.