Jacob Tsimerman abbandona la matematica per la sicurezza dell’AI

Jacob Tsimerman, vincitore del Fields Medal, ha deciso di lasciare la matematica per concentrarsi sulla sicurezza dell’intelligenza artificiale. Il matematico canadese, noto per i suoi contributi in geometria algebrica, ha espresso preoccupazioni per i rischi che l’AI potrebbe rappresentare per l’umanità. Tsimerman, che attualmente insegna all’Università di Toronto, ha spiegato che il progresso rapido dell’AI ha reso necessario un cambiamento di direzione per affrontare le sfide emergenti. L’obiettivo è creare processi di verifica più rigorosi per garantire che l’AI non metta a rischio la sopravvivenza umana.

sicurezza dell’AI

Secondo Tsimerman, l’AI potrebbe portare a situazioni di “omnicide” sia intenzionali che accidentali. Questo include scenari in cui l’AI non considera la sopravvivenza umana, come nel caso di un sistema che priorizza la produzione di cibo a scapito della salute umana. Inoltre, esistono rischi legati all’uso dell’AI da parte di stati nazionali per lanciare guerre di una potenza senza precedenti. Il matematico ha sottolineato che è necessario sviluppare contromisure concrete e mirate, piuttosto che concentrarsi su dibattiti astratti come la coscienza o la creatività dell’AI.

nuove prospettive

Entrando nel campo della sicurezza dell’AI da un background matematico, Tsimerman ritiene che possa portare nuove idee e approcci al problema. Il matematico ha spiegato che il suo lavoro precedente, come la risoluzione di problemi complessi in geometria algebrica, lo ha preparato a affrontare sfide simili in ambito AI. L’obiettivo è creare un sistema in cui l’AI possa essere testata in modo scientifico e controllato, con restrizioni ben definite. Tsimerman ha anche sottolineato l’importanza di coinvolgere governi, aziende e terzi nella creazione di standard di sicurezza.

Il passaggio da matematico a esperto di AI safety non è stato facile per Tsimerman. Mentre riconosce l’importanza della matematica nella sua identità, ha espresso una visione cauta ma ottimistica sul futuro. L’AI sta trasformando rapidamente il campo matematico, riducendo le opportunità per i ricercatori che si concentrano su problemi tradizionali. Tuttavia, Tsimerman ritiene che la matematica non svanirà, ma si evolverà in modo diverso. Il suo obiettivo è contribuire a un futuro in cui l’AI sia un’alleata, non una minaccia.

Con l’AI che continua a superare i confini della conoscenza, Tsimerman ha scelto di abbandonare la sua carriera in matematica per affrontare un problema che, a suo parere, potrebbe influenzare la vita di tutti. Il suo lavoro potrebbe contribuire a creare un equilibrio tra innovazione e sicurezza, un tema cruciale per il futuro dell’intelligenza artificiale. Tsimerman ha anche sottolineato l’importanza di testare l’AI in modo rigoroso, con meccanismi di controllo che limitino i poteri di un modello. Questo include l’idea di un “pulsante” che non possa essere premuto a meno che non si verifichino determinate condizioni. Il matematico ha riconosciuto che, purtroppo, questa è una richiesta facile da enunciare ma difficile da implementare.