Ricercatori del machine learning sviluppano modelli di mondo counterfattuale per migliorare le previsioni dei robot

Ricercatori del machine learning hanno sviluppato un nuovo approccio ai modelli di mondo che permette ai robot di prevedere meglio le conseguenze delle loro azioni. L’approccio, descritto in un preprint intitolato “Counterfactual World Models: Natura Non Facit Saltus”, si basa sul principio che “la natura non fa salti” per migliorare l’accuratezza delle previsioni in contesti reali. L’opera, guidata da ricercatori come Yann LeCun e Randall Balestriero, mira a aiutare i robot a adattarsi a eventi imprevisti simulando scenari alternativi basati sui dati osservati.

Modelli di mondo e ragionamento counterfattuale

I modelli di mondo sono utilizzati per addestrare sistemi AI come i robot a navigare nel mondo reale, prevedendo i risultati delle azioni. Tuttavia, questi modelli si basano sui dati osservati e potrebbero avere difficoltà a inferire azioni possibili senza essere addestrati su tutti i possibili esiti. Il nuovo approccio, chiamato modelli di mondo counterfattuale, risolve questa limitazione permettendo al sistema di inferire scenari alternativi basati su ciò che è effettivamente accaduto. Questo metodo aiuta i robot a comprendere e adattarsi meglio a eventi imprevisti, come un corrente nascosta che influisce sul movimento di una barca.

Funzionamento dei modelli

I ricercatori spiegano che i modelli di mondo counterfattuale utilizzano la discrepanza tra previsioni e risultati reali per identificare dove si è sbagliati e migliorare le previsioni future. Applicando questa metodologia, i modelli possono simulare azioni alternative e prevedere i loro esiti senza richiedere un addestramento estensivo. In un esempio, una barca che attraversa un fiume con una corrente nascosta è stata utilizzata per dimostrare come il modello potesse prevedere il movimento della barca dopo aver virato a sinistra o a destra. Il modello ha tenuto conto dell’effetto della corrente utilizzando la differenza tra previsioni e risultati reali per adattare le previsioni per azioni alternative.

La tecnica non è limitata ai modelli JEPA, ma può essere applicata a qualsiasi modello di mondo che preveda lo stato successivo medio sotto qualsiasi azione.

I ricercatori hanno testato l’approccio utilizzando encoder di serie come DINOv2 e MAE, senza fine-tuning, e addestrando solo un piccolo predittore in cima. Questo approccio permette una rapida adattabilità e un overhead computazionale minimo. Inoltre, il metodo si basa sul principio fisico che le forze si sommano nel tempo, permettendo previsioni più accurate senza richiedere dati aggiuntivi.

Applicazioni e potenziale futuro

I ricercatori indicano tre possibili applicazioni per i modelli di mondo counterfattuale: aiutare i robot a ripetere un’azione dopo un evento imprevisto, adattarsi a guasti persistenti come motori mal calibrati, e aiutare a comprendere i fallimenti. In test simulati, i modelli hanno raggiunto un tasso di successo tra il 35 e il 69%, contro il 14-23% per piani tradizionali. Con ulteriori tentativi, il tasso di successo potrebbe salire fino al 51-97%. Balestriero sottolinea inoltre che questi modelli potrebbero aiutare a comprendere le cause dei fallimenti, distinguendo tra decisioni errate e sfortuna.

La metodologia si basa sull’inferenza causale, dove comprendere i fattori nascosti che influenzano i risultati è cruciale per le previsioni accurate.

Il lavoro si basa sul principio fisico che le forze si sommano nel tempo, permettendo previsioni più accurate senza richiedere dati aggiuntivi. Il paper, condiviso con The Register prima della sua pubblicazione su ArXiv, è atteso per essere rilasciato questa settimana. Rappresenta un passo significativo nello sviluppo di sistemi AI più robusti e adattabili per applicazioni reali.