Perplexity lancia il Portable Computer per AI locale su NVIDIA DGX Spark con sandbox e costo zero per token

Un nuovo passo avanti per l’AI locale con Perplexity

Perplexity ha lanciato il “Portable Computer”, un sistema basato su NVIDIA DGX Spark che permette l’esecuzione completa del framework agente, dell’orchestratore, del piano e del router degli strumenti direttamente sul dispositivo locale. Questo sistema è stato sviluppato per offrire un’esperienza di AI locale, con un’attenzione particolare alla sicurezza e alla riduzione dei costi. Il prodotto è disponibile come software in versione completa, non come una versione di anteprima, e richiede un hardware specifico, come un box GB10 o una GPU RTX con 24 GB di VRAM. Il sistema è progettato per aziende e team di alto livello, come quelli nel settore finanziario, legale, sanitario e di difesa, dove la privacy e la conformità sono fondamentali.

Il sistema è disponibile per Linux, con supporto per Windows previsto a settembre. Perplexity ha testato il sistema su diversi benchmark, tra cui il “Local Knowledge Work Bench”, che include analisi finanziarie, ricerca approfondita e creazione di documenti. I risultati mostrano un’efficienza notevole: il modello Qwen 3.8 27B ha ottenuto un punteggio del 82.6%, mentre il modello PPLX 27B, personalizzato per il framework di Perplexity, ha raggiunto il 85.4%. Su altri test, come il “Terminal Bench 2.1”, il sistema ha dimostrato un’efficienza elevata, con un punteggio del 59.6% in locale e del 73.0% con l’assistente cloud, a un costo di circa $0.415 per rollout, rispetto al 82.4% del modello Opus 5 a un costo di $0.65.

Funzionalità e sicurezza del sistema

Il “Portable Computer” è progettato per eseguire il lavoro in locale, con un’attenzione alla privacy e alla gestione dei dati sensibili. Ogni passaggio inizia sul dispositivo, e solo in caso di necessità specifica, come l’accesso a dati esterni o a modelli avanzati, l’orchestratore richiede esplicitamente l’approvazione per inviare il passaggio a uno dei 15+ modelli cloud disponibili. Questo processo include un controllo automatico dei dati personali (PII), garantendo una gestione sicura delle informazioni. Inoltre, il sistema utilizza un sandbox OS per limitare l’accesso ai processi, ai percorsi del file system e alla rete, evitando potenziali vulnerabilità.

Il sistema non è disponibile per macOS e richiede un DGX Spark con chip GB10, 128 GB di memoria e almeno 1 TB di storage. Il “Portable Computer” permette l’uso di modelli personalizzati come Qwen 3.8 27B o PPLX 27B, con supporto per modelli esterni come NVIDIA Nemotron 3.5 Lightning. Il sistema è progettato per aziende e team di alto livello, come quelli nel settore finanziario, legale, sanitario e di difesa, dove la privacy e la conformità sono fondamentali. Il costo zero per token per i passaggi locali rende il sistema economicamente sostenibile per operazioni di grandi scale, come migrazioni di repository e loop di verifica prolungati.

Il sistema è disponibile per i clienti Pro, Max, Enterprise Pro e Enterprise Max, con supporto per Linux e previsto rilascio per Windows a settembre. Il “Portable Computer” è un passo significativo verso l’adozione dell’AI locale, con un focus su sicurezza, efficienza e costi ridotti. La combinazione di sandbox OS, modelli locali e costo zero per token rende il sistema un’alternativa interessante per aziende che richiedono un controllo totale sui dati e sulle operazioni di AI.