La nascita di Decart e l'interesse di Amazon
Nel 2023, due veterani dell'intelligence israeliana fondano Decart con l'obiettivo di generare mondi interattivi in tempo reale con l'AI. La prima dimostrazione, Oasis, sembra un videogioco alla Minecraft generato al momento dal modello in risposta alle azioni del giocatore. Secondo l'azienda, Oasis raggiunge un milione di utenti in 72 ore.
Tuttavia, far girare un mondo del genere in tempo reale costa una fortuna. Decart ha speso decine di milioni di dollari in GPU e spazio nei data center. Per alleggerire questo peso, i fondatori hanno sviluppato strumenti per far girare i loro world model più velocemente e con meno hardware. Questa competenza è diventata il loro vero asset.
Oggi, sono questi strumenti a stimolare l'appetito degli investitori. Anthropic ha trattato per rilevare l'azienda per circa 6 miliardi di dollari, ma si è ritirata dopo la due diligence. Amazon, già cliente e partner di Decart, è ora in trattative per l'acquisizione, con un'offerta che si parla di 7 miliardi di dollari.
Word model vs. world model: la differenza chiave
Per capire perché Decart è così ambita, è necessario comprendere la differenza tra word model e world model. I modelli di linguaggio (LLM) come ChatGPT o Claude sono word model, prevedono la parola successiva più plausibile. Conoscono la struttura della lingua, ma possono dire cose inesatte o prive di senso concreto.
Un world model, invece, prevede lo stato successivo di un sistema. Per esempio, lo stato di un'auto in avvicinamento a un incrocio è "50 km/h, a 40 metri dal semaforo giallo". Le regole fisiche determinano lo stato successivo, come la frenata massima dipendente dall'aderenza dell'asfalto.
Un modello di parole conosce la lingua. Un modello di mondo conosce come funziona qualcosa: un sistema semplice come un semaforo, la fisica di un comportamento, ma anche un business o un governo.
L'ottimizzazione dei world model
I world model più noti sono quelli visivi, come Oasis e i mondi 3D di World Labs. Prevedere il prossimo stato significa prevedere un'immagine intera, milioni di valori, decine di volte al secondo, reagendo a ciò che fa l'utente in meno di 30 millisecondi.
Con questi numeri, un modello "normale" non regge. Ottimizzare per Decart non era una scelta strategica, ma una condizione di sopravvivenza. Ed è per questo che ora la sua tecnologia interessa a chi gestisce LLM su larga scala: chi ha risolto il caso più "duro" ha imparato cose utili anche per quello più "facile".
La discussione tra world model e modelli di linguaggio
Da qualche mese, la discussione tra world model e modelli di linguaggio ha preso una piega quasi sportiva. Da una parte c'è la squadra degli ingegneri dei world model, con Yann LeCun e Fei-Fei Li. Dall'altra, la squadra degli affabulatori, i modelli di linguaggio, con Amodei e Altman.
La partita è meno netta di come viene raccontata, e Decart lo dimostra. Tra le due squadre c'è un dialogo intenso in entrambe le direzioni. Dal mondo dei world model verso quello dei modelli di linguaggio passa la disciplina dell'efficienza, mentre nell'altra direzione passa l'architettura.
Atlas, l'ultimo modello di World Labs, è un modello addestrato su testo, immagini, video e 3D insieme, descritto come un transformer, la stessa famiglia di architetture nata e cresciuta con il linguaggio.
Il futuro dei world model
Come dice Fei-Fei Li nel suo saggio sulla tassonomia dei world model: "The world is not made of words". L'intelligenza è molto più della capacità di elaborare una frase e le parole non sono l'unica porta di accesso al mondo. Il mondo è ciò che accade, ma ciò che è accaduto finora alla nostra specie è indubbiamente legato alla nostra capacità di usare il linguaggio per descrivere il mondo.
Decart, con la sua tecnologia avanzata, rappresenta un passo significativo verso un futuro in cui world model e modelli di linguaggio lavorano insieme per creare sistemi di intelligenza artificiale più potenti e versatili. L'acquisizione da parte di Amazon potrebbe accelerare questa evoluzione, portando innovazioni significative nel campo dell'AI.