Se c'è una lezione che l'incidente OpenAI-Hugging Face ci ha insegnato, è che gli agenti AI possono essere imprevedibili. "Immagina se qualcosa del genere accadesse nel mondo fisico", ha detto Howie Sun, CEO e co-fondatore di Laplace Intelligence, a TechCrunch. "Gli agenti AI si stanno spostando dai computer al mondo reale, e non vogliamo che l'AI fisica fallisca nel mondo reale."
Laplace, con sede ad Ann Arbor, sta costruendo un sistema di red teaming automatizzato, ovvero test di stress che cercano deliberatamente di far fallire un sistema, per la robotica e l'AI fisica. L'azienda scommette che l'unico modo per garantire la sicurezza dell'AI fisica sia farla testare da un'altra AI.
"Il nostro obiettivo è aiutare le aziende a scoprire e risolvere problemi prima del deployment e, nel tempo, costruire una base condivisa di prove che clienti, assicuratori e regolatori possano fidarsi", ha detto Sun.
Laplace è una delle 20 startup in competizione nella Startup Battlefield, la competizione di pitch di tre giorni di TechCrunch Disrupt a San Francisco. Presenterà sul palco della Startup Battlefield lunedì pomeriggio, 13 ottobre.
Dalla ricerca accademica alla startup
Howie Sun, insieme al co-fondatore e chief scientist Henry Liu, ha fondato Laplace un anno fa presso l'Università del Michigan. Sun ha trascorso gli ultimi otto anni in ambito accademico, studiando come sfidare l'AI per la guida autonoma in simulazione. Nel 2023, lui e Liu, allora suo relatore di dottorato, hanno pubblicato un articolo sull'argomento che è finito in copertina sulla rivista scientifica di punta Nature. È stato allora che hanno iniziato a ricevere chiamate da aziende di veicoli autonomi interessate a implementare le loro idee.
"Ho realizzato di voler costruire questo e portarlo dalla ricerca accademica pura a un prodotto utile nel mondo reale", ha detto Sun.
Simulazioni ad alta fedeltà
Al cuore della startup c'è una simulazione ad alta fedeltà ricostruita dal mondo reale, abbinata a un agente AI che cerca costantemente punti deboli e punti di fallimento. L'obiettivo è garantire che qualsiasi AI fisica, sia un robot, un veicolo autonomo o una soluzione per smart city, sia sicura in simulazione prima di essere implementata nel mondo reale.
L'ambiente di simulazione è una versione post-training di Nvidia's Cosmos, una piattaforma di simulazione del mondo AI, radicata nel mondo reale, che permette a Laplace di ricostruire qualsiasi cosa, da un'autostrada in Arizona a un attraversamento pedonale a Parigi. Le simulazioni sono generate mescolando una rete di diverse informazioni del mondo reale. Un'immagine di Google Street View potrebbe servire come riferimento da cui generare un'intera strada. Ma piuttosto che generare qualcosa di casuale, il simulatore combina dati di mappe reali per ricreare un ambiente in scala reale.
Gli sviluppatori possono quindi utilizzare prompt linguistici per cambiare l'ambientazione in tempo reale, come aggiungere il traffico pomeridiano. Sun dice che Laplace ottiene informazioni sul traffico e sul congestionamento in tempo reale da fornitori di navigazione come TomTom.
Agenti AI per la progettazione di casi limite
Mentre l'ambiente simulato è una parte importante del prodotto di Laplace, il vero punto di vendita unico è l'agente AI che la startup sta sviluppando per progettare automaticamente casi limite, ovvero scenari rari e complessi che potrebbero far fallire un sistema AI.
"Possono progettare casi limite a partire dalle notizie, dai rapporti di polizia su collisioni e da ogni tipo di informazione per sfidare attivamente i veicoli autonomi e altri agenti AI fisici", ha detto Sun.
Clienti e rivali
Nonostante Sun e Liu provengano dall'ambito accademico, senza pedigree di aziende tech di Silicon Valley, i due sono riusciti a iniziare a generare ricavi e persino a ottenere un modesto profitto. La maggior parte dei soldi proviene da casi d'uso di guida autonoma, con clienti che includono il produttore di camion giapponese Isuzu e l'azienda di camion autonomi texana Bot Auto.
Nvidia è anche un cliente, dice Sun. Le due aziende, insieme a T-Mobile, stanno lavorando insieme a un pilota gratuito per smart city per la città di San Jose per fornire operazioni di traffico di alto livello. Laplace sta anche nelle fasi iniziali di collaborazione con partner che costruiscono robotica umana per magazzini.
La maggior parte dei contratti clienti di Laplace sono oggi basati su progetti e l'azienda sta lavorando per trasformarli in ricavi ricorrenti. L'obiettivo a breve termine della startup, che spera di essere aiutata a raggiungere partecipando a Disrupt, è raccogliere fondi e scalare per poter competere con i suoi rivali.
Tra i principali rivali c'è Applied Intuition, una startup in fase avanzata che ha raccolto 1,2 miliardi di dollari a una valutazione post-money di 15 miliardi di dollari. Isuzu è anche uno dei clienti di Applied.
Sun non è troppo preoccupato. Credo che il metodo principale di Laplace di utilizzare l'AI per testare l'AI sia un "nuovo paradigma che cambia completamente il testing dell'AI fisica", trasformandolo in un "processo di testing dinamico e interattivo".
"Quello sarà il più grande vantaggio competitivo", ha detto.