AI verhuist steeds vaker van het scherm naar de echte wereld, in de vorm van robots en zelfrijdende voertuigen. Een fout kost daar meer dan een vreemd antwoord in een chat. De start-up Laplace Intelligence uit Ann Arbor wil die fouten vooraf opsporen door AI de systemen te laten testen. Het bedrijf presenteerde zich deze week op de start-upwedstrijd van TechCrunch Disrupt in San Francisco.
Expres proberen het systeem te laten falen
Laplace doet aan wat in de beveiliging red-teaming heet: een systeem doelbewust onder druk zetten tot het misgaat. Dat gebeurt in een gedetailleerde simulatie die is gebaseerd op echte kaartgegevens en beelden. Een snelweg in Arizona of een zebrapad in Parijs kan zo op ware grootte worden nagebouwd. De simulatieomgeving is een aangepaste versie van Nvidia's Cosmos, een platform voor het simuleren van werelden.
Ook de andere weggebruikers in de simulatie reageren op wat er gebeurt. Toen het testvoertuig in een demonstratie de andere rijbaan op stuurde, week een tegenligger uit. Het eigenlijke verkoopargument zijn de AI-agents die zelf lastige, zeldzame situaties bedenken. Volgens medeoprichter en topman Howie Sun kunnen ze daarvoor zelfs putten uit nieuwsberichten en politierapporten over ongelukken.
Van universiteit naar bedrijf
Sun en medeoprichter Henry Liu richtten Laplace een jaar geleden op vanuit de Universiteit van Michigan. Hun onderzoek naar het testen van zelfrijdende auto's in simulaties haalde in 2023 de cover van het wetenschappelijke tijdschrift Nature. Volgens Sun draait het bedrijf al omzet en maakt het een bescheiden winst. De meeste klanten komen uit de wereld van zelfrijdend vervoer, zoals vrachtwagenbedrijf Bot Auto en een niet bij naam genoemde Japanse autofabrikant. Samen met Nvidia en T-Mobile werkt Laplace aan een gratis proef voor slim verkeersbeheer in de Amerikaanse stad San Jose. Grootste concurrent is Applied Intuition, dat veel meer geld heeft opgehaald.
Waarom dit ertoe doet
Voor zelfrijdende auto's bestaan inmiddels veel opnames van het verkeer, maar voor algemene robots, zoals humanoïde robots voor magazijnen, is nog weinig data. Niemand weet precies welke uitzonderlijke situaties die robots gaan tegenkomen. Bedrijven als Laplace willen het gat vullen door AI die situaties te laten verzinnen. Het bedrijf wil op termijn ook bewijs verzamelen waar verzekeraars en toezichthouders op kunnen vertrouwen. Of dat lukt, hangt af van hoe goed de simulaties de werkelijkheid echt benaderen.
Correctie: in een eerdere versie van dit bericht stond dat Nvidia klant is van Laplace. TechCrunch heeft het bronartikel aangepast: Laplace werkt met Nvidia en T-Mobile samen aan een gratis pilot in San Jose. Dat hebben we hierboven verwerkt.
