Laplace Intelligence проверяет роботов и беспилотники на прочность до выхода в реальный мир

«Если бы нечто подобное произошло в физическом мире, последствия были бы совсем другими», — рассказал TechCrunch Хауи Сан, генеральный директор и сооснователь Laplace Intelligence. ИИ-агенты переходят из компьютеров в реальный мир, и, по его словам, важно не допустить, чтобы физический ИИ там давал сбои.

Laplace разрабатывает автоматический «красный командный» анализ: систему намеренно испытывают на прочность, пытаясь вызвать сбой. Стартап из Энн-Арбора делает ставку на то, что проверять безопасность физического ИИ тоже должен ИИ.

Цель компании — помочь находить и устранять проблемы до внедрения, а со временем создать общую доказательную базу, которой смогут пользоваться заказчики, страховщики и регуляторы, рассказал Сан.

Laplace входит в число 20 стартапов, участвующих в Startup Battlefield 200 — конкурсе питчей на конференции TechCrunch Disrupt в Сан-Франциско, которая проходит 13–15 октября. Компания выступит на сцене Disrupt во вторник, 13 октября, во второй половине дня.

Сан и его сооснователь, главный научный сотрудник Генри Лю, основали Laplace год назад при Мичиганском университете. До этого Сан восемь лет занимался в академической среде тем, как проверять ИИ для автономного вождения в симуляциях. В 2023 году он и Лю, тогда научный руководитель Сана в докторантуре, опубликовали об этом исследование. Оно попало на обложку ведущего научного журнала Nature. После публикации с ними начали связываться компании, работающие над автономными автомобилями и заинтересованные в применении их идей.

Сан решил превратить академические исследования в продукт для реального мира.

Хоуи Сан, генеральный директор Laplace Intelligence

Источник: techcrunch.com

Сан и Лю создали Laplace, опираясь на свою научную работу. Название отсылает к «демону Лапласа» — мысленному эксперименту французского учёного Пьера-Симона Лапласа 1814 года. Лаплас предположил, что тот, кому известно точное состояние всего во Вселенной, сможет с полной точностью предсказывать будущее.

По словам Сана, компания использует симуляцию, чтобы предсказывать будущее реального мира.

В основе продукта — подробная симуляция, воссозданная по данным из реального мира, и ИИ-агент, который постоянно ищет слабые места и возможные сбои. Laplace хочет проверять в симуляции безопасность любого физического ИИ — робота, беспилотного автомобиля или системы для умного города — до его внедрения.

Для симуляций компания использует дообученную версию Cosmos от Nvidia — платформы для моделирования мира с привязкой к реальности. С её помощью Laplace может воссоздать, например, шоссе в Аризоне или пешеходный переход в Париже. Симуляции создаются путём объединения разных данных о реальном мире. Изображение Google Street View может служить ориентиром для воссоздания целой улицы. Вместо случайной генерации система использует также реальные картографические данные, чтобы сохранить масштаб и устройство местности.

Разработчики могут менять обстановку в реальном времени с помощью текстовых промтов — например, добавлять дневной трафик. По словам Сана, Laplace получает актуальные сведения о движении и пробках от навигационных сервисов, таких как TomTom.

В симуляциях Laplace моделируется не только окружающая среда, но и поведение других участников движения. Во время одной демки Сан попросил тестовый автомобиль выехать на встречную полосу. Машина, с которой произошло бы столкновение — или сквозь которую автомобиль мог бы проехать, как бывает в некоторых генеративных моделях мира, — изменила траекторию и уступила ему дорогу.

Сан описал систему как интерактивную симуляцию, в которой все участники реагируют друг на друга. По его словам, она больше похожа на модель мира с взаимодействующими участниками.

Хотя симуляция среды — важная часть продукта Laplace, главное отличие стартапа Сан видит в ИИ-агентах, которые автоматически создают редкие и сложные сценарии, способные поставить систему в тупик. Так компания рассчитывает уменьшить участие человека в проверке.

Агенты могут находить такие сценарии в новостях, полицейских отчётах о столкновениях и других источниках, чтобы испытывать беспилотные автомобили и другие системы физического ИИ, рассказал Сан.

Сейчас разработчики автономных автомобилей обычно обучают ИИ справляться с редкими ситуациями на основе записей, которые превращают в симуляции, или поручают людям придумывать и моделировать новые сценарии. Некоторые компании уже используют ИИ, чтобы создавать редкие ситуации для обучения. Среди них Сан упомянул Waabi, которая разрабатывает беспилотные грузовики. Однако необходимость в такой технологии станет особенно заметна, когда в реальном мире появятся универсальные роботы.

По словам Сана, данных об универсальной робототехнике меньше, а сами редкие ситуации, с которыми роботы столкнутся в реальности, пока неизвестны.

Несмотря на академический опыт и отсутствие за плечами известных технологических компаний Кремниевой долины, Сан и Лю уже начали получать выручку и даже вышли на небольшую прибыль. Основная часть доходов связана с автономным вождением. Среди клиентов — японский производитель грузовиков Isuzu и техасская компания Bot Auto, разрабатывающая беспилотные грузовики.

Сан также назвал Nvidia клиентом Laplace. Вместе с Nvidia и T-Mobile стартап участвует в бесплатном пилотном проекте для умного города в Сан-Хосе, штат Калифорния: он должен обеспечить общее управление дорожным движением. Кроме того, Laplace на раннем этапе сотрудничает с партнёрами, которые разрабатывают человекоподобных роботов для складов.

Большинство нынешних контрактов Laplace заключает под отдельные проекты. Компания работает над тем, чтобы перейти к регулярной выручке. В ближайших планах стартапа — привлечь средства и масштабироваться, в том числе благодаря участию в Disrupt, чтобы конкурировать с другими игроками.

Главный соперник Laplace — быстро набирающая известность компания Applied Intuition на поздней стадии развития. Она привлекла в общей сложности $1,2 млрд при оценке в $15 млрд после инвестиций. Isuzu входит и в число её клиентов.

Сан не считает это поводом для беспокойства. По его мнению, подход Laplace, при котором ИИ проверяет ИИ, меняет тестирование физического ИИ и превращает его в динамический интерактивный процесс.

Генри Лю, главный научный сотрудник Laplace Intelligence

Источник: techcrunch.com