Laplace Intelligence проверяет роботов и беспилотные автомобили на прочность до выхода в реальный мир

Источник: techcrunch.com

Поводом для разработки стали риски, связанные с выходом ИИ-агентов из компьютеров в физический мир. Генеральный директор и сооснователь Laplace Хауи Сан напомнил об инциденте с OpenAI и Hugging Face и отметил: если непредсказуемое поведение ИИ-агента может навредить в цифровой среде, в реальном мире последствия могут быть серьёзнее. По его словам, компания хочет помочь разработчикам находить и устранять проблемы до запуска, а со временем создать общую доказательную базу, которой смогут доверять заказчики, страховщики и регуляторы.

Laplace — один из 20 стартапов, участвующих в Startup Battlefield 200, конкурсе презентаций на TechCrunch Disrupt. Мероприятие проходит в Сан-Франциско с 13 по 15 октября, а Laplace представит проект на сцене Disrupt во второй половине дня 13 октября.

Сан и главный научный сотрудник компании, сооснователь Генри Лю создали Laplace год назад на базе Мичиганского университета. До этого Сан восемь лет занимался в академической среде проверкой ИИ для автономного вождения в симуляциях. В 2023 году он и Лю, тогда научный руководитель Сана в докторантуре, опубликовали работу на эту тему. Она попала на обложку журнала Nature, после чего с исследователями начали связываться компании, занимающиеся беспилотными автомобилями.

Сан решил превратить академические исследования в продукт, пригодный для использования в реальном мире. Название Laplace отсылает к «демону Лапласа» — мысленному эксперименту французского учёного Пьера-Симона Лапласа, предложенному в 1814 году. Лаплас представлял, что, зная точное состояние всего во Вселенной, можно с абсолютной точностью предсказать будущее. Компания использует симуляцию, чтобы прогнозировать события в реальном мире.

Как устроены симуляции

В основе продукта — подробная симуляция, воссозданная по данным реального мира, и ИИ-агент, который постоянно ищет уязвимости и возможные причины отказа. Laplace хочет проверять в симуляции безопасность любых систем физического ИИ — от роботов и беспилотных автомобилей до решений для умных городов — до их запуска.

Среда симуляции создана на базе дообученной версии Nvidia Cosmos — платформы для моделирования мира с помощью ИИ, которая опирается на реальные данные. С её помощью Laplace может воссоздать, например, шоссе в Аризоне или пешеходный переход в Париже. Для этого компания объединяет разные источники информации о реальном мире. Например, снимок Google Street View может послужить основой для генерации целой улицы. Симулятор также использует реальные картографические данные, чтобы создать масштабную среду, а не случайную сцену.

Разработчики могут менять обстановку в реальном времени с помощью промтов — например, добавлять дневное движение. По словам Сана, Laplace получает актуальные данные о пробках и загруженности дорог от поставщиков навигационных данных, в том числе TomTom.

В симуляции проверяется не только среда, но и поведение других участников движения. Во время демо Сан направил тестовый автомобиль на встречную полосу. Машина, с которой он должен был столкнуться, свернула, чтобы избежать аварии. В некоторых генеративных моделях мира автомобили вместо этого могут проезжать друг сквозь друга. Сан описывает продукт как интерактивную симуляцию, где участники реагируют друг на друга, и сравнивает её с моделью мира с активными участниками.

Впрочем, по словам Сана, главное отличие Laplace — разрабатываемые компанией ИИ-агенты. Они автоматически создают редкие и сложные ситуации, которые могут сбить систему с толку, и уменьшают роль человека в этом процессе. Для подготовки таких сценариев агенты могут использовать новости, полицейские отчёты о столкновениях и другие источники, чтобы проверять беспилотники и системы физического ИИ.

Сейчас разработчики автономных автомобилей обычно обучают ИИ на записанных видео, превращая их в симуляции, или поручают людям придумывать новые ситуации. Некоторые компании уже применяют ИИ для создания редких сценариев обучения; среди них Сан упоминает Waabi, которая разрабатывает беспилотные грузовики. Но потребность в такой технологии, по его мнению, станет особенно заметной, когда в реальном мире начнут использовать универсальных роботов. Для них пока меньше данных, а какие редкие ситуации возникнут в реальной среде, никто не знает.

Клиенты и конкуренты

Несмотря на академический опыт и отсутствие за плечами известных технологических компаний Кремниевой долины, Сан и Лю уже получают выручку и даже вышли на небольшую прибыль. Основную часть дохода приносят проекты, связанные с автономным вождением. Среди клиентов — техасская компания по разработке беспилотных грузовиков Bot Auto и крупный японский автопроизводитель.

Laplace также сотрудничает с Nvidia и T-Mobile в бесплатном пилотном проекте для Сан-Хосе в Калифорнии: компания помогает городу управлять движением на высоком уровне. Кроме того, стартап начал работать с партнёрами, которые разрабатывают человекоподобных роботов для складов.

Пока большинство контрактов Laplace рассчитаны на отдельные проекты. Компания пытается перейти к регулярной выручке. В ближайшее время стартап планирует привлечь финансирование и вырасти, чтобы конкурировать с другими игроками. Этому, как надеется компания, поможет участие в Disrupt.

Один из главных конкурентов Laplace — Applied Intuition. Этот стартап на поздней стадии развития привлёк в общей сложности 1,2 млрд долларов при оценке в 15 млрд долларов после привлечения инвестиций.

Сан не считает это серьёзным поводом для беспокойства. Он полагает, что подход Laplace — проверять ИИ с помощью ИИ — меняет тестирование физического ИИ, превращая его в динамический интерактивный процесс. Именно этот подход, по его мнению, станет главным преимуществом компании.