Создатели мозгов для роботов выходят за пределы эры GPT-2

Разработчики роботов пытаются выйти из эпохи GPT-2

Физический ИИ переживает инвестиционный бум: компании привлекают миллиарды долларов, перенося подходы из разработки больших языковых моделей в робототехнику. Но рост физических возможностей роботов пока не означает, что они умеют выполнять полезную работу: после громкого первичного размещения акций китайская Unitree потеряла почти половину капитализации, которая ранее достигала $66 млрд. На конференции Actuate разработчики ИИ для роботов назвали главной проблемой нехватку качественных данных и сравнили нынешний этап отрасли с «эрой GPT-2».

Роботам не хватает опыта

Физический ИИ стал одним из самых популярных направлений венчурных инвестиций. Компании привлекают миллиарды долларов, чтобы применять методы, благодаря которым развивались большие языковые модели, в робототехнике.

Этот интерес помог китайскому производителю роботов Unitree провести крупное первичное размещение акций. После выхода на китайскую площадку, аналогичную Nasdaq, компанию оценили в $66 млрд. Однако на этой неделе капитализация Unitree резко сократилась — почти наполовину. Аналитики связывают падение с очевидной проблемой: роботы становятся лучше в физических действиях, но пока не умеют выполнять работу, которая создаёт ценность.

На прошлой неделе эту тему обсуждали на конференции Actuate — мероприятии для разработчиков «мозгов» роботов. По данным организатора, компании Foxglove, которая помогает создателям моделей физического ИИ управлять и визуализировать данные, с момента запуска в 2023 году конференция выросла втрое и собрала 1 500 участников.

О масштабах проблемы напоминала и надпись на стенде Avala — ещё одной компании, создающей инфраструктуру для физического ИИ. Она обещала решить «кризис данных в робототехнике».

Речь идёт о нехватке качественных данных для обучения ИИ-моделей. До универсальных роботов, способных выполнять любые задачи, ещё далеко. Обучение «от начала до конца» под конкретные действия также пока не привело к появлению продуктов со стабильными коммерческими результатами.

Поэтому разработчики стараются повторить путь передовых ИИ-лабораторий: находят или создают более разнообразные наборы данных, экспериментируют с режимами обучения и ищут более подходящие сценарии обучения с подкреплением.

Гарри Меллсоп, основатель Antioch — компании, создающей инструменты симуляции для разработчиков моделей, — считает, что физический ИИ сейчас находится в «эпохе GPT-2». Речь об модели OpenAI, появившейся до ChatGPT. Чтобы пройти этот этап, отрасли понадобится больше данных и вычислительных ресурсов, особенно графических процессоров, оптимизированных для трассировки лучей: они нужны для создания детализированных симуляций.

Почему впереди беспилотные автомобили

Дальше всего продвинулись автономные автомобили. Отчасти это связано с тем, что компании могут собирать подходящие данные с машин, которыми управляют люди. Кроме того, основная задача беспилотника — избежать столкновения, а не манипулировать объектами в физическом мире.

Многие инструменты для создания моделей пришли именно из индустрии автономного транспорта. Например, Foxglove основали бывшие сотрудники Cruise — прежнего проекта General Motors по разработке беспилотных автомобилей.

Теперь автомобильные компании всё чаще рассчитывают, что накопленные ими технологии машинного обучения помогут конкурировать с производителями гуманоидных роботов. Tesla уже проверяет этот подход на роботе Optimus. Компании Wayve, специализирующаяся на автономном транспорте, и Uber также запустили робототехнические лаборатории, сосредоточенные на гуманоидной форме, как исследовательские проекты.

Генеральный директор Wayve Алекс Кендалл считает, что начинать развитие нужно с автомобилей: робототехника, связанная с манипуляциями, сейчас примерно напоминает беспилотное вождение пятилетней давности.

По его словам, инфраструктура данных, симуляций и эксплуатации моделей, вероятно, будет общей для разных направлений. При этом модели мира для симуляторов потребуют отдельного дообучения. Общих элементов окажется больше, чем различий, но особенности конкретного типа робота всё равно придётся учитывать.

Кендалл считает, что пока рано выбирать одну аппаратную платформу. Датчики и другие компоненты быстро улучшаются, поэтому действительно универсальная модель должна меньше зависеть от конкретного оборудования.

С этим не согласен Теофиль Жерве, генеральный директор Genesis ИИ — вертикально интегрированной компании по разработке гуманоидных роботов, которая в этом году привлекла посевное финансирование на $105 млн. Он полагает, что отрасль находится на слишком раннем этапе для стратегии, отделяющей «мозг» от оборудования. По мнению Жерве, сейчас есть много возможностей совместно проектировать аппаратную часть и ИИ.

Узкие задачи против универсальности

Жерве также затронул вопрос, на котором сейчас сосредоточены многие компании физического ИИ: насколько узкой должна быть специализация бизнеса.

Компании, которые создают роботов под конкретные задачи, уже выводят их в реальные условия. Gritt строит солнечные электростанции, Agility разворачивает роботов на промышленных объектах, а Bedrock использует автономные экскаваторы. Универсальные гуманоидные роботы пока остаются в лабораториях.

Проблема, по словам Жерве, в том, что заказчику не нужен универсальный робот с надёжностью 80%. Некоторые компании выбирают общий подход, но без отраслевой специализации он не приносит ценности. В то же время узкоспециализированный продукт на уровне GPT-2 рискует проиграть компании, которая создаст решение на уровне GPT-4.

Инвестиции в конкретную отрасль привлекательны ещё и потому, что дают не только выручку, но и данные из реального мира. Данных для отдельных задач может быть недостаточно, чтобы развивать универсальные модели, однако они необходимы для создания робота, который действительно приносит пользу.

Технический директор Bedrock Кевин Петерсон рассказал, что компания начала с экскавации, чтобы понять проблемы манипуляций в реальных условиях. В дальнейшем Bedrock планирует создать интеллектуальный слой, который будет работать сразу с несколькими строительными машинами.

Как обрабатывают данные

Управлять всем объёмом данных сложно, особенно из-за высокой плотности визуальной информации и данных лидара. На этой неделе Foxglove представила новый продукт на базе открытой модели мира Cosmos от Nvidia.

Инструмент позволяет инженерам искать нужные данные с помощью сложных запросов на естественном языке, а затем создавать оценки и симуляции. Цель — ускорить сортировку проблем и отладку, чтобы разработчики моделей могли быстрее повторять цикл улучшений.

Каким станет момент ChatGPT

Сэм Альтман недавно сказал, что знаковый момент ChatGPT для физического ИИ может наступить через несколько лет. Алекс Кендалл напоминает, что крупнейшим в мире развёртыванием роботов пока остаются бытовые роботы-пылесосы.

Для него такой момент должен заинтересовать потребителей, а не инвесторов: инвесторы уже проявляют к отрасли большой интерес. Одним из примеров Кендалл называет автономное вождение без необходимости следить за дорогой, доступное при стоимости аппаратной части автомобиля менее $1 000. Wayve, что неудивительно, лицензирует свои модели автопроизводителям, стремясь создать именно такую систему.

Кендалл считает, что это направление с потенциальным объёмом в несколько миллиардов долларов поможет компании создать действительно универсальную модель воплощённого ИИ.

Для Жерве физический ИИ станет реальностью, когда манипуляции начнут работать «из коробки». Пользователь сможет на естественном языке попросить робота выполнить базовое действие — например, толкнуть или потянуть предмет, закрыть ноутбук или убрать со стола, — и робот будет справляться с надёжностью примерно 80% и выше без дополнительной настройки. Такой опыт, по его мнению, будет близок к опыту использования ChatGPT.

Генеральный директор Foxglove Эдриан Макнил смотрит на вопрос иначе. Он считает, что у робототехники не будет единственного момента ChatGPT. ChatGPT стал знаковым явлением благодаря распространению: сервис вырос с нуля примерно до миллиона активных пользователей за неделю. В физическом мире добиться такого масштаба намного сложнее.

Макнил был бы рад увидеть в робототехнике скорее момент Apple II или IBM PC — ситуацию, в которой человек сможет купить домашнего робота, способного выполнять полезные и интересные задачи.