Разработчики мозгов для роботов выходят из эпохи GPT-2

Разработчики роботов пытаются выйти из эпохи GPT-2

Физический ИИ стал одним из самых привлекательных направлений для венчурных инвестиций: компании привлекают миллиарды, перенося подходы больших языковых моделей в робототехнику. На этом фоне китайский производитель роботов Unitree после выхода на местную биржу, аналогичную Nasdaq, достиг оценки в $66 млрд, но на этой неделе потерял почти половину стоимости. Аналитики связывают падение с очевидной проблемой: физические способности роботов улучшаются, однако им по-прежнему не хватает знаний, чтобы выполнять работу, создающую коммерческую ценность. На конференции Actuate, посвящённой разработчикам «мозгов» для роботов, эту проблему обсуждали 1 500 участников.

Эпоха GPT-2

Конференция Actuate, которую проводит Foxglove — компания, помогающая разработчикам моделей физического ИИ управлять данными и визуализировать их, — с 2023 года выросла втрое. Но вместе с интересом к отрасли на мероприятии была заметна и её главная проблема: на стенде компании Avala, ещё одного поставщика инфраструктуры для физического ИИ, обещали решить «кризис робототехнических данных».

Речь идёт о нехватке качественных данных для обучения моделей. До создания универсальных роботов, способных выполнять любые задачи, ещё далеко, а обучение от начала до конца для отдельных задач пока не привело к появлению продуктов со стабильными коммерческими результатами.

Разработчики пытаются повторить подходы создателей передовых ИИ-моделей: находить и собирать более разнообразные наборы данных, экспериментировать с режимами обучения и искать более эффективные сценарии обучения с подкреплением.

Харри Меллсоп, основатель Antioch — молодой компании, создающей инструменты симуляции для разработчиков моделей, — считает, что физический ИИ сейчас находится в «эпохе GPT-2». Так называют период до появления ChatGPT. Чтобы преодолеть этот этап, понадобятся дополнительные данные и вычислительные ресурсы, особенно графические процессоры, оптимизированные для трассировки лучей: они нужны для создания реалистичных симуляций.

Чему робототехника учится у беспилотных автомобилей

Дальше всего продвинулись автономные автомобили. Отчасти это связано с тем, что они могут собирать подходящие данные во время поездок людей, а отчасти — с характером основной задачи: автомобилю нужно избегать столкновений, а не манипулировать физическими объектами.

Значительная часть инструментов для разработки моделей пришла именно из сферы автономного транспорта. Например, Foxglove основали бывшие сотрудники Cruise — прежнего проекта General Motors по созданию беспилотных автомобилей.

Теперь компании из автомобильной отрасли всё чаще рассчитывают, что накопленные инструменты машинного обучения помогут им конкурировать со специализированными производителями гуманоидов. Tesla уже развивает робота Optimus. Компании Wayve, сосредоточенная на автономном транспорте, и Uber, крупнейший сервис заказа поездок, также открыли робототехнические лаборатории, где гуманоидные роботы рассматриваются как направление исследований и разработок.

Глава Wayve Алекс Кендалл считает, что начинать нужно с автомобилей: робототехника, связанная с манипуляциями, по его мнению, сейчас напоминает беспилотные машины пятилетней давности. Инфраструктура данных, симуляции и эксплуатации моделей, вероятно, будет общей, однако конкретная модель мира для симулятора потребует отдельного дообучения. Общих компонентов будет много, но для разных типов роботов понадобятся и различия.

Кендалл также считает, что пока рано выбирать одну аппаратную платформу. Датчики и другие компоненты быстро улучшаются, а действительно универсальная модель должна меньше зависеть от конкретного оборудования.

С этим не согласен Теофиль Жерве, генеральный директор Genesis ИИ — вертикально интегрированной компании по созданию гуманоидных роботов, которая в этом году привлекла $105 млн на посевном раунде. По его мнению, отрасль находится на слишком раннем этапе, чтобы стратегия разработки единого «мозга» работала. Поэтому Genesis ИИ делает ставку на совместное проектирование оборудования и ИИ.

Узкая специализация против универсальности

Жерве затронул и другой вопрос: на каких задачах следует сосредоточить бизнес в области физического ИИ.

Компании, которые выбирают конкретные задачи, уже выводят роботов в реальный мир. Gritt строит солнечные электростанции, Agility разворачивает роботов на промышленных объектах, а Bedrock использует автономные экскаваторы. Универсальные гуманоиды при этом пока остаются в лабораториях.

Жерве считает, что заказчикам не нужен универсальный робот с успехом выполнения задач на уровне 80%. Многие компании пытаются создать универсальную систему, но без специализации она не приносит ценности. В то же время узкоспециализированный продукт на базе GPT-2 рискует проиграть компании, которая построит аналогичное решение на GPT-4.

Инвестиции в конкретную отрасль привлекательны ещё и потому, что дают не только выручку, но и данные из реальной эксплуатации. Данные для отдельных задач могут быть недостаточно разнообразными, чтобы развивать универсальные модели, зато они необходимы для создания робота, который приносит пользу.

Технический директор Bedrock Кевин Петерсон рассказал, что компания начала с экскавации, чтобы изучить проблемы манипуляций в реальном мире. В дальнейшем Bedrock планирует создать слой интеллекта, который будет работать с целым рядом строительных машин.

Данные и симуляции

Управлять такими данными сложно, особенно из-за большого объёма визуальной информации и данных лидаров. На этой неделе Foxglove представила новый продукт на базе открытой модели мира Cosmos от Nvidia.

Инструмент позволяет инженерам искать данные с помощью сложных запросов на естественном языке, а затем создавать оценки и симуляции. Цель — ускорить первичный анализ проблем и отладку, чтобы разработчики моделей быстрее повторяли цикл изменений.

Каким станет момент ChatGPT

Сэм Альтман недавно заявил, что знаковый момент для физического ИИ может наступить через несколько лет. Но Алекс Кендалл обращает внимание: крупнейшее в мире развёртывание роботов пока связано с бытовыми роботами-пылесосами. По его мнению, такой момент должен заинтересовать потребителей, а не только инвесторов, которым отрасль уже кажется достаточно привлекательной.

Одним из примеров Кендалл называет автономное вождение без необходимости следить за дорогой при стоимости оборудования в автомобиле менее $1 000. Wayve лицензирует свои модели автопроизводителям, пытаясь создать именно такую систему. Кендалл считает, что этот бизнес с потенциальным объёмом в несколько миллиардов долларов позволит компании разработать действительно универсальную модель воплощённого ИИ.

Для Жерве физический ИИ станет реальностью, когда манипуляции начнут работать сразу после установки. Пользователь сможет обратиться к роботу на естественном языке и поручить ему простую задачу — например, толкнуть или потянуть предмет, закрыть ноутбук или убрать со стола. При надёжности от 80% и выше это будет примерно соответствовать опыту работы с ChatGPT.

Генеральный директор Foxglove Эдриан Макнейл смотрит на вопрос иначе. Он считает, что у робототехники не будет единого момента ChatGPT. Прорыв ChatGPT стал событием благодаря распространению: сервис за короткое время вырос от нуля примерно до миллиона активных пользователей. В физическом мире добиться такого масштаба гораздо сложнее.

Макнейл ждёт скорее момента Apple II или IBM PC для робототехники — времени, когда домашнего робота можно будет купить и поручить ему полезные и интересные задачи.