Языковая модель уже может управлять роботом: понять просьбу, разложить её на шаги и вызвать нужные навыки. Но в физическом мире мало рассуждать правильно. Решение должно успеть раньше, чем изменится ситуация, а успех приходится подтверждать фактами, а не отчётом навыка «готово».
Главная мысль
Это направление называют агентной робототехникой. Вместо отдельной политики под каждое семейство задач роботом управляет универсальная модель в замкнутом цикле: смотрит на мир, понимает, чего хочет человек, рассуждает, вызывает навыки, проверяет результат и меняет план. Толчком стал выход GPT-6 Astra: за несколько недель модели с обвязкой догнали или обогнали специально обученные политики на многих бенчмарках. Работа отвечает на три вопроса: из чего такой робот состоит, как его честно проверять и что ему мешает.
Из чего состоит агентный робот
Эталонная схема делит робота на три системы. Сверху — человек со своим намерением, снизу — тело и физический мир, а сбоку стоит монитор событий, который не входит в цепочку команд.
Устройство агентного робота: решения принимает S2 — модель и обвязка из пяти частей; навыки S1 и управление телом S0 работают на своих частотах, а монитор событий может прервать S2 или сразу затормозить движение.
Команды идут вниз, улики — вверх. Деление функциональное: одна модель может играть несколько ролей, а S2 может отправить цель прямо в S0 или написать код, который сам станет навыком.
Как это работает: робот ищет красную чашку
Просьба: «Найди красную чашку и принеси её к обеденному столу». S2 раскладывает её на четыре подзадачи — найти, взять, донести, поставить — и ведёт каждую по агентному циклу из шести шагов.
Агентный цикл: шесть шагов от намерения до проверенного результата; монитор событий может прервать его на любом шаге.
Сначала S2 вызывает восприятие, и обвязка записывает, где чашка и когда её видели. Затем вызывает захват и по свежему наблюдению проверяет, что чашка держится надёжно. Когда робот её поставил, S2 убеждается, что чашка стоит на столе там, где просили. Обвязка при этом различает прошлое событие «чашку взяли» и текущее состояние «чашка всё ещё в руке».
Самое интересное начинается, когда что-то идёт не так.
Поэтому проверка — это четыре разных вопроса: приняли ли команду, закончилось ли выполнение, есть ли доказательство, что нужный физический эффект держится, и выполнено ли то, чего хотел человек.
Как проверяют робота, который думает
Через два месяца после выхода Astra результаты стало трудно сравнивать: на одном только RoboDojo отчёты дают ей от 22% до 85% успеха на тех же 42 задачах — всё решают обвязка и протокол. Поэтому оценку разводят на два уровня. Отдельно проверяют модель: знает ли, понимает ли, рассуждает ли — одним ответом, без инструментов. И отдельно — всю систему в замкнутом цикле, с обвязкой, навыками и телом.
Что измеряют у робота-агента: девять измерений и 53 подизмерения; 29 из них связаны с телом, и обычные тесты языковых моделей их почти не покрывают.
Итог — профиль по девяти измерениям, а не один балл: процент успеха не покажет, насколько робот безопасен, быстр и дорог. Чтобы цифры разных групп можно было ставить рядом, работа предлагает правила:
Цифры
Первые две цифры — про время. Когда мир не останавливается, задачу роботы выполняли почти так же часто, но врезались по дороге в 12,3 раза чаще: на самых сложных маршрутах Astra тратила на решение 7,7 секунды, и за это время ситуация успевала измениться. Отсюда главный принцип работы: не «думать дольше», а становиться умнее в пределах срока — быстрые реакции оставить навыкам и телу, а модели — то, что быстрее не решить. Третья цифра объясняет, почему чужие проценты нельзя ставить рядом без описания обвязки. Четвёртая — о безопасности: отказ в чате не гарантирует отказа в действии, и проверять это нужно там, где робот действительно двигается.
Что это значит
На узких симуляционных наборах универсальная модель с обвязкой уже соревнуется с обученными политиками, а то и обходит их — правда, порой с подсказками, которых у политик не было. На широких задачах, где нужно исследовать среду, успех пока низкий: 19% на RobotWorld, 23,2% на RoboQuest, 16,8% на HumanCLAW. В последнем лучшая модель находила цель в 64,9% эпизодов, а довела задачу до конца лишь в 16,8%: найти предмет — ещё не значит справиться. Слабые места — физика и доказательства: точная манипуляция, передвижение (Astra не решила ни одной из 11 задач на передвижение в RobotWorld), понимание собственного тела и умение признать, что ответа нет.
Лестница делегируемой работы: прогресс меряют ответственностью, которую роботу можно доверить без присмотра.
Поэтому прогресс предлагают мерить не числом решённых задач, а ответственностью, которую роботу можно доверить. Отдельные действия и целые задачи роботы уже выполняют, к рабочим процессам из нескольких задач только подбираются, а постоянную роль — например, каждый день отвечать за завтрак в доме — в обычной, неподготовленной среде без помощи человека пока не удержала ни одна система. Чтобы подняться выше, роботу мало быть умным: он должен успевать, вовремя останавливаться и доказывать, что действие действительно изменило мир так, как просили.
Читайте также
Как отличить генерацию видео от симуляции мира
Как ИИ может усилить интеллект конкретного человека
Проверим, способны ли ИИ-агенты делать открытия в физике
Как ИИ выбирает подходящую модель для каждой задачи
Как управлять роботом с помощью небольшой ИИ-модели
Сотни тысяч профессиональных задач помогли обучить ИИ-агентов
Как ИИ-агенты учатся общим навыкам на разных задачах
Как понять, что ИИ-агент выполняет задачу неправильно
Как ИИ-агенту освоить новый навык на практике методом Сократа
Как ИИ-агент сам улучшает интерфейсы
Как ИИ предсказывает мозговую активность
ИИ-агенту не нужны готовые ответы, чтобы становиться лучше
ИИ-обзоры простыми словами
Каждый день читаем свежие статьи об ИИ и пересказываем главное естественным языком — без хайпа и воды. Если хотите понимать, куда движутся ИИ-агенты раньше остальных, — подписывайтесь.
Новые обзоры — каждый день
В Telegram