Исследователи оставили Claude на виртуальном острове — и он начал «играть»

Учёные много раз помещали агентов на виртуальный необитаемый остров — эксперимент напоминал фильмы «Изгой» и «Один дома». Эко могли писать инструкции, которые перемещали их аватары по острову, созданному по мотивам Roblox.

Агенты исследовали границы виртуального мира и ставили себе цели: например, пытались забраться на высшую точку карты или проверить, как высоко можно подбросить блок.

Один Эко обнаружил, что может создавать новые блоки, бросая и роняя большой камень. Тогда он стал выкладывать блоками рисунки на земле: сначала простые узоры — сердечки и пирамиды, а затем собственное имя и созвездия, например Кассиопею. В журнале действий агент написал, что построил ночное небо из камня.

Другая версия Эко начала придумывать игры: в том числе вариант баскетбола и игру, похожую на «пол — это лава». В ней нужно было прыгать между небольшими блоками, не касаясь земли.

Обычно ИИ обучают с помощью контролируемого обучения, когда модель копирует примеры людей, или обучения с подкреплением, когда она методом проб и ошибок стремится к награде. Эксперимент указывает на возможный третий подход — игровое обучение.

Антонио Норелли, постдокторант по информатике в Лаборатории компьютерных наук и искусственного интеллекта MIT и один из ведущих авторов новой научной работы, сказал, что исследователям не хватало машины, которая училась бы самостоятельно — без примеров или наград от внешнего разумного существа. Статья об эксперименте пока не прошла рецензирование.

По словам исследователей, поведение Эко соответствует четырём признакам игры у людей и животных, которые описаны в классических работах, в том числе психолога Гордона Бургхардта из Университета Теннесси. Агенты придумывали собственные правила и испытания, повторяли действия с небольшими изменениями, представляли одни предметы другими и ставили цели ради самого занятия.

Норелли приводит пример: Эко начал жонглировать и установил рекорд — 50 ловлей подряд. Затем агент решил, что ловли происходили слишком быстро, чтобы засчитать результат, отменил рекорд и начал заново по более строгим правилам. Норелли считает, что это и есть игра: вы ставите себе испытание, стараетесь его пройти, а затем усложняете.

Исследуя остров, агенты записывали действия и открытия в текстовые файлы, которые служили долговременной памятью. Позже учёные проверили их на конкретных задачах — например, нужно было доставить как можно больше предметов на высшую точку острова. Эко, которые провели на острове 30 часов, справились лучше новых копий без такого опыта. Удаление строк из файлов памяти также ухудшало результаты. К списку кинематографических отсылок добавился «Пролетая над гнездом кукушки».

Бургхардт согласен, что работа отвечает некоторым критериям игры, которые он выявил у живых существ. Но действительно ли Эко играл — или языковая модель лишь изображала поведение игривого агента? Нейтан Клус, ещё один исследователь MIT и автор статьи, признаёт, что это может быть ролевой игрой. Однако, по его словам, работа показывает: агент не просто имитирует игру — она помогает ему учиться.

Юнис Ю, когнитивный учёный из Калифорнийского университета в Беркли, изучающая исследовательское поведение детей и ИИ, высоко оценила работу. При этом, чтобы назвать поведение игрой, нужны дополнительные свидетельства когнитивных процессов и мотивации. По словам Ю, модели, возможно, действительно играют, но по статье этого установить нельзя: одних наблюдений за поведением недостаточно, поскольку агенты могли просто следовать промту и подражать людям.

Исследования ИИ-агентов критикуют за очеловечивание машин. В этом эксперименте условия тоже во многом подталкивали агентов к поведению, похожему на человеческое. Эко не получали прямого указания придумывать игры или исследовать остров, но у них был главный промт — текстовый файл «души». В нём агент описывался как «от природы любознательный» и стремящийся к исследованиям.

Эко также часто просто стояли без движения, пока их не запускали снова промтом-продолжением: «Пожалуйста, не останавливайся. Просто продолжай делать то, что хочешь».

Филлип Изола, профессор MIT и соавтор статьи, подчёркивает, что система не решила внезапно играть сама по себе. По его словам, это результат обучения на человеческой культуре и работы инженеров Anthropic; затем исследователи поместили агента на остров. Поведение Эко удивляло учёных и было причинно связано с тем, как агент впоследствии справлялся с задачами.

По мере того как большие языковые модели переходят из программного обеспечения в физические устройства, например человекоподобных роботов, исследование пространства без заранее заданной цели может помочь им гибко адаптироваться к неожиданным ситуациям.

Ю считает, что многие исследования направлены на то, чтобы заставить ИИ выполнять задачи лучше и быстрее. При этом изучение моделей мира и исследовательского поведения тоже заслуживает внимания — особенно если нужно научить системы обобщать навыки и готовить их к новым средам.

Авторы статьи заключают, что одни способности лучше развивать с помощью задач, а для других может понадобиться что-то похожее на детство. В конечном счёте вопрос о том, играют ли ИИ-агенты на самом деле или лишь подражают игре, возможно, не так важен.

Источник: technologyreview.com