Следующий этап развития ИИ — учиться на ваших сомнительных игровых навыках

Зачем моделям мира игровые данные

Даже неопытный игрок может перемещаться по трёхмерной игре, поворачивая джойстик, нажимая на курок и используя несколько кнопок. Британский стартап рассчитывает, что в таких последовательностях действий скрыт большой объём информации для обучения новых моделей ИИ.

В индустрии растёт убеждение, что большие языковые модели в итоге упрются в ограничения: они обучаются на словах и могут оказаться плохо приспособлены к взаимодействию с физическим миром. Им может не хватить навыков, чтобы управлять беспилотным автомобилем, роботизированной рукой или выполнять другие действия, требующие точности и аккуратности. Поэтому известные исследователи, среди которых Фэй-Фэй Ли и Янн Лекун, сосредоточились на другом классе систем — моделях мира.

Чтобы освоить физику реального мира, такие модели нужно обучать на сочетании визуальных данных и информации о действиях. Например, прежде чем уверенно управлять роботизированной рукой, модель может изучать видео с заводского цеха и данные о том, насколько сильно нужно сжать предмет, с каким усилием его перемещать и так далее. Но если для языковых моделей есть огромные массивы текстов, то сопоставимого корпуса данных для моделей мира пока нет.

По словам Сятяня Чжу, доцента Университета Суррея, специализирующегося на ИИ, для моделей мира нужны данные о причинах и последствиях действий. В интернете таких данных очень мало.

Worldmodeldata, британский стартап, консультантом которого стал Лекун, хочет решить эту проблему. Компания собирается превращать в обучающие наборы данные, которые собирают игровые студии: нажатия на кнопки контроллера и другие сведения об игровом процессе. Это побочный продукт разработки игр, доступный в больших объёмах.

Некоторые компании, например General Intuition и Niantic, уже собирают игровые данные на собственных платформах для создания моделей. Worldmodeldata позиционирует себя как посредника: она отбирает и упорядочивает данные, чтобы исследовательским лабораториям не приходилось отдельно договариваться с множеством студий.

Генеральный директор Worldmodeldata Рея Лукас сказала WIRED, что существуют миллионы хороших игр, которые всё больше напоминают реальный мир. По её словам, обширный, разнообразный игровой опыт можно использовать для обучения ИИ.

Гипотеза пока не проверена полностью, но исследователи в целом исходят из того, что качество моделей мира будет расти вместе с объёмом обучающих данных — примерно так же, как у больших языковых моделей. Поэтому нехватка подходящих данных остаётся одним из главных препятствий для развития этой области.

Некоторые лаборатории пытаются вручную собирать собственные данные: люди и роботы выполняют задания в тестовых средах, а датчики фиксируют происходящее. Но так удаётся получить лишь небольшой объём материала, который к тому же не охватывает редкие ситуации, с которыми модель может столкнуться в реальной среде.

Николь Френкел, партнёр венчурной компании Khosla Ventures, инвестировавшей в General Intuition, отмечает: людей можно попросить многократно показать, как брать предмет и перекладывать его, но повторение не передаст беспорядок реального мира, в котором должна работать машина.

Что могут дать видеоигры

Worldmodeldata рассчитывает, что данные из игр — изображения трёхмерного пространства, связанные с действиями игрока, — доступны в нужных объёмах и достаточно разнообразны, чтобы охватить важные редкие кейсы.

Френкел считает, что именно такие ситуации особенно важно научиться обрабатывать: ошибка может дорого обойтись при управлении автомобилем, самолётом, дроном, заводским погрузчиком или четвероногим роботом.

Worldmodeldata сообщила, что лицензировала у студий, создавших популярные видеоигры, данные почти за миллион часов игрового процесса. Лукас не стала называть эти студии. В дальнейшем стартап планирует дать возможность получать вознаграждение и отдельным игрокам, чьи данные будут использоваться для обучения.

Лукас полагает, что игровые данные в итоге составят большую часть обучающего материала для моделей мира. Затем такие модели будут дополнительно настраивать на данных, относящихся к конкретной реальной среде или задаче. По её оценке, это может стать для моделей мира моментом GPT — помочь им стать по-настоящему полезными.

Почему игровые данные подходят не для всего

Оптимизм по поводу игровых данных разделяют не все. Nvidia, выпускающая семейство моделей мира, оптимизированных для работы на её чипах, предпочитает использовать собственный движок. Его специально разработали, чтобы воспроизводить физику реального мира, и на нём строят системы ИИ.

Мин-Ю Лю, руководитель разработки моделей мира в Nvidia, считает, что модели, обученные на игровых данных, вряд ли хорошо справятся с задачами, где требуется точный контроль движений, например с аккуратным перемещением предметов. Физика в видеоиграх часто устроена необычно, а разработчики упрощают её, чтобы создать видимость реализма. Персонаж может потянуться за яблоком на столе, но игра не обязательно моделирует, с какой силой каждый палец должен удерживать фрукт, чтобы тот не выскользнул.

Лю советует осторожнее использовать игровые данные для обучения манипуляциям: физика таких действий гораздо сложнее. По его словам, игровые данные больше подходят для моделей мира, предназначенных для создания сверхреалистичных видео или трёхмерных сред.

У Чжу из Университета Суррея похожие сомнения. Видеоигры, по его словам, по сути являются симуляторами и в некоторой степени опираются на физику, но воспроизводят её грубо и приблизительно.

Пока модели мира не достигли своего момента ChatGPT, исследователи продолжают рассматривать разные способы их развивать. Френкел говорит, что путей к цели много, а какой из них сработает лучше, пока неясно.