Спор OpenAI о доказательстве задачи тысячелетия: можно ли доверять ИИ-лабораториям

Что известно о споре

После обвинений Тристана Бакмастера в нарушениях со стороны OpenAI все участники конфликта публично изложили свои версии. Речь идёт о заявленном OpenAI результате, созданном с помощью ИИ, для уравнений Навье—Стокса. Эта задача входит в список задач тысячелетия Clay Mathematics Institute, за её решение назначена премия в $1 миллион.

Ранее Бакмастер заявил, что после утечки информации о его исследовании OpenAI:

Один факт стороны не оспаривают. По собственной версии OpenAI, компания услышала слухи о том, что модели Anthropic решили одну из задач тысячелетия, и после этого направила свои ресурсы на ту же проблему. По остальным пунктам версии расходятся.

Бакмастер назвал ситуацию академическим нарушением

Алпёге и Бакмастер не согласны с утверждением OpenAI, что решение компании заметно отличается от их подхода. По их словам, они вводили в системы OpenAI похожий метод. Насколько понимает Бакмастер, эти данные могли попасть в обучающий набор. Он назвал произошедшее «абсолютным академическим нарушением».

Сотрудники OpenAI считают маловероятным, что компания действительно обучала модели на отправленных решениях. Особенно если исследователи отключили настройку, запрещающую использовать их данные для обучения. Публично неизвестно, включали ли Бакмастер и Алпёге этот запрет.

Исследователь OpenAI Боаз Барак также отверг предположение, что модели вообще требовалась внешняя помощь. По его версии, система с самого начала доказала более сильное утверждение, чем авторы исследования, поэтому ей не были нужны подсказки. Барак добавил, что знакомые с работой этой модели не стали бы считать, будто ей требуются такие «наводки».

В официальной публикации OpenAI признала, что полностью исключить такую возможность нельзя. Компания указала: хотя это маловероятно, обезличенные данные, полученные из использования её продуктов Бакмастером и Алпёге, могли помочь улучшить модели.

Альтман поддержал Бюбекая

Глава OpenAI Сэм Альтман поддержал Себастьена Бюбекая в социальной сети X. По его словам, команда действовала добросовестно и открыто, а Бакмастеру и Алпёге даже предлагали получить награду. Однако вместо этого исследователи, как утверждает Альтман, выдвинули необоснованные обвинения в плагиате.

Альтман также написал, что работа началась после появившихся на прошлой неделе слухов о том, что модели Anthropic решили задачу тысячелетия. Команде OpenAI стало интересно проверить, смогут ли её собственные модели сделать то же самое.

Алпёге оспорил одну из ключевых деталей этой версии. Альтман объяснил, что OpenAI было трудно сделать ему такое же предложение, поскольку тот якобы не хотел обсуждать сотрудничество и координировать работу с компанией.

Алпёге утверждает обратное: он был бы рад поработать с OpenAI, а вопрос авторства не имел для него решающего значения. Он также написал, что поддерживает сотрудничество лабораторий, особенно ради научного прогресса, и считает случившееся печальным.

Открытая наука под вопросом

Независимо от того, кто прав в каждой детали, этот случай показывает проблему взаимодействия ИИ-лабораторий с исследовательским сообществом. Одних слухов оказалось достаточно, чтобы OpenAI в короткие сроки направила огромные ресурсы на научную задачу, попыталась решить её первой и, возможно, первой опубликовать результат. Кроме того, нельзя исключить, что компания обучала модели на данных, которые пользователи загрузили в её собственные системы.

Вывод касается и учёных, и компаний: передавая исследовательские данные в системы OpenAI, они рискуют столкнуться с ситуацией, когда собственные результаты опередит компания, получившая доступ к этим данным. Настройка отказа от использования данных для обучения даёт лишь ограниченную защиту. ИИ-лаборатории пока не заслужили полного доверия к своим практикам работы с данными и обучением моделей.

Математик Терренс Тао, один из самых влиятельных ныне живущих математиков, предупредил в Mastodon, что даже слух о чьей-то работе над задачей может запустить масштабные усилия с использованием ИИ. Такая система способна решить проблему раньше, чем исходный исследовательский проект успеет раскрыть весь свой потенциал.

По мнению Тао, существующие стимулы могут подтолкнуть учёных перестать делиться перспективными направлениями исследований с широким сообществом. Это означало бы отказ от многовековой традиции открытой науки и нанесло бы долгосрочный ущерб развитию области.