OpenAI снова выводит из себя целую кучу математиков

Участники встречи отнеслись к новостям «со смесью воодушевления и тревоги», вспоминает Брина Кра, математик из Северо-Западного университета. По её словам, группа попросила OpenAI не ограничиваться публикацией в блоге или сообщением в соцсетях, как компания поступила с десятью задачами в начале того же месяца. Кра считает, что OpenAI следовало выпустить научные статьи с описанием работы, чтобы математики могли изучить результаты и использовать их. По её словам, к этому совету, похоже, не прислушались.

Знакомые с планами компании люди рассказали WIRED, что OpenAI собирается во вторник выложить на GitHub сотни результатов, о которых шла речь на августовской встрече. Это станет очередной публикацией среди десятков тысяч математических решений, созданных ИИ в этом году: передовые модели продолжают наращивать возможности.

«28 августа мы начали обучение новой внутренней модели. Помимо решения задачи Навье — Стокса из списка задач тысячелетия, она решила уже более 100 давних открытых задач из большинства областей математики», — говорит Маккаллум. По её словам, OpenAI готовит к ответственному выпуску следующие математические результаты модели и учитывает советы и публичные рекомендации Консультативной группы по математике и искусственному интеллекту при Институте перспективных исследований. Дату публикации компания пока не назначила.

Однако несколько ведущих математиков считают предстоящую публикацию ещё одним признаком того, что OpenAI мало чему научилась на спорах вокруг прежних релизов.

В беседах с WIRED учёные говорят, что математика стала площадкой, на которой OpenAI и её конкурент Anthropic демонстрируют возможности своих моделей, пока обе компании готовятся к крупным первичным размещениям акций. По словам математиков, в стремлении обойти друг друга компании пренебрегают традиционными научными правилами публикации и указания авторства.

Спор о задаче тысячелетия

Самый заметный случай произошёл в сентябре. Узнав слухи, что другие исследователи близки к решению одной из задач тысячелетия с призом в миллион долларов, OpenAI задействовала тысячи ИИ-агентов, чтобы решить её. Тристан Бакмастер, математик и профессор Нью-Йоркского университета, обвинил компанию в том, что она опередила его в работе над частью задачи. Он занимался ею вместе с Левентом Алпёге, сотрудником Anthropic, в рамках личного сотрудничества. Они ещё не опубликовали результат, но использовали инструменты OpenAI.

Бакмастер утверждает, что во время обсуждения авторства исследователь OpenAI Себастьян Бюбек, по-видимому, предложил не включать Алпёге в статью, чтобы не усложнять ситуацию. Бюбек в ответ на запрос о комментарии сослался на прежнее публичное заявление, в котором отрицал, что просил не указывать Алпёге соавтором. Бакмастер сказал, что отказался от такого предложения.

Согласно заметкам о встрече, которые видел WIRED, во время звонка Бюбек говорил, что его беспокоит деятельность Anthropic. В заметках ему приписываются слова о том, что Левент, вероятно, сейчас связывается с руководством и сообщает ему, что «чёртова OpenAI может решить задачу тысячелетия», а также вопрос: что помешает Anthropic направить все свои вычислительные ресурсы на решение такой задачи?

По тем же заметкам, когда Бакмастер пригрозил рассказать прессе о своём убеждении, что OpenAI присвоила его работу, Бюбек, по-видимому, заявил, что это может разрушить карьеру математика. «Если вы не хотите, чтобы я был добр, я могу и не быть добрым», — говорится в заметках.

Нестор Гильен, приглашённый профессор математики Нью-Йоркского университета, рассказал WIRED, что среди математиков сложилось «впечатление о мафиозном поведении» компаний в сфере ИИ.

«Мы не согласны с такой характеристикой», — говорит Маккаллум.

«Я испытываю сильную тревогу и всё чаще вижу её у коллег-математиков. Но дело не в ИИ, а в компаниях, которые его разрабатывают, — говорит Гильен. — Думаю, многих тревожит концентрация власти в одном месте».

В середине сентября OpenAI сформировала консультативную группу. Ей поручили помочь компании определить, как оценивать и представлять новые результаты, соблюдать академические и профессиональные нормы, а также создавать инструменты для математических исследований и обучения. Однако, по словам математиков, заметного прогресса пока нет.

Многие недовольны тем, что OpenAI и Anthropic по-прежнему публикуют результаты в блогах, а не в научных статьях. Из-за этого их труднее проверить, а предыдущие работы других математиков часто остаются за кадром. Отдельные публикации — проблема не только лабораторий: вскоре после финала чемпионата мира Алпёге сам объявил в соцсетях, что опроверг гипотезу, которой было 87 лет.

«Публикации математики в соцсетях и пресс-релизах не помогают поддерживать научную среду, на плодородной почве которой обучались их модели», — говорит Кра.

Инструменты для проверки результатов

В этом году, на фоне роста числа доказательств с участием машин, некоторые специалисты создали инструменты, которые должны помочь сообществу использовать новые результаты и определять, какие из них требуют дальнейшей проверки и осмысления. Среди них — Hexagon, хранилище преимущественно материалов, созданных ИИ, и Palomar, реестр математики, проверенной машинными методами.

По словам Кра, OpenAI прямо призывали пользоваться этими инструментами, но поведение компании не изменилось. Она также не считает, что действия OpenAI соответствуют Лейденской декларации — обращению более чем 4 000 математиков с призывом к компаниям в сфере ИИ соблюдать стандарты математического сообщества. Кра участвовала в подготовке декларации.

По словам людей, общавшихся с сотрудниками OpenAI, некоторые из них считают, что технологии компании уже сделали математику ненужной. «Мы не считаем, что будущее математики предрешено, — говорит Маккаллум. — Мы работаем с математическим сообществом, чтобы вместе разобраться, каким оно будет».

На августовской встрече возможность того, что ИИ превзойдёт исследователей-людей, обсуждали как гипотетический сценарий. Однако участники, поговорившие с WIRED, восприняли его как предупреждение о будущем. Один из собеседников сравнил то, как компания рассказывала математикам о своих возможностях и прорывах, с тем, как полиция могла бы предупредить семью перед сообщением о гибели родственника в автокатастрофе.

По словам человека, знакомого с взглядами Бюбека, тот считает, что технологии его компании вскоре положат конец карьере большинства математиков. Сам Бюбек говорит WIRED, что более способный ИИ поможет учёным браться за более амбициозные вопросы, лучше связывать исследования с решением практических задач и сделать математику доступнее. По его словам, это возможность расширить круг задач, которые могут решать математики, и усилить влияние их работы.

Математики понимают, что им нужно приспосабливаться к переменам, в том числе готовить к ним молодое поколение, но не считают свою область мёртвой. «Это изменит нашу работу, но, думаю, сейчас мы можем мыслить шире», — говорит Кра. Она рада, что получила новый мощный инструмент для решения задач, но хочет, чтобы компании лучше раскрывали информацию о своих результатах: тогда учёные смогут им доверять и развивать их.

«Время тревожное, — говорит она. — Но оно и по-настоящему захватывающее».