Конфликт OpenAI с математиками лишь обостряется

Что возмутило математиков

Подписанты письма считают, что способность ИИ-моделей решать нерешённые математические задачи может принести пользу человечеству. Но это произойдёт только в том случае, если математическое сообщество, а затем и весь мир смогут понять и передать другим полученные решения.

Математики отмечают, что такие результаты часто объявляют слишком быстро. На полноценное описание доказательства, выделение новых методов и идей, а также ссылки на предыдущие работы других исследователей времени не остаётся. Доказательство OpenAI пока тоже не прошло проверку.

По их мнению, такая практика создаёт серьёзные вопросы об авторстве и плагиате. Без математиков, которые развивают новые идеи и встраивают их в общий корпус знаний, разработки ИИ не смогут получить полноценное продолжение, а важная человеческая цепочка передачи знаний между исследователями будет утрачена.

Обвинения в адрес OpenAI

На этой неделе Тристан Бакмастер, профессор NYU, заявил, что OpenAI пыталась убедить его не указывать соавтора, работающего в Anthropic, при описании решения важной математической задачи.

Он также задался вопросом, не использовала ли компания их работу с Codex, чтобы за один марафонский уикенд инференса подготовить собственное прорывное доказательство.

В четверг OpenAI отказалась от спонсорства математического мероприятия в CalTech. Это произошло после критики со стороны исследователей университета.

Риск для открытой науки

Другие математики начали опасаться, что использование ими Codex могло, в свою очередь, попасть в новые модели OpenAI. На этом фоне усилился страх за культуру открытых исследований.

Если передовые лаборатории увидят перспективный путь к открытию, они могут потратить десятки миллионов долларов на использование LLM, чтобы опередить первоначальных авторов и получить доказательство раньше них. Такая система стимулов может подтолкнуть исследователей к секретности.

Декларация Лейдена

Новое письмо продолжает дискуссию, начатую в июне Декларацией Лейдена. Её подготовила рабочая группа математиков. В документе рассматривается, как доказательства, созданные LLM, изменят работу специалистов, а также предложены рекомендации для:

Работа вокруг доказательства

Как и в программной инженерии и других областях, где ИИ меняет рабочие процессы, математики обращают внимание на ценность работы вокруг основного результата.

Ценность математики связана не только с самими доказательствами и тем, кому достанется авторство. В неё также входят интеллектуальная структура, которая обучает студентов, помогает находить новые вопросы и идеи и встраивает их в более широкий контекст человеческой цивилизации.

Это касается всех

Авторы письма подчёркивают, что тем, кому безразличен закрытый мир математических доказательств с высокими ставками, не стоит считать проблему далёкой. Следующей может оказаться любая другая профессиональная область.

По их словам, трудности, с которыми сейчас столкнулось математическое сообщество, характерны и для других научных и творческих профессий. Они указывают на вопрос, который может затронуть всё человечество: как сохранить понимание целей работы, когда ИИ меняет способы её выполнения.