OpenAI: внутренняя модель за месяц обучения решила более 100 давних математических задач

OpenAI сообщила о новой модели, объявляя о создании консультативной группы по математике и искусственному интеллекту. По данным компании, обучение модели началось только 28 августа, поэтому весь процесс занял около месяца. Даже собственные математики OpenAI, как утверждает компания, были удивлены скоростью работы. Внутри OpenAI уже обсуждают, как заранее предупредить академическое сообщество, чтобы оно успело подготовиться.

Пока неизвестно, какие именно задачи решила модель, каким способом она это сделала и что результаты означают для математики и науки. Опубликованное решение задачи Навье—Стокса уже вызвало острые споры среди части научного сообщества.

Ситуация выглядит как смена курса. Недавно главный научный сотрудник OpenAI Якуб Пачоцки говорил, что команда намеренно не оптимизировала систему для математики, сосредоточившись на рекурсивном самоулучшении. Скептики могут воспринимать публичное сообщение о решении известных математических задач как попытку удержать нынешних инвесторов и привлечь новых. Тем более что OpenAI признала: к задаче тысячелетия компания обратилась только после слухов о том, что её уже решила другая команда, частично состоявшая из исследователей Anthropic.

Решение задач не равно пониманию

Объявление OpenAI стало прямым ответом на критику математиков. В открытом письме «Серьёзное несоответствие ИИ математике» они предостерегли от оценки ИИ по числу решённых открытых задач. По их мнению, массовая генерация решений подрывает концептуальное понимание — основную цель математики — и в конечном счёте угрожает интеллектуальным способностям людей.

OpenAI заявила, что теперь сотрудничает с математиками, создавшими Консультативную группу по математике и искусственному интеллекту при Институте перспективных исследований. Группа должна связать компанию с математическим сообществом и широкой общественностью.

Компания объясняет необходимость такой консультации тем, что математические открытия могут иметь далеко идущие практические последствия. Поэтому ответственная разработка ИИ касается не только самой математики. OpenAI называет сотрудничество «первым шагом» и признаёт, что впереди остаются сложные вопросы о том, как ИИ может поддерживать математическое понимание и каким образом преимущества его способностей смогут достичь широкой аудитории.

OpenAI сама определяет темп исследований

OpenAI утверждает, что группа будет работать независимо. Её участники смогут:

OpenAI не платит участникам. При этом группа не получит права определять, насколько быстро компания будет продвигать внутренние математические исследования. Она сможет консультировать OpenAI по публикации результатов, но не по вопросу о том, следует ли получать их и с какой скоростью.

Гауэрс вошёл в группу, но не подписал письмо

Одним из основателей группы стал известный математик и лауреат Филдсовской премии Тимоти Гауэрс. Он не подписал открытое письмо 25 лауреатов Филдсовской премии и объяснил причины в своём блоге.

Гауэрс согласен со многими положениями письма и считает, что математика оказалась под угрозой. Разногласие касается того, в чём он видит цель математики. Авторы письма считают главным концептуальное понимание, а решение задач — средством его достижения. Гауэрс описывает спектр позиций: одних математиков прежде всего мотивирует желание решать задачи, и они воспринимают понимание как важное средство; других в первую очередь интересует достижение понимания, а решение задач они считают важным инструментом на этом пути.

По словам Гауэрса, его исследовательский проект по автоматизированному доказательству теорем в Кембридже потерял смысл после того, как большие языковые модели стали достаточно хорошо справляться с такой работой. Исследователям пришлось принять то, что Гауэрс называет «горьким уроком»: возможность такого исхода была им известна, но скорость, с которой он наступил, стала неожиданностью.

Главный риск — люди перестанут выбирать математику

Больше всего Гауэрса беспокоит возможный распад социальных структур, на которых держится математическое знание. Люди, которые раньше пошли бы в аспирантуру и стали «хранителями математической традиции», могут решить, что это больше не стоит затраченных усилий.

Самого Гауэрса, по его словам, в профессию прежде всего привлекала мечта решать нерешённые задачи — и чем известнее они были, тем лучше. Если эту мечту убрать, непонятно, что сможет заполнить образовавшийся пробел.

Остаётся и вопрос финансирования. Политики могут посмотреть на математику с ИИ и решить, что люди-математики больше не нужны. Поэтому, пишет Гауэрс, необходимо срочно научиться объяснять ценность большого сообщества человеческих специалистов по математике, даже если поиск новых доказательств теорем больше не будет входить в их обязанности.

Он также не подписал письмо, потому что не понял, чего именно оно требует сверх уже происходящего. По его ожиданиям, большие языковые модели, способные решать крупные математические задачи, станут общедоступными в течение нескольких месяцев. Поэтому Гауэрс не увидел смысла критиковать ИИ-компании за слишком быструю генерацию большого числа решений.