Что OpenAI считает решённым
Уравнения Навье — Стокса описывают движение воды, воздуха и дыма. Инженеры используют их каждый день, но математики до сих пор не доказали, всегда ли решения ведут себя нормально или в некоторой точке скорость может стать бесконечной. Такое явление называют «взрывом». С 2000 года Институт Клэя предлагает $1 млн за решение этой задачи.
Бакмастер и Левент Алпоге, математик из Anthropic, почти год в качестве личного проекта без поддержки организаций работали над доказательством отсутствия такого «взрыва» в большинстве случаев. Бакмастер оплачивал ИИ-инструменты из собственных исследовательских средств, включая, по его словам, крупный счёт от OpenAI. Все черновики математики хранили в агенте для программирования Codex от OpenAI.
Услышав слухи о продвижении OpenAI, Бакмастер написал старшему математику компании, чтобы узнать, что происходит.
OpenAI заявила, что 1 сентября направила на задачу ещё не выпущенную модель, а затем запустила 10 000 агентов на 88 часов. Полное доказательство, по словам компании, было готово 5 сентября. Во время телефонных разговоров на следующий день Бакмастер спросил, обучалась ли модель на его сессиях в Codex. По его словам, ответа он не получил.
Бакмастер осторожно формулирует свои претензии. Он не видел доказательство OpenAI, не знает, использовались ли его данные, и пишет, что никого ни в чём не обвиняет — только пересказывает то, что ему сообщили и что ему предложили.
OpenAI отрицает использование работы Бакмастера и Алпоге, заявляет, что не будет претендовать на призовые деньги, а её вычислительные расходы составили миллионы долларов. При этом компания признаёт, что не может исключить влияние обезличенных пользовательских данных на улучшение моделей.
Себастьян Бубек, руководитель математического направления OpenAI, подтвердил, что сказал Бакмастеру: ситуация была бы проще, если бы Алпоге не работал у конкурента. Он также признал, что замечание о карьере было неудачным выбором слов. По версии Бубека, Бакмастеру предложили подготовить публикацию о доказательстве OpenAI, а не исключить Алпоге из его собственной статьи. Сэм Альтман подтвердил эту версию.
Институт Клэя по-прежнему указывает задачу как нерешённую и пообещал подробно изучить всю ситуацию.
Вопрос 1 для клиентов OpenAI: что вы передаёте агенту
На сегодня подозрения Бакмастера не доказаны. Но они важны потому, что он был платным клиентом и задавал вопрос, который любой генеральный юрисконсульт задаст после того, как команда продукта загрузит в агента для программирования дорожную карту за полгода: обучается ли поставщик на этих данных и кто внутри компании может их видеть.
Заявление OpenAI о том, что конкретные пользовательские данные не просматривались, отвечает на второй вопрос, но не на первый. Прозрачность работы с данными имеет значение. Если в договорах с поставщиками ИИ чётко и юридически исполнимо не описаны права на обучение моделей, сроки хранения и доступ сотрудников, это стоит исправить к следующему продлению договора.
Вопрос 2: кому достаётся авторство работы модели OpenAI
У большинства компаний нет политики, которая определяет авторство работы, созданной ИИ-системой. Нет у них и правил на случай, если результат агента сотрудника похож на работу партнёра, а также плана действий при споре с поставщиком о признании авторства.
Две наиболее обеспеченные ресурсами организации в этой области не смогли договориться об авторстве одного документа. Политику стоит написать заранее, пока на кону ещё ничего не стоит.
Вопрос 3: не задаёт ли соперничество ваши расходы на ИИ
В собственном сообщении OpenAI заявила, что направила на задачу лучшую модель из-за слуха о работе конкурента. Получилась неделя работы стоимостью в несколько миллионов долларов, которую оправдал страх потерять внимание к новости.
Советам директоров стоит спросить, формируются ли их бюджеты на ИИ под влиянием заявлений конкурентов за прошлый квартал или исходя из задач, которые нужно решить самой компании. Соперничество может мотивировать, но плохой стратегией оно становится легко.
Вопрос 4: вы покупаете ответы OpenAI или развиваете компетенции
Бакмастер заявил, что результат — не главное. Важно, что математик и модель теперь могут выполнить годовой объём работы за месяц. Он назвал это моментом Deep Blue — Каспаров для того, как отрасль будет обучать студентов и распределять авторство.
О стоимости Бакмастер написал прямо. По его словам, сгенерированное машиной доказательство было самым ужасным из всех, что ему доводилось читать. Его команда работала круглосуточно, пытаясь его понять, а собственную спешно написанную заметку об Эйлере он назвал «ИИ Slop».
Теренс Тао, один из наиболее уважаемых математиков, на этой неделе предупредил в Yahoo Tech: если просто собирать решения открытых задач, можно разрушить экосистему, которая выращивает следующее поколение специалистов.
Руководители, которые получают от ИИ ответы, не создавая понимания внутри своих команд, выиграют квартал, но проиграют десятилетие.
Сохранится ли доказательство OpenAI после проверки или нет, договор с поставщиком ИИ уже действует. Его стоит перечитать на этой неделе.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram