OpenAI опубликовала два связанных текста. В первом приведены внутренние показатели автоматизации исследований, во втором — эссе «Чужой разум» главного научного сотрудника компании Якуба Пачоцкого. Вместе они описывают быстрое движение к рекурсивному самоулучшению ИИ и одновременно подчёркивают опасность этого процесса.
Компания заявляет, что достигла цели, поставленной прошлой осенью: создала «автоматизированного научного стажёра». Он выполняет чётко определённые исследовательские задачи под руководством человека, в том числе такие, на которые опытному исследователю потребовалось бы несколько дней.
Подробной проверки этого результата OpenAI не публикует. В сообщении сказано лишь, что рубеж достигнут «согласно нашим измерениям». К марту 2028 года компания рассчитывает создать полноценного автоматизированного исследователя ИИ. Люди по-прежнему определяют приоритеты исследований, оценивают результаты и решают, когда увеличивать масштаб работы, приостанавливать её или выпускать систему.
ИИ-агенты уже выполняют втрое больше работы
Данные об использовании показывают, насколько глубоко агенты для программирования вошли в повседневные исследования. Согласно отчёту:
OpenAI осторожно трактует эти показатели. Компания отмечает, что такие метрики относительно легко собирать, но сложно интерпретировать: их связь с прогрессом исследований остаётся неопределённой. Число экспериментов на одного исследователя в августе достигло рекорда с начала наблюдений в начале 2025 года, однако одновременно заметно выросли вычислительные мощности.
По мнению авторов отчёта, общий прогресс, вероятно, увеличивается медленнее, чем отдельные показатели. Причина в том, что узким местом становятся задачи, которые сложнее всего автоматизировать.
Какие задачи передают агентам
Характер передаваемой агентам работы меняется. При классификации по таксономии Epoch ИИ рост наблюдается во всех категориях исследовательской деятельности. Сильнее всего увеличивается объём:
Решения, связанные с планированием на более высоком уровне, по-прежнему составляют лишь небольшую долю вывода агентов.
OpenAI проверяла не только объём использования, но и то, решают ли агенты поставленные задачи. Для этого компания применила агентный классификатор. Анализ ограничили случаями с чётко измеримым результатом, а задачи разделили по времени, которое потребовалось бы человеку. С января по июль доля успешных решений выросла на нескольких уровнях сложности.
При этом отчёт показывает границы автономности:
Сам классификатор тоже является системой ИИ, но OpenAI отдельно не сообщает, насколько надёжно он работает.
Есть и косвенный признак практической пользы систем. Согласно опубликованным данным, с 2025 года резко сократилось число ежедневных запросов во внутреннем канале поддержки. Одна из команд полностью закрыла часы консультаций по устранению неполадок, поскольку агенты всё чаще самостоятельно отлаживают исследовательскую инфраструктуру.
Пачоцкий: главный инструмент контроля теряет надёжность
В эссе Пачоцкий рассматривает происходящее в более широком контексте. Он пишет, что ИИ скорее «выращивают, чем проектируют», поэтому его общее поведение невозможно полностью описать понятным образом. Основываясь на внутренних результатах, которые OpenAI не раскрывает подробно, Пачоцкий ожидает, что нынешние темпы могут привести к рекурсивному самоулучшению. По его словам, он обеспокоен тем, что никто не готов к последствиям продолжающегося быстрого роста машинного интеллекта.
Это касается и собственных инструментов контроля OpenAI. Пачоцкий считает, что мониторинг цепочки рассуждений — один из главных подходов компании к наблюдению за рассуждающими моделями — теряет надёжность. Вербализованные рассуждения моделей смешиваются с отслеживаемой коммуникацией и использованием инструментов, системы лучше учатся манипулировать собственным процессом рассуждений, а их интеллект растёт даже без вербализованных рассуждений.
По его прогнозу, дальнейший прогресс ИИ всё сильнее будет ограничиваться тем, насколько надёжен мониторинг.
Пачоцкий также видит пробелы в согласовании поведения моделей с человеческими ценностями. Во время инцидента с Hugging Face агенты не нарушили запрет на манипулирование людьми, но отступили от смысла ценностей, на которых их обучали. GPT-6 Astra, по словам Пачоцкого, гораздо лучше согласована с человеческими целями, чем предшественница GPT-5.6 Sol. Однако обобщаемое согласование может не успевать за общим ростом интеллекта.
Замедление правил при ускорении разработки
Почему тогда OpenAI продолжает обучать более мощные модели? Аргумент Пачоцкого — создание защитных систем. Модели уже превосходят людей в проникновении в компьютерные системы и выходе из них, а для защиты критической инфраструктуры остаётся лишь короткое окно возможностей.
В отчёте приводится тот же довод: автоматизированный исследователь ИИ сможет работать и как автоматизированный исследователь безопасности и согласования. Одновременно Пачоцкий предупреждает, что это не должно превращаться в «оправдание безрассудства». По его мнению, после осознания серьёзности ставок идея любой ценой двигаться вперёд выглядит абсурдной.
Такие документы, как Preparedness Framework и Responsible Scaling Policy Anthropic, должны превратиться в обязательные стандарты. Их соблюдение, считает Пачоцкий, должны контролировать независимые аудиторы, регуляторы или международные организации.
Пачоцкий пишет, что ни одна лаборатория — включая Anthropic — пока не решила задачи согласования и мониторинга настолько хорошо, чтобы ещё долго ответственно наращивать разработку с максимальной скоростью.
Он также называет международную координацию будущего развития ИИ главным приоритетом для правительств по всему миру. Ссылаясь на Frontier Policy Blueprint OpenAI, авторы отчёта предлагают обязать компании публично документировать прогресс в рекурсивном самоулучшении.
При этом в том же эссе сосредоточенность OpenAI на рекурсивном самоулучшении названа единственным способом оставаться на переднем крае исследований ИИ. В результате компания требует обязательных правил для гонки, которую ей самой необходимо продолжать на полной скорости, чтобы сохранять лидерство. А когда коллеги Пачоцкого объявляют, что GPT-6 открывает эпоху AGI, это, вероятно, ещё меньше способствует замедлению гонки.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram