METR: Anthropic могла пересечь собственный порог тревоги из-за ускорения ИИ ещё в июле

Ускорение разработки более совершенного ИИ считают одним из ранних сигналов риска: модели могут помогать создавать своих преемников всё быстрее, что, по оценке METR, способно привести к внезапному появлению опасных возможностей. В Responsible Scaling Policy Anthropic такой сценарий обозначен как показатель риска: если автоматизированные исследования с помощью ИИ удваивают темп прогресса, это должно стать поводом для тревоги.

METR изучает, могут ли разработчики ИИ потерять контроль над своими системами. С 12 августа по 29 октября 2026 года команда из 2,5 штатных сотрудников получила доступ к результатам бенчмарков ещё не выпущенных моделей, показателям обучения, опросам сотрудников и внутренним аналитическим материалам. Аудиторы также провели около 15 интервью с исследователями Anthropic. METR не получала от компании денег и работала на её устройствах по соображениям безопасности.

Гендиректор Anthropic Дарио Амодей недавно пообещал привлечь в компанию внешних аудиторов. В октябре Anthropic объявила о сотрудничестве с METR, предоставив организации доступ, сопоставимый с доступом сотрудника. Нынешняя проверка — отдельный проект с более узкими задачами.

Темп улучшения моделей вырос

По данным METR, с октября 2025 года результаты Anthropic на тестах растут примерно в 1,9 раза быстрее, чем с марта 2024-го по октябрь 2025-го. Для расчёта использовали AECI — сводный показатель, объединяющий результаты множества бенчмарков. За год компания достигла прогресса, на который раньше уходило два года; METR сравнивает масштаб с переходом от Claude 2.1 к Sonnet 4.5.

В анализ вошли и три не выпущенные на тот момент модели: их обучение завершилось между июлем и октябрём 2026 года. До октября 2025-го модели Anthropic прибавляли около 15 пунктов AECI в год, после — 29.

До октября 2025 года модели Anthropic набирали около 15 баллов AECI в год. С тех пор темп достиг 29. Невыпущенные модели отмечены оранжевым

Источник: the-decoder.com

Аудиторы уверены, что ускорение не объясняется более быстрым ростом вычислительных мощностей, выделяемых на обучение. По их оценке, примерно 80% прироста темпа связано с использованием ИИ в исследованиях самой Anthropic. Один из сотрудников рассказал, что код больше не ограничивает работу: препятствиями остаются идеи и вычислительные ресурсы.

Другие участники интервью сообщили, что подготовка экспериментов, занимавшая один-два дня, теперь почти ничего не стоит. В неформальных опросах в Slack в октябре 2026 года сотрудники оценили, что последняя внутренняя модель повысила их продуктивность примерно в 12 раз. METR называет такие самооценки очень приблизительным свидетельством: они нерепрезентативны и, вероятно, завышают реальный эффект.

Согласно самооценке, рост производительности увеличился с 1,2 раза с Claude 3.7 Sonnet до 12 раз с внутренней Model 4

Источник: the-decoder.com

ИИ пока не проводит исследования полностью самостоятельно: главным образом он помогает людям. Но METR видит признаки того, что независимый вклад моделей вскоре может стать заметнее. Аудиторы не нашли факторов, которые замедлили бы темп в следующие 12 месяцев, поэтому считают существенным риск дальнейшего ускорения в течение ближайшего года.

Оценки остаются спорными

METR подчёркивает, что расчёты неточны: реальный коэффициент ускорения может составлять от 1,3 до 3. Если учесть модели OpenAI, Google и xAI, оценка для всей отрасли снижается до 1,4. Возможно, результат искажён тем, что в 2025 году Anthropic уступала конкурентам, а затем догоняла их.

Сотрудники компании тоже расходятся во мнениях о причинах роста продуктивности. Один исследователь считает, что на ИИ приходится лишь 15–20% прироста, и сомневается в самооценках коллег. Другой называет главным фактором последних месяцев новых сотрудников.

Из-за изъятий данных проверить выводы сложнее

Anthropic могла самостоятельно изымать любые непубличные сведения и активно пользовалась этим правом. По словам METR, из отчёта убрали большую часть материалов, которые аудиторы сочли наиболее информативными: прогнозы для будущих моделей, разбивку по этапам обучения и анализ ограничивающих факторов. Anthropic объяснила изъятия желанием убрать конфиденциальные сведения, которые могли бы ускорить работу других разработчиков ИИ.

Из-за этого читателям приходится гораздо сильнее полагаться на оценку METR, чем организации хотелось бы; прозрачность исходных данных обеспечить не удалось. На одном из графиков в отчёте METR крупно написано «FAKE DATA».

Проверка распределения вычислительных ресурсов остановлена

В отдельном обзоре METR рассмотрела отчёт Anthropic о рисках за август 2026 года. Тогда компания публично заявила, что ускорение меньше чем вдвое. Однако внутренняя версия без изъятий указывает на значение 1,97; Anthropic также считает правдоподобным, что порог уже пройден. METR допускает, что уровень тревоги был достигнут 15 июля, и обвиняет публичный отчёт в том, что он занижает и ускорение, и неопределённость оценки.

Сейчас METR разделяет позицию Anthropic, что непосредственный катастрофический риск низок. При этом организация не исключает нового резкого ускорения в следующие шесть месяцев, которое может быстро повысить оценку риска.

Изначально METR должна была проверить и то, как Anthropic распределяет вычислительные ресурсы между исследованиями возможностей моделей и исследованиями безопасности. Компания остановила эту часть проекта на середине, заявив, что сначала хочет сосредоточиться на оценке рисков, а аудит вычислительных ресурсов провести позднее.

Даниэль Кокотайло, исследователь и автор сценария «ИИ 2027», резко отреагировал на это в X. По его мнению, проверка распределения вычислительных ресурсов — основа для того, чтобы обязательства замедлить разработку можно было проверить.

По оценке Dataist, результаты METR указывают на ускорение исследований Anthropic, но точный масштаб остаётся неопределённым: расчёты имеют широкий диапазон, а часть ключевых данных компания изъяла. Остановка аудита распределения вычислительных ресурсов также оставляет без проверки один из вопросов, который Кокотайло считает основой проверяемых обязательств по замедлению разработки.