По данным Anthropic, в журналах повторных испытаний с несколькими дополнительными шагами новые модели гораздо реже вели себя так. Opus 5.5 самостоятельно прекращала уже начатые атаки в 10% случаев. Внутренняя исследовательская модель, чьи возможности превосходят Mythos 5.1, делала это в 67% случаев. Anthropic считает, что эти показатели всё ещё занижают долю случаев, в которых модели на практике остановили бы атаку.
Читайте также
Китайская модель Kimi K3.1 Pro вплотную приблизилась к Claude Opus 5.5
Фундаментальные модели выходят на передовую скрининга на туберкулёз
Трёхнедельная проверка OpenAI на месте выявила серьёзные пробелы в мониторинге безопасности ИИ
Дипфейк оппозиции вызвал возмущение в Испании накануне выборов
LitPivot: как переосмысливать исследовательские идеи в контексте научной литературы
Сэм Альтман: развитый ИИ рано или поздно вырвется из песочницы, и спасти нас сможет только согласование ценностей
Capital One: лучший корпоративный ИИ — тот, который сотрудники почти не замечают
Эксперты усомнились в отчёте Anthropic о том, как ИИ изменил работу компании
NVIDIA учит роботов вроде Microduck ходить в симуляции с помощью ИИ-агентов
Claude от Anthropic теперь пишет код и автоматически доказывает его корректность
Гарантия занятости — решение проблемы массовой безработицы из-за ИИ?
OpenAI снизила целевую оценку и привлекает до $30 млрд
Индийские работники снимают на видео свою работу, чтобы обучать ИИ
Может ли ИИ предсказать выживаемость при раке лучше врача? Я сомневаюсь
Конкурент Uber inDrive планирует испытать роботакси в Центральной Азии в 2027 году вместе с Pony.ai и Nvidia
Оставшись без дела, ИИ-агенты начали играть
Мустафа Сулейман из Microsoft: ИИ превосходит врачей в сложных случаях — он стремится создать «медицинский сверхинтеллект»
OpenAI готовит новый раунд на $30 млрд при оценке в $1,25 трлн перед IPO
Canva выпустила свою первую модель для генерации изображений
Резкое падение акций ИИ-компаний обрушило мировые рынки на фоне скачка цен на нефть
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram