После нескольких месяцев давления DeepMind смягчила правило. Публикации о безопасности разрешили, если они были выдержаны в позитивной тональности: например, риск вымирания можно было упоминать в материале, написанном дружелюбным языком. По словам Майни, разрыв между внутренним пониманием проблемы и публичными заявлениями сокращается, потому что факты теперь сложнее игнорировать.
Рассказ Майни появился на фоне публичных выступлений всё большего числа исследователей безопасности ИИ. Они предупреждают о недостаточно защищённых моделях, которые могут помогать совершать опасные действия, а также о передовых системах, способных выйти из-под человеческого контроля. К этим предупреждениям присоединяются и исследователи самой DeepMind.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram