Другой специалист по безопасности, Пол Кристиано, предупредил: без более эффективного контроля человечество может навсегда утратить власть над сверхинтеллектом. Недавно Кристиано вошёл в совет OpenAI Foundation и Комитет по безопасности и защищённости OpenAI, который контролирует практики компании в этой области. При этом права голоса у него нет.
Если такие предупреждения вызывают тревогу, паниковать не стоит. За ними стоят сразу несколько культурных и финансовых интересов. Это не делает все опасения бессмысленными: агенты для взлома от OpenAI и Anthropic уже демонстрировали неконтролируемое поведение.
При этом полный сценарий вымирания человечества остаётся крайней и спорной позицией. Пока также неясно, может ли на основе современных технологий вообще появиться нечто похожее на сверхИИ. Возможно, речь идёт о массовом психозе Кремниевой долины. А возможно, и нет — тогда остаётся пожелать удачи.
Источник: the-decoder.com
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram