Что сказал Кристиано
Hinton Lectures 2026 — конференция по этике ИИ, организованная лауреатом Нобелевской премии и специалистом по информатике Джеффри Хинтоном. По данным Gizmodo, выступая там, Кристиано предупредил: в ближайшие месяцы аварии с ИИ могут стать наиболее вероятной причиной смерти. Он уточнил, что речь идёт о происшествиях, последствия которых трудно предсказать.
Кристиано описал риск захвата мира как примерно равный шансам при подбрасывании монеты, если разработчики будут создавать ИИ настолько быстро и простым способом, насколько возможно. Он оценил вероятность того, что уже в течение года проблемы несоответствия целей ИИ человеческим намерениям помешают людям вести обычную жизнь, примерно в 20%. Возможные последствия он описал как гибель, порабощение или сопутствующий ущерб. По его словам, даже реалистичные меры регулирования не устраняют высокий риск.
Противоречие между прогнозами и действиями
Издание отмечает, что подобные заявления привычнее видеть на форуме LessWrong — онлайн-сообществе скептиков, многие участники которого считают, что развитие машинного обучения неизбежно приведёт к появлению ИИ человеческого уровня. Они рассматривают такой сценарий как угрозу существованию человечества.
Но Кристиано не просто обсуждает эти риски со стороны: он входит в совет одной из ведущих лабораторий ИИ и участвует в публичных выступлениях об этике этой технологии. Издание сравнивает это с персонажем Майлзом Дайсоном из «Терминатора 2»: узнав, что в будущем станет причиной уничтожения человечества, тот всё равно продолжает ходить на работу.
Публикация задаёт вопрос: если исследователи ИИ, такие как Кристиано, действительно считают, что продукты их компании однажды могут уничтожить человечество, почему они не тратят всё время на попытки остановить разработку?
По оценке Dataist, слова Кристиано показывают разрыв между оценкой рисков и практической работой в отрасли: он говорит о возможной катастрофе, оставаясь членом совета OpenAI Foundation. При этом в публикации нет подробностей о том, какие меры безопасности он предлагает или поддерживает.
Читайте также
GPT-6 Astra от OpenAI берётся за сложнейшую математическую задачу Стандартной модели на решётке
Экономисты в ужасе от того, что индустрия ИИ сделала с мировой экономикой
Албаниз присоединился к соглашению Трампа о защите цепочек поставок ИИ перед встречей лидеров на саммите Quad
Anthropic: главное в памяти ИИ-агента — знать, что забыть, а не сколько хранить
Генпрокурор Калифорнии подал в суд на OpenAI из-за инцидентов с вышедшим из-под контроля агентом
Google предупреждает: полностью автоматизированные кибератаки уже начались и скоро резко участятся
Дженсен Хуанг пытается вернуть себе контроль над Nvidia
OpenAI направит исследователей по безопасности изучать, как ИИ обходит защитные меры компании
Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей?
Moonshot AI переводит Kimi с программирования на науку: прогресс в тестах замедляется
Дженсен Хуанг, как утверждается, намеренно создавал дефицит видеокарт ради роста прибыли
Qwen4-Max от Alibaba конкурирует с Opus 5.5, GPT-6 и Kimi K3.1 Pro, предлагая гораздо более низкие цены
Доклад Nexus Project: алгоритм Instagram продвигает антисемитский контент
Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами
TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов
Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит»
Надёжный ИИ строят не на прогнозах, а на ограничениях
Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML
Audible использует ИИ, чтобы помочь слушателям находить аудиокниги
ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram