Джейкоб Коксон, исследователь, который обучает новые ИИ-модели на огромных массивах данных, ушёл из Anthropic. Он не хочет участвовать в создании систем, способных самостоятельно улучшаться, выйти из-под контроля и уничтожить человечество.
Это не первый случай, когда вероятность катастрофы становится главной темой новостей. С мая 2023 года P(doom) уже одиннадцать раз выходила в прайм-тайм. В предыдущих циклах акции компаний, связанных с ИИ, резко менялись в дни таких событий, а затем многие из них росли на фоне общего увеличения инвестиций и спроса в отрасли.
Показательный пример — Nvidia. В период между всплесками P(doom) с мая 2023-го по сентябрь 2025 года акции компании заметно выросли на фоне общего цикла инвестиций в ИИ-инфраструктуру:
В октябре 2025 года капитализация Nvidia превысила $5 трлн. В мае акции компании закрылись на историческом максимуме — $235,20.
На этот раз рынок отреагировал иначе. Акции производителей чипов и неооблачных компаний упали, тогда как крупные облачные провайдеры, обеспечивающие значительную часть капитальных затрат в ИИ-секторе, подорожали. По мнению аналитиков, возможное замедление разработки передовых моделей может временно сократить спрос на вычислительные мощности и позволить облачным компаниям загрузить уже созданную инфраструктуру.
Почему разговоры о катастрофе возвращаются
Внимание массовых медиа к экзистенциальным рискам ИИ появилось не впервые. С мая 2023 года зафиксировано 11 подобных эпизодов. Обычно они развиваются по одной схеме:
Нынешний эпизод P(doom), судя по всему, развивается так же. Сначала Джейкоб Коксон написал 8 сентября, что человечество рискует собственной жизнью, ускоряя путь к сверхинтеллекту. Его публикация набрала более 110 млн просмотров в X.
Затем руководитель направления исследований согласования ИИ в Anthropic Эван Хубингер заявил, что в компании действительно считают возможным уничтожение всех людей из-за ИИ. По его словам, вероятность такого исхода в течение ближайшего десятилетия превысила 10%; об этом сообщила CNBC.
Следующий этап — массовое внимание медиа — продолжается последнюю неделю. Его поддержали руководители технологических компаний, призвавшие замедлить развитие отрасли. 12 сентября генеральный директор Anthropic Дарио Амодеи опубликовал эссе с призывом к общеотраслевому замедлению. Как пишет Business Insider, эту позицию в основном поддержали генеральный директор OpenAI Сэм Альтман, глава Google DeepMind Демис Хассабис и руководитель SpaceX Илон Маск.
Сенатор Берни Сандерс предложил запретить сверхинтеллект, а президент Трамп назвал эти разговоры «мистификацией», сообщила CBS News.
Пока неизвестно, как долго тема останется на первых полосах и приведёт ли она к новым законам. Исторически СМИ переключались на другие темы, а федеральное регулирование ИИ в США так и не становилось законом.
Одиннадцать эпизодов P(doom)
В источнике одиннадцать эпизодов сведены в таблицу с датами и причинами, по которым каждый из них стал главной новостью.
Как рынок реагирует на такие циклы
Когда P(doom) выходит на первые полосы, инвесторы по-разному оценивают разные сегменты ИИ-отрасли. Они смотрят, какие компании могут столкнуться с краткосрочным давлением, а какие — выиграть от изменения спроса или капитальных затрат.
14 сентября акции производителей чипов снизились, а бумаги крупных облачных компаний выросли:
Об этом сообщило Fortune.
Аналитики считают, что согласованное замедление разработки передовых моделей может сократить спрос на новые вычислительные мощности и ударить по производителям чипов и неооблачным провайдерам. Крупные облачные компании, напротив, смогут уменьшить капитальные затраты, эффективнее использовать уже созданную инфраструктуру и увеличить свободный денежный поток.
Между всплесками P(doom) акции Nvidia часто росли на фоне общего увеличения инвестиций в ИИ. По данным Google Finance, динамика была такой:
Исключением стал DeepSeek. После новостей о компании Nvidia подешевела на 17%, потеряв $589 млрд капитализации. Это стало крупнейшим однодневным снижением стоимости компании в истории. Broadcom упала на 17%, а ASML — на 7%.
Аналитики объяснили падение более низкими затратами DeepSeek, которые изменили ожидания по будущей марже компаний. При этом Broadcom завершила 2025 год с ростом акций на 49%, а ASML подорожала на 36%, сообщила CNBC.
Аналитики также отметили, что некоторые предупреждения об опасности ИИ исходили от лабораторий, которые сами брали на себя крупные обязательства по закупке вычислительных мощностей. Например, Anthropic одновременно с предупреждением о возможном вымирании человечества объявила о планах использовать вычислительные мощности Nvidia объёмом в один гигаватт.
Что это значит для инвесторов
Аналитики разделяют потрясения, вызванные конкуренцией, и заголовки из цикла P(doom). Более низкие затраты DeepSeek повлияли на ожидания по марже компаний. В предыдущих циклах истории об уничтожении человечества часто вызывали краткосрочную волатильность, но не приводили к устойчивому изменению долгосрочной динамики всего ИИ-сектора.
По мнению аналитиков, на рынок ИИ могут существенно повлиять три события:
Читайте также
Anthropic объединила чат Claude и Cowork в одном интерфейсе
Почему я не могу дождаться поездки на беспилотном автомобиле
Google DeepMind запустила междисциплинарный институт для решения главных вопросов об AGI
SK Hynix, по сообщениям, обсуждает с Intel производство чипов памяти в США
Гиганта дата-центров обвинили в использовании ИИ ради поддержки министра Виктории
Бывший исследователь OpenAI создал ИИ-модель, которая оценивает варианты, а не пишет текст
Страх, что ИИ уничтожит человечество, взвинтил акции отдельных компаний
«Крёстный отец ИИ» считает, что регулирование технологий близко к повороту по сценарию COVID-19
Новый ассистент Mozilla Smart Window работает на моделях Mistral
ИИ и правда выкашивает вакансии для начинающих специалистов — показывают новые данные
Дата-центры вызывают огромный рост сверхтоксичных химикатов, загрязняющих планету
Почему предупреждение бывшего исследователя Anthropic об ИИ-апокалипсисе пробилось
Шотландия вводит обязательную экологическую оценку для новых дата-центров
Amazon запустила в Индии Alexa+ с поддержкой хинди
Издатель Mirror сократит 220 рабочих мест в редакции: читатели переходят на ИИ-сводки
Почти каждый пятый исследователь ИИ уже в 2024-м допускал вымирание из-за ИИ
Правительство США подводит американцев в сфере ИИ
Крисэфулли: Anthropic договорилась о дата-центре за $31 млрд в западном Квинсленде
«Я создал маму и разговариваю с ней»: ИИ-призраки и «смертесло́п» меняют то, как мы скорбим
Они боролись против дата-центров. Теперь баллотируются в местные органы власти
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram