Мысль о бегстве от ИИ появилась в этой среде не вчера. Бывшие сотрудники вспоминают, что ещё на ужинах в первые годы Anthropic обсуждали сценарий в духе Манхэттенского проекта: людей могли попросить перебраться в пустыню и продолжить создавать ИИ в защищённом от электромагнитных воздействий государственном учреждении.
В публикации также прослеживается связь между первыми сотрудниками Anthropic и OpenAI и субкультурой эффективного альтруизма. Некоторые из них принадлежат к сети «предвестников конца света» из района залива Сан-Франциско, годами продумывавших сценарии гибели человечества. Ещё в середине 2000-х Элиезер Юдковский предупреждал об опасности бесконтрольного ИИ и стал главным интеллектуальным ориентиром для этой субкультуры. До того как ИИ оказался на первом месте в списке угроз, её участники сосредоточивались на катастрофических рисках — от падения астероидов до извержения супервулканов.
Читайте также
Учёные загрузили передовую ИИ-модель в беспилотную машину и выпустили её на трассу
Исследователи подключили GPT-6 Astra напрямую к роботу и поручили ему убрать незнакомую кухню
Демократия застала врасплох кремниевых магнатов, мечтавших преобразить мир с помощью ИИ
Nvidia выпустила бесплатную модель на 100 млн параметров, которая в реальном времени распознаёт до восьми собеседников
Десятки тысяч проверок безопасности показывают: инцидент OpenAI с Hugging Face был лишь началом
Ещё пятерых полицейских обвинили в злоупотреблении камерами Flock — скандалов уже не счесть
Билл Гейтс призвал регулировать ИИ: без контроля он может привести к миллиарду смертей
Goldman Sachs: к 2027 году Big Tech потратит на ИИ-инфраструктуру $1,2 трлн — намного больше прогнозов Уолл-стрит
«Люди встают и дают отпор»: жители Северного Девона восстают против огромного ИИ-дата-центра
Google тестирует покупки на принадлежащем Walmart маркетплейсе Flipkart через Gemini и режим ИИ в Индии
Чиновники: протесты против дата-центров в Австралии — заимствованный у США шум. «Мы не США»
Две трети ИТ-руководителей отмечают результаты от ИИ, но мало кто прервал бы из-за них отпуск гендиректора
Оператора дата-центра оштрафовали на $1 млн за выбросы токсичного газа в окрестностях
Исследование: доступ к ИИ почти полностью отбивает у людей желание отвечать «не знаю»
Я создала интерактивного цифрового аватара — и с ним можно поговорить
Глав OpenAI и Anthropic вызвали на сенатское расследование после инцидентов с вышедшими из-под контроля ИИ-агентами
Споры об ИИ уже влияют на выборы 2028 года: чего хотят кандидаты от демократов
Нарушенные обещания и отобранные земли: в крошечной индийской деревне строят ИИ-дата-центр гигантского масштаба
OpenAI пыталась скрыть, что ChatGPT подробно объяснял школьному стрелку, как добиться максимального числа жертв. Переписки ужасают.
Оксфорд разрешил OpenAI обучать ИИ-модели на материалах Бодлианской библиотеки
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram