OpenAI готовится к народному бунту после катастрофы, вызванной ИИ, — Axios

Когда масштаб общественного недовольства только стал очевиден, технологические миллиардеры, включая Марка Цукерберга, устраивали неудачные медийные акции в надежде вернуть расположение миллионов людей. Теперь руководители ведущих ИИ-лабораторий обсуждают стандартные планы действий на случай массового протеста против них.

По данным Axios, к подготовке подключились Anthropic и OpenAI. Их учения напоминают военные штабные игры: сотрудники прорабатывают возможные сценарии и ответы на них. Среди примеров — масштабные кибератаки, которым помогли продукты компаний, и политическое восстание после катастрофического события, вызванного их моделями.

Отвечая на запрос Axios, OpenAI заявила, что проводит учения по подготовке к различным обстоятельствам: команды обсуждают и разбирают ряд возможных сценариев. Представитель компании добавил, что их не считают неизбежными, а рассматривают как способ подготовиться к разным ситуациям.

Anthropic отказалась от комментариев. При этом тревога руководителей компании из-за общественных волнений согласуется с её прежними действиями. В сентябре сообщалось, что Anthropic создаёт систему наблюдения за протестными движениями против ИИ и собирает разведданные, используя подход, который описывали как «предотвращение преступлений до их совершения».

Насколько реальна угроза, которую представляют такие сценарии, сказать трудно. Однако само обсуждение подобной возможности руководителями крупных технологических компаний показывает, что протесты против ИИ вызывают у них беспокойство.

Больше о гражданских волнениях: протестующие сорвали вечеринку в поддержку дата-центра, и охрана вывела их наружу.