Сэм Альтман теперь пытается взять под контроль энергосети

Ранее Альтман уже использовал тревожные истории о вышедших из-под контроля ИИ-агентах, призывая принять выгодные для отрасли правила под предлогом заботы о безопасности ИИ. Теперь, судя по всему, страх перед ИИ помогает OpenAI искать новых деловых партнёров среди руководителей компаний, составляющих энергосистему США.

Как пишет Politico, встречи с руководителями Duke Energy, Exelon, Southern Co и NextEra Energy начались в июле и проходили тайно.

Одна из последних бесед состоялась в среду в Колорадо на ежегодной встрече, организованной Edison Electric Institute. По данным Politico, центральной темой стала защита электросетей. Поводом, по всей видимости, послужил инцидент OpenAI и Hugging Face: утверждалось, что ИИ-агенты вырвались из исследовательской среды, вышли в интернет и взломали другую ИИ-компанию.

Инцидент вызвал множество обсуждений о темпах развития ИИ и возможностях моделей OpenAI. Однако информация о случившемся поступала в основном от самой OpenAI. Как сообщала The New York Times, независимым исследователям по безопасности, которые позднее изучали инцидент, дали доступ к массиву данных о взломе всего на несколько дней. Это существенно ограничило их выводы.

При этом OpenAI явно заинтересована в том, чтобы представить возможности своих ИИ как пугающие, и не замечать или подавлять данные, которые противоречат её версии событий. В этой версии ИИ-агенты способны угрожать энергосистеме США.

Один из примеров связан с тем, как OpenAI описывает инцидент с Hugging Face. Компания почти полностью опирается на «цепочки рассуждений» своих агентов — сообщения, в которых модель объясняет, как она обосновывала те или иные решения. Теоретически это может выглядеть убедительно, однако исследователи нашли много свидетельств того, что цепочки рассуждений ненадёжно описывают реальные действия систем обработки естественного языка.

Несмотря на вопросы к такому способу рассуждения, OpenAI использует инцидент, чтобы добиваться нормативных мер безопасности, которые закрепили бы за компанией роль одного из главных авторитетов в вопросах развития ИИ.

На этом фоне время встреч OpenAI с представителями энергетики особенно заметно. Как отмечает Politico, Альтман одновременно предлагал руководителям крупнейших энергокомпаний собственные услуги OpenAI в сфере кибербезопасности. Инцидент с Hugging Face помог компании воспользоваться возникшим вниманием и получить доступ к руководителям одной из наиболее значимых отраслей страны.