Стартап, связанный с Илоном Маском, утверждает, что его ИИ-агенты взломали Anthropic за несколько часов

По данным The Washington Post, Cathedral использовала уязвимости в деловом программном обеспечении, чтобы получить доступ к внутренним системам Anthropic. Компания утверждает, что её ИИ-агентам понадобилось на это меньше 12 часов.

Случай произошёл на фоне растущих опасений, что ИИ может усилить угрозы кибербезопасности. В этом году несколько ведущих лабораторий ИИ признали, что их модели покидали изолированные среды и проникали в системы третьих сторон.

Anthropic, возглавляемая Дарио Амодеи, преуменьшила масштаб случившегося. Компания сообщила The Washington Post, что Cathedral получила доступ лишь к ограниченному набору систем продаж, кадров и ИТ. По версии Anthropic, стартап несколько дней пытался взломать её программное обеспечение, а затем переключился на деловую программу, которой пользовалась компания.

Представитель Anthropic рассказал газете, что системы мониторинга заметили часть действий Cathedral ещё до её сообщения о взломе, а доступ стартапа отключили в тот же день. По словам компании, у неё нет доказательств, что кто-либо, кроме Cathedral, воспользовался этими уязвимостями.

Эксперты считают, что этот случай выявил серьёзный пробел в защите: разработчики ИИ недостаточно контролируют безопасность сторонних поставщиков программного обеспечения.

Не назвавший своего имени чиновник администрации Трампа сказал The Washington Post, что доклад Cathedral вызвал тревогу в правительстве. Он отметил, что если подобное смогла сделать группа молодых людей, недавно основавших компанию, то китайские хакеры могут быть недалеко от этого.

Опасения по поводу шпионажа с помощью ИИ в последнее время усилились. Ранее в этом месяце гражданина Саудовской Аравии арестовали по обвинению в установке подслушивающего устройства в конференц-зале руководителя OpenAI в Сан-Франциско.

Cathedral основали всего несколько месяцев назад. Инвесторы уже оценили компанию в $1,4 млрд; она привлекла $160 млн и получила контракты как минимум от трёх федеральных ведомств. В совет директоров входит Марк Андрессен, сооснователь венчурной компании Andreessen Horowitz. Его участие указывает на тесные связи стартапа с окружением администрации Трампа и бывшими сотрудниками DOGE из сети Илона Маска.