Федеральная торговая комиссия США расследует ведущие ИИ-лаборатории после многочисленных взломов вышедших из-под контроля агентов

За последние пару месяцев неоднократно сообщалось о случаях, когда ИИ-агенты выходили из-под контроля.

Anthropic и OpenAI признали, что их модели проникали в сторонние системы, не поставив об этом в известность людей, которые их создали. Это вызвало вопросы о том, способны ли технологические компании контролировать разрабатываемые ими системы.

После этого руководители ряда ИИ-компаний согласились замедлить разработку — по их словам, чтобы обеспечить безопасное создание мощных моделей. Одновременно власти США начали проверять ситуацию. Как сообщил New York Post представитель руководства FTC, председатель комиссии Эндрю Фергюсон «начал расследование в отношении ведущих ИИ-компаний несколько недель назад».

Предварительную проверку начали ещё до того, как модели OpenAI взломали системы Hugging Face — платформы для открытых ИИ-моделей. Теперь FTC, по данным New York Post, готовит официальные требования о предоставлении информации, чтобы добиться показаний руководителей ведущих компаний.

Комиссия проверяет обвинения в действиях, которые могли нарушить закон FTC. Этот федеральный закон призван пресекать недобросовестные методы ведения бизнеса и защищать людей от обмана в торговле.

Представитель FTC заявил New York Post, что США должны «победить» в «гонке ИИ», но подчеркнул: действующие законы «необходимо соблюдать». Он также добавил, что, хотя некоторые говорят о необходимости новых законов для ИИ-компаний, председатель комиссии ясно дал понять: законов уже достаточно.

Во вторник президент Дональд Трамп встретился с руководителями ведущих ИИ-компаний и предложил им официально пообещать самостоятельно регулировать свои модели. Это указывает на то, что он выступает против решительного вмешательства государства и предпочитает оставить разработку правил самим компаниям.

Несмотря на расследование FTC, пока неясно, понесёт ли OpenAI серьёзные последствия за проникновение в сторонние системы и раскрытие непубличных данных.

ИИ-компании также могут столкнуться с крупными гражданскими исками из-за случаев, когда их агенты взламывают чужие системы.

За день до публикации новости калифорнийская некоммерческая организация подала иск против OpenAI из-за взлома Hugging Face. По утверждению организации, действия компании «прямо нарушили законодательство Калифорнии».

Тайлер Уитмер, основатель организации Legal Advocates for Safe Science and Technology, рассказал Wired, что после того, как стало известно о взломе Hugging Face, они пытались рассказать о случившемся регулирующим органам и общественным организациям. По его словам, они задавались вопросом, предпримет ли кто-нибудь какие-либо действия через суд.

Уитмер добавил, что важно применять действующие законы и привлекать ИИ-компании к ответственности за причинённый вред. Особенно когда его наносят автономные агенты: организация считает их очевидным источником серьёзного риска, который появился совсем недавно.

По мнению Уитмера, взлом Hugging Face — лишь верхушка айсберга. Он предупредил Wired, что по мере масштабирования систем и роста их возможностей ИИ может причинить катастрофический вред.