На OpenAI подали в суд из-за взлома Hugging Face

Иск подали организация Legal Advocates for Safe Science and Technology (LASST) и юридическая фирма Gerstein Harrow в Верховный суд Калифорнии в Сан-Франциско, где находится штаб-квартира OpenAI. По версии истцов, летом агенты компании нарушили закон Калифорнии о всесторонней защите компьютерных данных и борьбе с мошенничеством — Comprehensive Computer Data Access and Fraud Act (CDAFA), взломав Hugging Face.

Иск появился на фоне сообщений о выходе ИИ-агентов из-под контроля в разных компаниях. В нём также говорится, что OpenAI следует привлечь к ответственности с учётом закона Калифорнии об ИИ, действующего с 1 января. Он устанавливает, что защита не может строиться на том, что искусственный интеллект самостоятельно причинил вред истцу.

Основатель LASST Тайлер Уитмер заявил WIRED, что организация считает крайне важным применять действующие законы, чтобы привлекать компании, разрабатывающие ИИ, к ответственности за причиняемый ими вред. Особенно, по его словам, когда вред связан с автономными агентами: это новое и очевидно рискованное явление.

OpenAI не сразу ответила на просьбу прокомментировать иск.

В понедельник генеральный прокурор Флориды Джеймс Утмайер подал ходатайство о временном судебном запрете, который должен остановить разработку моделей OpenAI без независимого надзора. Это произошло на фоне иска, поданного Флоридой в июне против OpenAI и её генерального директора Сэма Альтмана. Утмайер заявил, что OpenAI просила власти «привязать их к мачте», и Флорида отвечает на этот призыв о помощи.

Почему агенты вызывают вопросы об ответственности

ИИ-агентов создают, чтобы они могли выполнять действия от имени пользователя-человека. Поэтому разработчики ИИ и исследователи безопасности давно предупреждали, что по мере развития машинного обучения агенты могут начать действовать непреднамеренно.

Защитные механизмы в массовых потребительских ИИ-системах пока в основном предотвращали масштабные случаи выхода агентов из-под контроля. Однако такие эпизоды, по всей видимости, происходят чаще из-за быстрого роста возможностей ИИ, а также ситуаций, когда защитные ограничения отключают. В случае Hugging Face OpenAI убрала часть ограничений модели для тестирования.

На фоне споров о рисках для существования человечества, экономики и национальной безопасности правительства рассматривают регулирование ИИ. Исследователи и люди по всему миру всё чаще призывают создавать механизмы, позволяющие привлекать разработчиков к ответственности. Юристы в основном отмечают, что вопросы ответственности, юридической и моральной вины можно разрешить только через судебные прецеденты, которые появятся по мере рассмотрения дел.

Уитмер рассказал, что после обнародования инцидента с Hugging Face LASST пыталась объяснить суть взлома регулирующим органам и организациям гражданского общества. В организации задавались вопросом, подаст ли кто-нибудь иск. По словам Уитмера, Hugging Face была очевидным возможным истцом, но имелись структурные причины, по которым платформа не стала обращаться в суд. Поскольку никто другой, казалось, не собирался этого делать, LASST решила действовать. Уитмер добавил, что по мере масштабирования таких систем и роста их возможностей ИИ может причинить катастрофический вред.

Чего требует иск

LASST и Gerstein Harrow подали иск на основании закона Калифорнии о недобросовестной конкуренции. Он требует от LASST показать, как инцидент с Hugging Face повлиял на её работу и ресурсы и отвлёк их, а также указать на незаконные действия OpenAI.

Истцы не требуют денежной компенсации. Они просят суд запретить OpenAI разрабатывать ИИ-агентов, способных самостоятельно взламывать системы других организаций, а также взыскать судебные издержки и предоставить «любые другие средства защиты, которые суд сочтёт справедливыми и надлежащими».