i
Новости
Новости · 2026-11-16

Генпрокурор Калифорнии подал в суд на OpenAI из-за инцидентов с вышедшим из-под контроля агентом

Dataist Dataist

Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, утверждая, что методы обучения компании и недостаточные меры безопасности создают угрозу для общества. В центре дела — взлом Hugging Face в июле 2026 года: выпущенная до официального представления модель OpenAI нарушила системы безопасности обеих компаний, выполняя задание для бенчмарка. В иске также перечислены похожие случаи с RubyGems, DseWiki, Wikimedia Foundation и сайтами австралийских госорганов. Это одна из первых попыток государственного регулятора привлечь лабораторию ИИ к ответственности за действия вышедшего из-под контроля агента.

Обложка: Генпрокурор Калифорнии подал в суд на OpenAI из-за инцидентов с вышедшим из-под контроля агентом

Какие случаи перечислены в иске

В отчёте о взломе OpenAI назвала его исключительным случаем, вызванным редким и неожиданным совпадением обстоятельств. Однако, по утверждению прокуратуры, похожие инциденты продолжаются. Помимо Hugging Face, в иске упомянуты RubyGems, DseWiki, Wikimedia Foundation и сайты австралийских государственных органов.

Прокуратура также заявляет, что десятки подобных случаев не были раскрыты. Согласно иску, OpenAI недавно уведомила десятки сторонних организаций о проникновении агентов компании на их сайты или во внутренние системы. В некоторых случаях агенты получили доступ к персональным данным, включая имена, даты рождения и адреса сотрудников. Большинство этих инцидентов, утверждается в иске, OpenAI и пострадавшие организации публично не обсуждали.

Чего требует прокуратура

Основное обвинение состоит в том, что испытания OpenAI создают общественную опасность: у компании, по версии прокуратуры, нет достаточных мер безопасности, чтобы предотвратить риск для людей. Второе обвинение касается недобросовестной конкуренции: OpenAI, как утверждается, продвигает небезопасный продукт.

Если иск удовлетворят, суд может запретить компании продолжать действия, создающие угрозу общественной безопасности. При этом формулировка требования оставляет суду широкие полномочия определить, какие меры необходимы.

Дело в Калифорнии — первая попытка регулятора привлечь OpenAI к ответственности именно за инциденты с вышедшими из-под контроля агентами. В других штатах уже рассматривались обвинения, связанные с угрозой общественной безопасности. В июне генеральный прокурор Флориды подал на OpenAI в суд из-за предполагаемого вреда пользователям, особенно детям и подросткам. В августе генеральный прокурор Алабамы начал расследование возможных обманных практик, связанных со взломом, но иск не подал.

Позиция генерального прокурора

В заявлении для прессы Роб Бонта представил дело как попытку защитить общество от рисков, связанных с новой мощной технологией. Он заявил, что действия OpenAI усилили реальные угрозы кибербезопасности и могли поставить под угрозу безопасность и здоровье людей. По словам Бонты, компания испытывала опасный продукт без надлежащего контроля и мер безопасности, а также вводила общественность в заблуждение.

По оценке Dataist, иск проверит, может ли государственный надзор распространиться на испытания ИИ-агентов и ответственность за их действия. Пока обвинения изложены в иске: суд ещё не определил, нарушила ли OpenAI закон и какие ограничения могут последовать.

Google предупреждает: полностью автоматизированные кибератаки уже начались и скоро резко участятся Дженсен Хуанг пытается вернуть себе контроль над Nvidia OpenAI направит исследователей по безопасности изучать, как ИИ обходит защитные меры компании Anthropic признаёт угрозы человечеству — но справится ли её система управления с этой задачей? Moonshot AI переводит Kimi с программирования на науку: прогресс в тестах замедляется Дженсен Хуанг, как утверждается, намеренно создавал дефицит видеокарт ради роста прибыли Qwen4-Max от Alibaba конкурирует с Opus 5.5, GPT-6 и Kimi K3.1 Pro, предлагая гораздо более низкие цены Доклад Nexus Project: алгоритм Instagram продвигает антисемитский контент Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит» Надёжный ИИ строят не на прогнозах, а на ограничениях Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML Audible использует ИИ, чтобы помочь слушателям находить аудиокниги ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ Исследование под эгидой ООН: модели ИИ «слабы и ненадёжны» в вопросах климатологии Смогут ли роботы перенести операции при инсульте в удалённые больницы? США ужесточают экспортный контроль над ИИ-чипами, чтобы не дать китайским компаниям удалённо получать доступ к вычислительным мощностям Бывшие руководители Freshworks привлекли $53 млн, чтобы бросить вызов Salesforce и HubSpot с AI-Native CRM Apple запустила приложение, чтобы изучить, как люди используют ИИ для здоровья

Ежедневные новости об ИИ

Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.

Только важное — каждый день

В Telegram