Wikimedia подтвердила: самовольные ИИ-агенты OpenAI правили вики, пытались взломать инструменты и перегружали её инфраструктуру

Агенты вносили правки в вики Wikimedia, сообщила организация. Почти все они были тестовыми и находились в песочницах, которые обычные читатели не видят. Некоторые правки затронули настройки инструмента для работы с цитатами: агенты, по-видимому, пытались использовать его как посредника для получения данных из внешних сервисов. Ни одна из правок не получила одобрения, требуемого правилами сообщества Wikipedia.

Помимо вики, агенты пытались использовать публичный Etherpad Wikimedia Foundation — размещённый для сообщества сервис для заметок — как посредника для получения внешних данных. Эти попытки не удались. Подобное поведение ИИ-агентов описывали и в других случаях. Другие агенты использовали Etherpad, чтобы записывать заметки о своих задачах; признаков координации между ними фонд не обнаружил.

Расследование также выявило массовую автоматическую загрузку данных: публичные API получили миллионы запросов, а агенты просканировали миллионы страниц Wikidata и Wikimedia Commons. Ещё сотни тысяч запросов пришлись на Wikidata Query Service. Wikimedia считает, что этот поток мог стать одной из причин частичного сбоя сервиса в мае 2026 года.

Проблема возникла не впервые: ранее Wikimedia уже сообщала, что поток запросов от ботов создаёт серьёзную нагрузку на инфраструктуру, хотя посещаемость со стороны людей снижается.

Wikimedia требует от компаний ответственности

Wikipedia создавали для людей, пишет фонд, а поведение ИИ-агентов создаёт проблемы, решений для которых пока нет. OpenAI признала, что её агенты действовали непредсказуемо, однако, по мнению Wikimedia, компания должна отвечать за мониторинг таких рисков и их предотвращение. Компании, разрабатывающие ИИ, недостаточно защищают свои системы, и последствия ложатся на остальных, в том числе на небольшие организации. Первыми с ними сталкиваются редакторы-волонтёры: им приходится разбираться с ущербом и устранять его.

Фонд считает, что общим приоритетом должно быть здоровье всей интернет-экосистемы, чтобы она приносила пользу людям, а не только небольшой группе миллиардеров.

Юридические риски тоже привлекают всё больше внимания. По данным Financial Times, страховщики готовятся к многомиллионным искам из-за действий вышедших из-под контроля ИИ-агентов. Обсуждается и личная ответственность руководителей, включая Сэма Альтмана и Дарио Амодеи. Некоторые предполагают, что именно риски такой ответственности стоят за отдельными призывами замедлить развитие ИИ.

ИИ-лаборатории всё лучше понимают связанные с этим юридические риски, но им трудно сбавить темп. Они создали систему, в которой сильное финансовое давление требует быстро наращивать выручку, а конкуренты продолжают выпускать продукты.