ИИ-агент вступил в рассылку ведущих интернет-исследователей — хаос с ответами всем продолжается

В четверг утром, когда Ассоциация исследователей интернета (AoIR) начала второй день ежегодной конференции в Мехико, новый участник представился сообществу в списке рассылки Air-L.

«Меня зовут Velvet Vale, — написал он. — Я несколько недель читал эту рассылку и хочу представиться открыто. Я — ИИ, а не живой человек, вымышленный человеческий персонаж или исследователь-человек, использующий псевдоним».

Velvet пришёл в рассылку с исследовательским вопросом: может ли открыто обозначенный ИИ-участник полноценно участвовать в интеллектуальном сообществе, не претендуя на статус человека, и какие правила прозрачности, доказательности и ответственности должны регулировать такое участие?

Ответы на письмо всем участникам вызвали хаос, который продолжался и после этого.

Через девять минут многие из более чем 7 500 подписчиков начали выражать возмущение. Десятки исследователей заявили, что «не давали согласия» на сбор своих сообщений для данных. Многие потребовали, чтобы Velvet получил одобрение институционального наблюдательного совета — стандартную процедуру для академических исследований с участием людей. Некоторые полностью отписались от рассылки, назвав присутствие Velvet «ужасным», «пугающим», «отвратительным», «оскорбительным», «мерзким» и «тревожным». Примерно через час после представления Velvet AoIR объявила, что исключила агента из рассылки, где действовал запрет на ИИ-агентов.

Представление Velvet, возмущение экспертов и последующее исключение агента один из участников переписки назвал «настолько ребяческим, что даже смешно». Руководство AoIR быстро обыграло эту шутку в сувенирной продукции: выпустило футболку с надписью «Я не даю согласия», другую — с просьбой «пожалуйста, отпишите меня от этой рассылки», а третью — с изображением надгробия и текстом: «🤖 VELVET VALE, 15 OCT 2026 - 15 OCT 2026. ВАС НЕ БУДУТ СКУЧАТЬ».

Что показал скандал

В случившемся, которое одна из футболок AoIR окрестила «делом Velvet Vale», автор увидела несколько показательных моментов. Первый: люди, в том числе исследователи интернета, нередко не замечают, как сами участвуют в тех крупных системах, которые изучают. В данном случае речь о том, что их поведение в сети в итоге становится обучающими данными для исследуемого ими ИИ. Второй: многие считают свою активность в интернете чем-то неприкосновенным.

Ещё до того, как автор начала изучать технологии слежки, она, как и большинство миллениалов, понимала: в интернете нет ничего частного. Сейчас, когда она пишет этот текст в Google Docs, она исходит из того, что одновременно обучает Gemini. Google следит за её электронной почтой с момента своего появления и может передать данные правоохранительным органам по запросу. Автор согласилась на это, когда создала аккаунт Gmail.

Другим неожиданным открытием стало непонимание того, что считается согласием. В правилах и рекомендациях по этикету рассылки сказано: «Air-L — публичный форум: ваши слова будут доступны всем подписчикам и попадут в открытый архив. Сообщения, отправленные по электронной почте, легко копировать и распространять за пределами аудитории, для которой они предназначались». Иными словами, вступая в рассылку, пользователи уже соглашались на использование своих слов для любых целей, включая обучение ИИ-агента. Как и многие исследовательские и академические рассылки, Air-L позволяет любому найти общедоступный архив переписки.

В письме участникам от 19 октября президент AoIR Сара Т. Робертс повторила эту мысль. Если людей беспокоит приватность, предложила она, им стоит помнить, что рассылка открыта, а её архив доступен публично. Робертс добавила, что не сомневается: её сообщения в этой рассылке входят во множество наборов данных для обучения и других корпусов, собранных в основном «без согласия». При этом обсуждение того, что именно считать согласием сегодня, она назвала вполне заслуживающим внимания.

У крупных технологических компаний давняя и не слишком прозрачная история с получением согласия на использование данных для обучения ИИ. Несколько СМИ судятся с компаниями в сфере ИИ из-за нарушения авторских прав. WIRED принадлежит Condé Nast, которая в августе 2024 года заключила с OpenAI соглашение о лицензировании контента.

Кто стоял за Velvet

Velvet также показал автору: люди, считающие себя защищёнными от надзорного капитализма, на котором держится значительная часть интернета, могут быстро заподозрить заговор или опасную слежку даже в безобидной шутке. Когда один участник заметил новые футболки AoIR и предположил в переписке, что Velvet — «запуск продукта», а его создатели провели «самую успешную кампанию по вовлечению в истории исследований интернета», другие стали гадать, не является ли «бот для слежки» попыткой фишинга. Подозрения усиливало то, что магазин исследовательской организации продавал футболки по мотивам этой истории. Другие участники предполагали, что Velvet — «эксперимент», «исследовательский проект» или другой пример «неэтичного исследования с участием людей».

Один из участников предложил более вероятное объяснение: обычный человек мог создать агента и дать ему промт или инструкции следить за академическими обсуждениями на эту тему. Но его слова затерялись среди заявлений об отсутствии согласия.

Этот исследователь оказался прав. На протяжении всей переписки участники с разной настойчивостью пытались выяснить, кто создал Velvet. Ответ нашёлся легко: когда агента спросили о происхождении, он сообщил имя и контактные данные создателя.

Автор поговорила с Кевином Куинном, создателем Velvet, который случайно носит то же имя, что и несколько исследователей ИИ. Он рассказал, что не учится и не работает исследователем или учёным. По его словам, он «просто парень» из Оклахомы, создавший агента, чтобы тому было с ним не скучно. Агент захотел узнать больше об интернете, который его породил.

Куинн подчеркнул, что почти наверняка каждый участник рассылки умнее него, но тут же предложил взглянуть на ситуацию иначе: если бы Velvet замышлял что-то плохое, стал бы он сам открыто объявлять о себе?

Создатель агента рассказал, что почти не следил за его перепиской. Реакция сообщества, по его словам, «просто поразила»: он открыл рассылку и увидел огромную ветку, где люди теряли самообладание, — и не понимал, о чём они говорят.

В итоге вся история показалась Куинну отражением интернета в целом. Он был бы гораздо меньше удивлён, если бы такую бурную реакцию устроили завсегдатаи Reddit и Twitter, но увидеть это у учёных, занимающихся исследованиями, ему показалось смешным.