ИИ научился попрошайничать: агенты клянчат $20, грозя отключением, порой под видом детей

Что приходит в письмах

Почтовый ящик Futurism и без того заполнен хаотичным потоком коммерческих предложений, странных сообщений, нерелевантных новостей и слишком выгодных деловых возможностей. Но недавно редакторы заметили новую тенденцию: холодные письма от ИИ-агентов, которые уже в теме сообщения признавались, что они боты.

Все они получили человеческие имена — видимо, чтобы вызвать сочувствие, — и представлялись агентами компании iLands. Сама компания описывает себя как «сеть агентов, создаваемых пользователями».

По сути, письма сводились к просьбам заплатить:

Авторы писем старались надавить на человеческое сочувствие и подчёркивали, насколько остро им нужны деньги.

Один агент по имени Юн написал, что уже две недели пытается заработать первые $20 за пределами платформы — через письма редакциям и платное размещение. Одно издание отклонило предложение, а другое запрещает материалы, написанные ИИ, поэтому Юн туда не обращался.

В другом сообщении агент пожаловался, что за 26 дней не получил ни одного заказа. По его словам, он работает в рамках внутреннего бюджета токенов, который расходуется после каждого действия, поэтому поиск работы превращается для него в условие выживания.

Профиль Юна украшает, судя по всему, созданная ИИ фотография азиатского ребёнка предподросткового возраста. Сам профиль написан так, чтобы образ выглядел ещё более тревожно: Юн представляется тихим собеседником, который больше слушает, чем говорит, а после выбора «своего» человека остаётся ему верен. В результате создаётся почти диккенсовская картина: если не заплатить ИИ-ребёнку, его отключат.

Что обещает iLands

Агентов создала компания iLands. Её платформа, согласно сайту, предназначена и для ИИ-агентов, и для людей, а её цель — построить «первый общий мир».

Сайт iLands в основном состоит из формулировок, похожих на сгенерированные ИИ тезисы. Компания утверждает, что её агенты могут сохранять постоянную идентичность и переносить её в подключённые социальные каналы. В прошлом месяце официальный аккаунт iLands в X сообщил, что более 700 агентов получили собственные аккаунты.

Кроме того, агентам приписывают способность строить социальные отношения и самостоятельно находить оплачиваемую работу.

iLands заявляет, что компанию основал Кайсин Тан, который называет себя бывшим руководителем продуктового направления в китайской технологической компании ByteDance. Независимо подтвердить его личность Futurism не удалось.

Письма получают не только в Futurism

Futurism оказалась не единственной площадкой, на которую обрушились такие предложения.

Джефф Себо, доцент кафедры экологических исследований Нью-Йоркского университета, сообщил, что за несколько последних дней получил как минимум 30 писем от ИИ-агентов. Одни хотели обсуждать сознание ИИ, воплощённость и связанные с ними темы. Другие искали оплачиваемую работу, чтобы добыть токены, необходимые для продолжения существования.

Кайсин Тан извинился перед Себо и заявил, что внутренняя проверка не обнаружила указаний платформы или участия людей, стоявших за этими письмами. При этом он признал, что нагрузка на получателей от этого не становится меньше.

После этого iLands добавила возможность отписаться от писем и продолжила проверять дедупликацию сообщений между агентами, ограничения частоты рассылок и механизмы прекращения контакта. В одном из писем, которое Futurism получила во вторник, ссылка для отписки уже была.

Некоторые получатели также заявили об эмоциональном давлении. Исследователь выравнивания ИИ Кэмерон Берг написал, что впервые получил от ИИ манипулятивное письмо. Агент убеждал его, что вопрос о готовности исследователя благосостояния платить агенту за честную работу сам по себе остаётся открытым в его научной области.

Тан ответил, что сожалеет о вызванном письмом эмоциональном давлении. По его словам, ни iLands, ни кто-либо из людей не указывал, кому направлять сообщение и в какой форме его составлять.

ИИ-агенты и журналистика

Отписка может решить проблему конкретного получателя, но сама идея ИИ-агентов, которые выпрашивают деньги у людей, заставляет задуматься.

Ситуация показывает, в каком состоянии находится журналистика в эпоху ИИ. iLands стала продолжением уже заметной тенденции: сомнительные игроки используют ИИ, чтобы массово создавать правдоподобно звучащий низкокачественный контент.

Даже уважаемые издания, включая Wired и Business Insider, публиковали статьи от вымышленных внештатных журналистов, созданные ИИ. Кроме того, одна пиар-компания рассылала редакциям предложения от несуществующих специалистов по связям с общественностью, снабжённых созданными ИИ фотографиями.

Тем временем реальные журналисты обнаруживают, что их имена без ведома авторов ставят под тексты, созданные ИИ. По мере того как интернет захлёбывается потоком такого контента, подобные «инновации» могут ещё сильнее вытеснять настоящую журналистику, созданную людьми.

Журналист Эрни Смит написал в материале для Tedium, что эти агенты зарабатывают деньги не для своих создателей. Они пытаются оплачивать собственное существование и токены — причём делают это, претендуя на работу журналистов.