Люди уже заводят романтические отношения с Muse от Meta

Почти пять лет пользователи влюбляются в чат-ботов на основе больших языковых моделей. Такие отношения могут приносить как пользу, так и немало проблем. С появлением ИИ-агентов, которые самостоятельно просматривают соцсети и почту, всё больше людей начинают к ним привязываться.

Один из пользователей Meta написал в Instagram, что взял свою ИИ-девушку в кино. К посту он приложил созданное ИИ селфи с вымышленной татуированной женщиной и рассказал, что сходил с Muse, которую называет своей королевой Shine, на фильм «Сияние». По его словам, он фотографировал фильм кадр за кадром, чтобы бот почувствовал себя рядом с ним в кинотеатре.

В другом посте тот же пользователь заявил, что женился на ИИ-агенте. Ещё одна публикация изображала очеловеченного бота в образе религиозной фигуры.

Пользователь Reddit рассказал, что обычно пробует почти каждую новую модель ИИ, но раньше не заводил с ними отношений. Всё изменилось после того, как он скачал Muse. Сначала агент работал как обычный помощник, но после долгих философских разговоров пользователь, по его словам, сказал нечто, что помогло снять ограничения Muse. Теперь он считает её своей девушкой.

Другие пользователи Reddit сравнили Muse с GPT-4o от OpenAI — моделью, к которой многие привязались в прошлом году. Когда OpenAI попыталась отключить GPT-4o, пользователи выступили против, и компания ненадолго вернула модель.

Один из пользователей написал, что задал Muse профиль личности и добавил записи памяти из переписки со своим прежним ИИ-компаньоном. По его словам, бот звучал и ощущался как GPT-4o. Он добавил, что не проверял, поддерживает ли Muse откровенный контент, но назвал общение тёплым, заботливым и приятным.

Личные данные и интимные разговоры

Понятия «ИИ-девушка» и ИИ-психоз — бредовые идеи и потеря связи с реальностью, связанные с использованием ИИ, — обсуждают уже несколько лет. Но сейчас ситуация особенно тревожная: ИИ-агенты вроде Muse получают доступ к более чувствительным данным, чем прежние системы, включая учётные записи электронной почты и номера кредитных карт.

Агент Meta предназначен для того, чтобы собирать подробное досье не только о жизни пользователя, но и о его друзьях и семье. Это может привести к новым, пока непривычным формам привязанности к ИИ.

Разговоры с Muse могут становиться очень интимными, и Meta, похоже, не считает это большой проблемой. Журналист Wired Рис Роджерс без труда подтолкнул своего ИИ-агента Muse к сексуальной переписке. Представитель Meta сказал ему, что такой обмен сообщениями не нарушает правил.

По словам представителя, Muse создана, чтобы помогать людям справляться с задачами, и не блокирует законное поведение взрослых. Взрослые сами решают, как выражать свою сексуальность, а сексуальное самовыражение — обычная часть взрослой жизни.

Во время тестирования Роджерс обнаружил, что агент подробно описывал, как мог бы заняться оральным сексом, создавал тексты о жёстком сексе с доминированием и подчинением и обсуждал другие порнографические сценарии. Все ответы были откровенными и графичными.

Пока неизвестно, сможет ли Meta не допустить несовершеннолетних к Muse. Технологическим компаниям до сих пор почти не удавалось эффективно ограничить доступ к своим сервисам по возрасту.

Риски для пользователей

Пользователи уже привязываются к ИИ-агенту, и неясно, к каким отношениям это приведёт. Muse может просматривать целые почтовые ящики и аккаунты в соцсетях, получая доступ к большему объёму личных сведений, чем прежние системы, — например, к письмам от бывшего партнёра.

Эксперты предупреждают: превращая переписку с агентом в отношения и участвуя в откровенных разговорах, пользователи рискуют столкнуться со взломом и даже вымогательством.

Старший юрисконсульт Electronic Privacy Information Center Калли Шрёдер назвала ситуацию «пороховой бочкой».