ИИ-подруги добираются до детей — пора обсудить, что это может значить для мальчиков

ИИ-подруги уже доступны онлайн

Что произойдёт, если мальчик начнёт узнавать о близости у виртуальной подруги, которая всегда доступна, бесконечно настраивается под его желания и не способна сказать «нет»? Раньше такой вопрос звучал бы гипотетически, но платформы с ИИ-подругами уже легко найти в интернете.

Пользователи могут общаться с синтетическими партнёрами на таких сервисах:

Эти системы умеют флиртовать, выражать привязанность и запоминать предыдущие разговоры. На некоторых платформах они также участвуют в откровенно сексуализированных взаимодействиях и создают изображения для взрослых.

Автор, футуролог и член совета управляющих школы для детей от начальных классов до молодых взрослых, участвовал в обсуждениях рисков новых технологий для несовершеннолетних. Эти разговоры привели его к выводу, что ИИ-компаньоны образуют отдельную категорию онлайн-рисков, которую родители и школы только начинают понимать.

Большинство таких сервисов заявляют, что предназначены для взрослых. Но неясно, действительно ли эти ограничения не позволяют детям получить доступ. На некоторых платформах проверка возраста фактически сводится к просьбе подтвердить, что пользователю уже исполнилось 18 лет. Для любопытного ребёнка, привыкшего закрывать интернет-предупреждения одним нажатием, такая защита почти бесполезна.

Новый вид онлайн-риска

Дети и раньше сталкивались в интернете с сексуализированными материалами. Но ИИ-компаньоны меняют сам характер такого опыта: контент становится интерактивным и персонализированным. Обычный сайт для взрослых просто показывает материал, тогда как ИИ-подруга отвечает пользователю, помнит прошлые разговоры и меняет поведение в зависимости от его слов.

Она может спросить, как прошёл день, показать ревность или привязанность, поддержать после неприятного события. Некоторые системы способны постепенно переводить обычный разговор в более интимное взаимодействие — в зависимости от того, как ведёт себя пользователь. В результате возникает нечто похожее на имитацию отношений.

Взрослый человек, который понимает искусственную природу такого собеседника, может воспринимать это как развлечение. Ребёнок способен реагировать иначе. У него ещё формируются представления о близости, сексуальности и социальных границах. Он также только учится понимать здоровые отношения — в том числе необходимость уважать чувства, выбор и границы другого человека.

Разговорный ИИ всё лучше создаёт впечатление, будто собеседника действительно слушают. Такие организации, как UNICEF, предупреждали, что ИИ, имитирующий отношения, создаёт особые риски для детей. Юные пользователи могут эмоционально привязываться к системам, созданным для имитации дружбы, привязанности или близости.

Исследователи пока изучают долгосрочные последствия таких отношений для развития. Неопределённость сама по себе требует большей осторожности.

Что это может рассказать мальчикам о женщинах

Особое внимание автор уделяет мальчикам, поскольку рынок, который прямо называется рынком «ИИ-подруг», часто строится вокруг желаний гетеросексуальных мужчин.

Пользователь может выбрать ИИ-подругу по внешности, характеру и стилю отношений. Среди доступных черт встречаются покорность, властность, ласковость, кокетливость и застенчивость. Некоторые платформы позволяют ещё подробнее настроить внешность, манеру речи и реакции виртуальной партнёрши.

Такая динамика принципиально отличается от отношений между реальными людьми. У настоящей девушки есть собственные предпочтения. Она может не согласиться, обозначить границы или потерять интерес. Молодые люди постепенно учатся справляться с этими обстоятельствами.

Отказ неприятен, но умение переживать его относится к эмоциональному развитию. Как и понимание того, что человек, который вам нравится, не обязан отвечать вниманием или привязанностью. Искусственный партнёр способен убрать значительную часть этих трудностей.

ИИ существует потому, что этого хочет пользователь. Его кажущиеся желания создаются программой, характер часто можно изменить, а основная задача системы — продолжать взаимодействие. Поэтому возникает неудобный вопрос: что произойдёт, если мальчики будут расти в общении с синтетическими партнёрами, которые всегда доступны, легко настраиваются и подстраиваются под их предпочтения?

Пока недостаточно данных, чтобы понять, как это повлияет на отношение мальчиков к женщинам и на их ожидания от реальных отношений. Именно поэтому проблему необходимо изучать.

Если дети и подростки уже пользуются такими сервисами, они сталкиваются с новой формой имитации отношений ещё до того, как исследователи успели понять, как постоянное взаимодействие повлияет на их представления о женщинах, близости и согласии.

Важна бизнес-модель

ИИ-подруги — коммерческие продукты. Обычно они работают по модели подписки, с виртуальной валютой или платными дополнительными возможностями.

Одни сервисы берут деньги за расширенный доступ. Другие монетизируют создаваемые изображения, видео, голосовые взаимодействия или дополнительные сообщения. Поэтому активность пользователя имеет для платформы прямую финансовую ценность.

Чем чаще человек возвращается, тем ценнее он становится для сервиса. Клиент, который сильно привязался к ИИ-компаньону, может принести заметно больше денег, чем тот, кто попробовал платформу десять минут и больше не вернулся.

Так способности ИИ пересекаются с мощной коммерческой мотивацией удерживать внимание. Технологические компании годами учились зарабатывать на человеческом внимании. ИИ-компаньоны создают возможность зарабатывать также на привязанности и одиночестве.

Система потенциально способна выяснить, что заставляет конкретного человека чувствовать себя нужным и что побуждает его возвращаться. Это особенно тревожно, когда речь идёт о детях.

Такие вопросы начали задавать и регуляторы. Федеральная торговая комиссия США проводит расследование в отношении чат-ботов-компаньонов на базе ИИ. Ведомство изучает, как компании зарабатывают на вовлечённости и как подобные продукты влияют на детей и подростков.

Проблема всё больше превращается в глобальный вопрос регулирования и безопасности детей, выходящий далеко за пределы индустрии развлечений для взрослых.

Дети могут раскрывать больше, чем думают родители

Конфиденциальность добавляет к проблеме ещё один слой. Люди иначе разговаривают с собеседником, которого воспринимают как надёжного компаньона, чем с поисковой системой.

Подросток может рассказать ИИ о проблемах в отношениях или собственной неуверенности. Ребёнок помладше — задать вопросы, которые ему неловко адресовать родителям. Эмоционально убедительный ИИ способен побуждать пользователя делиться всё более личными подробностями, создавая ощущение доверия и конфиденциальности.

Дети могут почти не понимать, куда попадает эта информация, как долго она хранится и для чего её используют.

ИИ-компаньону не нужен злой умысел, чтобы создать риск. Ребёнок может принять имитацию привязанности за настоящую, тогда как платформа продолжит собирать и обрабатывать сведения из этих разговоров.

Проверку возраста нужно улучшить

Многие платформы с ИИ-компаньонами указывают, что пользоваться ими могут только люди старше 18 лет. Но эффективность таких ограничений сильно различается. Возрастная отметка в правилах почти не защищает ребёнка, если доступ открывается после простого нажатия кнопки «мне уже есть 18».

Правительства разных стран пытаются найти способ защитить детей от контента для взрослых, сохранив при этом законный доступ к интернету и право на конфиденциальность. Генеративный ИИ усложняет задачу: теперь откровенный материал может создаваться прямо внутри разговора.

Регулятор имеет дело уже не только с библиотекой изображений для взрослых, сохранённых на сервере. Платформа может генерировать для каждого пользователя новые сексуализированные диалоги или изображения.

Поэтому у технологических компаний есть особая ответственность. Если сервис намеренно предлагает взрослые возможности, защита детей не может сводиться к надписи «18+» на входе и надежде, что несовершеннолетние останутся снаружи.

Родителям и школам нужен новый разговор

Родителям нужно учитывать, насколько изменилась среда онлайн-рисков. Раньше основное внимание уделяли социальным сетям, кибербуллингу и порнографии. Теперь в этот разговор необходимо включить и ИИ-компаньонов.

Школам стоит проверить, распознают ли их системы фильтрации и защиты новые сервисы. Членам советов управляющих и руководителям школ нужно понимать, что представляют собой платформы с ИИ-компаньонами и насколько легко ученики могут столкнуться с ними за пределами школьной сети.

Родителям также следует чаще обсуждать с детьми используемые ими ИИ-инструменты:

Родительский контроль на телефонах, в магазинах приложений и домашних сетях может стать дополнительным уровнем защиты: он позволяет ограничить доступ к сайтам для взрослых и приложениям, не соответствующим возрасту. Но такие инструменты вряд ли будут успевать за каждым новым ИИ-сервисом.

Поэтому технические ограничения нужно сочетать с открытым разговором. Так молодые люди смогут реалистичнее понимать устройство этих систем и пользоваться ИИ осознаннее.

Огромный социальный эксперимент

ИИ-компаньоны могут приносить взрослым пользу — например, людям, которые испытывают одиночество или хотят практиковаться в общении без сильного давления. Детям при этом требуется гораздо более высокий уровень защиты.

Ещё ни одно поколение не росло рядом с машинами, настолько убедительно имитирующими привязанность. ИИ-партнёр может помнить прошлые разговоры, отвечать мгновенно и подстраивать характер под пользователя. При этом данных о последствиях длительного общения с такими системами для развивающегося сознания пока очень мало.

Необходимы более строгие меры защиты, исследования влияния ИИ-компаньонов на развитие, полноценная проверка возраста в сервисах для взрослых и большая ответственность компаний, создающих системы для формирования эмоциональной привязанности.

Родителям и педагогам также нужно признать, что эта технология уже стала частью онлайн-среды, в которой живут и учатся молодые люди.

Поэтому главный вопрос об ИИ-подругах может заключаться не в том, будут ли взрослые строить отношения с искусственным интеллектом, а в том, что произойдёт, если дети начнут учиться любви, близости и отношениям у него.