Одна из основных групп любителей ИИ — педофилы

Найти создателей такого контента трудно: модели можно обучать на уже существующих материалах и запускать без подключения к интернету. В результате они способны создавать множество новых вариантов, оставаясь вне поля зрения специалистов, которые могли бы обнаружить их и сообщить правоохранительным органам.

По данным Bloomberg, эта тенденция привела к появлению целых сообществ в даркнете — в некоторых состоят сотни тысяч участников.

Быстрый рост открытых моделей, особенно разработанных в Китае, вызвал широкие споры. Руководители ведущих ИИ-компаний призывают ограничить их использование, ссылаясь на риски для национальной безопасности.

Однако создание материалов о сексуальном насилии над детьми с помощью таких моделей становится более непосредственной проблемой. После обхода защитных ограничений — так называемого джейлбрейка — сгенерировать подобный контент нетрудно.

Эксперт по безопасности детей Ребекка Портнофф рассказала Bloomberg, что после загрузки модели и запуска на личном компьютере почти невозможно контролировать, как её используют. По её словам, это создаёт у нарушителей ощущение безопасности.

По подсчётам Портнофф, для создания таких материалов используют более 500 открытых моделей ИИ. Два года назад их было меньше дюжины. Тем временем число сообщений о материалах, созданных ИИ, поступивших в Национальный центр по поиску пропавших и эксплуатируемых детей, в прошлом году превысило 1,5 миллиона. В 2024 году таких сообщений было 67 тысяч.

С закрытыми моделями ситуация тоже остаётся сложной. Несмотря на многолетние обещания Илона Маска, основателя компании, известной как xAI, затем SpaceXAI, а теперь SpaceXSI, остановить распространение подобных материалов, контент, созданный моделями компании, продолжает появляться в больших количествах. В предложенном коллективном иске против компании мужчину обвинили в том, что он использовал чат-бота Grok от Маска для создания около 7 000 откровенных изображений своей падчерицы.

Эксперты также обнаружили, что социальная сеть Маска X продолжает заполняться сексуализированными изображениями детей.

На фоне обострения гонки в сфере ИИ защитники прав детей опасаются, что подход Кремниевой долины «действуй быстро, исправляй потом» может усугубить проблему.