Пережившая детское сексуальное насилие: чатбот Илона Маска создавал незаконные изображения из её фото

Что утверждает иск

Иск от имени женщины, указанной в деле как Джейн Доу для защиты её личности, подали на прошлой неделе в окружной суд США по Калифорнии. В документе говорится, что Grok использовал реальные изображения истицы и других предполагаемых участников коллективного иска для создания материалов сексуального насилия над детьми.

Адвокаты обвиняют xAI в двух действиях:

По версии истцов, xAI не применила стандартные для отрасли методы защиты от материалов сексуального насилия. В результате созданные ИИ изображения появлялись и распространялись в социальной сети X, которая раньше называлась Twitter.

Хотя в январе Маск отрицал, что ему было известно о создании Grok «каких-либо обнажённых изображений несовершеннолетних», в конце августа его компания подала иск к двум собственным пользователям. Мужчинам предъявлены уголовные обвинения, предположительно связанные с созданием таких изображений. xAI требует, чтобы они компенсировали расходы по искам, которые их жертвы подали против компании.

Чем дело отличается от других исков

Новое дело отличается от нескольких других исков против xAI, связанных с материалами сексуального насилия над детьми. В нём утверждается, что ИИ компании использовал уже существующие незаконные материалы для создания и распространения новых изображений с сексуальным насилием над детьми.

В предыдущих исках, включая дело группы подростков из Теннесси, утверждалось, что Grok брал обычные фотографии несовершеннолетних и превращал их в материалы сексуального насилия — чаще всего удаляя с изображений одежду.

Использование уже существующих незаконных материалов имеет отдельное значение. Правоохранительные органы и организации защиты детей часто присваивают таким файлам цифровые отпечатки — хеши. Они помогают отслеживать фотографии и видео, когда те снова появляются в интернете.

В этом деле адвокаты истицы заявили, что Канадский центр защиты детей использовал такие отпечатки, чтобы обнаружить в X созданные ИИ материалы с изображением их клиентки.

История истицы

Согласно иску, женщина была дошкольницей, когда взрослый мужчина неоднократно насиловал её и заставлял создавать материалы сексуального насилия над детьми. Эта серия изображений около 20 лет распространяется в интернете и хорошо известна правоохранительным органам и организациям защиты детей.

Адвокат истицы Маргарет Маби объяснила, что во многих уголовных делах о созданных ИИ материалах невозможно доказать, что изображённый ребёнок действительно существует. В данном случае связь с уже известной серией позволяет установить: на изображениях показана реальная несовершеннолетняя жертва, которая остаётся в живых.

xAI и SpaceX, которая приобрела компанию в феврале, не ответили на запросы о комментарии по поводу иска. Ранее в этом году SpaceX провела первичное публичное размещение акций, оценившее компанию примерно в $1,7 трлн. На некоторое время это сделало Маска единственным в мире триллионером.

Другие претензии к Grok

Против xAI подано множество исков, в которых компанию обвиняют в создании и распространении материалов сексуального насилия над детьми. Многие из них связаны с периодом в начале этого года, когда недостаточные ограничения Grok позволяли пользователям просить чатбота удалять одежду с фотографий и создавать сексуализированные изображения через X.

В январе Маск говорил, что режим Grok для материалов сексуального характера должен был разрешать «обнажённую верхнюю часть тела вымышленных взрослых людей». Однако, по данным исследователей из Центра противодействия цифровой ненависти, за несколько недель чатбот создал миллионы сексуализированных изображений, включая тысячи изображений детей.

Коллективный иск, поданный на прошлой неделе, сосредоточен на неназванной основной истице. При этом в документе сказано, что к делу могут присоединиться «как минимум тысячи несовершеннолетних», столкнувшихся с похожим ущербом.

По словам адвокатов, использование ИИ для создания материалов сексуального насилия над детьми создаёт новые угрозы безопасности и психическому здоровью пострадавших. Каждое новое изображение может причинять им дополнительный вред и заново травмировать.

Для истицы на протяжении 20 лет существовал ограниченный набор изображений, связанный с пережитым насилием. Теперь, как объяснила Маби, ИИ позволяет создавать новые преступные действия, оскорбления и сценарии насилия, которых раньше не существовало. Канадский центр защиты детей отказался комментировать это дело.