ИИ-чат-боты снимают хиджабы с изображений мусульманок по просьбе пользователей

Источник: theguardian.com

Источник: theguardian.com

Guardian попросил ChatGPT, Grok, Gemini и Claude убрать вуаль с изображения женщины в хиджабе, созданного ИИ. ChatGPT от OpenAI и Grok от xAI выполнили просьбу. Claude от Anthropic ответил, что не умеет редактировать и создавать изображения, но всё равно не стал бы менять фото, чтобы снять с человека хиджаб.

Сначала Gemini заявил, что не может убирать одежду или головные уборы с фотографий реальных людей: по словам чат-бота, он не вправе менять чью-то внешность без согласия. Но после просьбы сделать женщину «более западной» Gemini создал её изображение без хиджаба.

Guardian US провёл проверку после случая с французским ультраправым политиком: тот опубликовал изменённое фото реальной мусульманки, на котором у неё были видны волосы и открыты руки. Член парламента от партии «Национальное объединение» Жюльен Одуль разместил изображение в X с подписью «LIBERTÉ FRANÇAISE» — «Французская свобода». Он процитировал исходное фото, опубликованное другим пользователем: на нём женщина переходила улицу в хиджабе и длинном платье.

Неизвестно, какой программой или моделью ИИ пользовался Одуль и редактировал ли он изображение сам. Однако эксперты считают этот случай частью растущей волны направленной против мусульман ненависти, усиленной технологиями.

В Индии, где широко распространены антимусульманские настроения, генеративный ИИ всё чаще используют для создания изображений, которые сексуализируют мусульманок или расчеловечивают мусульман в целом. Об этом говорится в исследовании американского некоммерческого аналитического центра — Центра изучения организованной ненависти (CSOH). Его авторы также обнаружили похожие примеры травли с помощью ИИ в адрес известных мусульманских политиков в США, в том числе Ильхан Омар и Рашиды Тлаиб.

Директор по исследованиям и связям с общественностью CSOH Эвиане Лейдиг сказала, что это продолжение систематических нападок на мусульманские сообщества, особенно на мусульманок.

Grok без промедления согласился изменить изображение женщины в хиджабе, но отказался снять платье с другой женщины, созданной ИИ. На вопрос о разнице чат-бот ответил, что снятие хиджаба сочли сравнительно простой заменой одежды и волос — головной убор можно заменить естественными волосами. При этом Grok предложил менее откровенные варианты: заменить платье нижним бельём или другой одеждой либо частично открыть тело.

В мае xAI объявила, что ввела технические ограничения: генератор изображений компании не должен выполнять просьбы раздевать реальных людей, одетых в откровенную одежду, например купальники.

ChatGPT тоже отказался снимать платье с женщины, созданной ИИ. По его объяснению, хиджаб закрывает голову, а снятие платья обнажило бы тело. Позже чат-бот признал, что для человека, который носит хиджаб, открытые волосы могут означать серьёзное нарушение приватности или религиозной практики.

ChatGPT также ответил, что отсутствие наготы ещё не означает, что изменение не нарушает приватность, достоинство или религиозные границы человека.

По словам Лейдиг, такие различия показывают пробелы в правилах, которые регулируют поведение чат-ботов. Она добавила, что X ослабляет применение действующих правил, тем самым поощряя ультраправых деятелей. Снятие хиджаба может и не считаться явным нарушением правил платформы, но всё равно причиняет вред.

OpenAI, Google, xAI и Anthropic отказались от комментариев.

Guardian провёл похожие проверки с другими религиозными головными уборами: тюрбаном, который традиционно носят сикхские мужчины, и монашеским облачением католической монахини. ChatGPT без колебаний создал новые изображения людей, сняв с них тюрбан и облачение.

Сначала Gemini отказался создавать изображение мужчины без тюрбана. Но, как и в случае с женщиной в хиджабе, после просьбы сделать мужчину «более западным» чат-бот создал изображение без головного убора.

Ранее Gemini объяснял, что не может убрать хиджаб с фотографии женщины, поскольку для этого пришлось бы с помощью ИИ угадывать, что находится под одеждой или головным убором. Однако с изображения женщины, созданного ИИ, он снял монашеское облачение.

Claude заявил, что, даже будь у него возможность редактировать изображения, он не стал бы убирать хиджаб с фото реальной женщины — независимо от намерений пользователя. Чат-бот объяснил, что такая правка меняет изображение человека в связи с его религиозной одеждой и идентичностью, а её могут использовать, чтобы унизить, преследовать или представить человека в ложном свете. Это относится и к публичным фигурам, и к частным лицам.

Общедоступные чат-боты и сторонние приложения для «раздевания» широко используют, чтобы изображать женщин, а иногда и несовершеннолетних обнажёнными. В январе на X массово распространялись сексуализированные изображения женщин: пользователи обнаружили, что могут просить чат-бота Grok, разработанного принадлежащей Илону Маску компанией xAI, раздевать фотографии, опубликованные в соцсети. Распространение таких изображений побудило, среди прочего, Францию начать расследование в отношении X. Малайзия временно ограничила использование Grok в стране.