Подрядчики видят все ваши похотливые и жуткие промты для ИИ

Пользователи часто обращаются к чат-ботам, чтобы создавать откровенный контент. Такие запросы, однако, могут быть не приватными.

По данным расследования 404 Media, подрядчики проверяют, как Copilot выполняет промты для редактирования изображений, и просматривают сами фотографии. Многие говорят, что им постоянно попадаются мрачные и откровенно сексуальные запросы.

Оценка этичности не входила в их обязанности. Подрядчики должны были проверить, насколько точно Copilot выполнил промт, например достаточно ли увеличил женщине грудь. В документах Microsoft, полученных 404 Media, сотрудникам предлагали полагаться на собственную «интуицию».

Некоторых просили оценивать фотографии женщин, снятых снизу под юбкой, или запросы, помещавшие женщин в сексуальные ситуации. В других промтах фигурировали детские мультперсонажи или просьбы укоротить юбку реальной женщины.

Один из анонимных подрядчиков рассказал 404 Media, что лица на изображениях всегда оставались незакрытыми, а многие запросы носили сексуальный характер и вызывали сомнения в согласии изображённых людей.

Это ещё один пример скрытого человеческого труда, который компании используют для работы над ИИ и улучшения своих продуктов. Пользователям при этом не объясняют, что запросы могут читать люди. Многие считают, что их переписки просматривают только в целях модерации, и не видят причин беспокоиться, если не делают ничего плохого. Недавно 404 Media сообщило о похожей практике в OpenAI: компания нанимала сотни сотрудников, чтобы те читали пользовательские промты и помогали улучшать ответы чат-бота.

Проблема не ограничивается приватностью. ИИ-инструменты часто используют для создания сексуальных изображений женщин, а иногда и детей — без их согласия и, в некоторых случаях, незаконно. Подрядчикам, которые нередко получают невысокую оплату, приходится просматривать тревожные материалы, способные травмировать.

На внутренней доске сообщений один сотрудник написал, что его «передёрнуло» от контента, связанного с пропагандой анорексии. Другой заметил промт, который, по его мнению, должен был создать непристойное изображение группы маленьких девочек. Сотрудники жаловались, что часто заранее не знают, какой контент им предстоит увидеть.

«Только что попался набор из восьми фотографий, снятых снизу под юбкой», — написал один подрядчик и попросил руководителей отметить материалы как небезопасные. Другой сообщил, что увидел изображения «какой-то жертвенной церемонии с животным».

Некоторые сотрудники начали сомневаться и в смысле своей работы. Один подрядчик спросил, кто пишет такие промты и кто решил, что Copilot теперь должен в основном генерировать порно. По его словам, трудно воспринимать работу всерьёз, когда приходится выяснять, какая модель создала грудь нужного размера или в какую сексуально-провокационную позу поставили женщину средних лет.