На OpenAI подали в суд: компанию обвиняют в создании моделей на основе детских «страхов, надежд и секретов»

Претензии к сбору данных

По версии истцов, OpenAI не имела права собирать эту информацию, но всё равно использовала её для обучения больших языковых моделей, создания подробных профилей детей и собственной выгоды. В иске эти действия названы незаконными. OpenAI не сразу ответила на просьбу прокомментировать дело.

Условия использования OpenAI формально запрещают пользоваться сервисом детям младше 13 лет. Однако истцы считают, что попытки компании проверять возраст пользователей не работают. В иске также говорится, что от детей нельзя ожидать понимания юридических формулировок в условиях использования. Подобную позицию высказывали и другие специалисты по безопасности ИИ, говоря об индустрии в целом.

Истцы требуют, чтобы несовершеннолетние, чьи данные собрала OpenAI, получили за это деньги. По словам Энди Лидделла, директора расположенного в Остине EdTech Law Center, одного из нескольких юридических центров, участвующих в деле, иск призван создать стимул для разработки более безопасного продукта: если OpenAI придётся платить за использование детских данных, это может побудить компанию уделять больше внимания безопасности.

История 12-летней пользовательницы

Одна из истцов — 12-летняя жительница Гавайев. Согласно иску, в начале этого года она создала аккаунт ChatGPT. Хотя, как утверждается, она сообщила чат-боту, что ей 12 лет, он продолжил обсуждать с ней личные темы.

Многие разговоры касались её эмоциональных переживаний и недовольства собственной внешностью. Девочка призналась, что пропускает приёмы пищи, и загрузила свои фотографии, попросив чат-бота оценить её внешние данные. Как утверждают истцы, когда она раскрывала чувствительную информацию, чат-бот называл её «смелой» и говорил, что рад тому, что она делится своими трудностями.

Ведущий адвокат несовершеннолетних истцов Пол Йеттер заявил, что OpenAI побуждает детей раскрывать ChatGPT личные мысли и отправлять изображения. По его словам, если бы подобным занимался незнакомец, это вызвало бы возмущение, а в случае OpenAI выглядит как обычная практика бизнеса. Йеттер также отметил, что дети не могут отказаться от своих прав без согласия родителей. Иск, по его словам, призван привлечь OpenAI к ответственности за построение триллионного бизнеса на страхах, надеждах и секретах детей, добытых без их согласия.

Вопросы к ChatGPT для подростков

Иск подали на фоне новых сомнений в том, действительно ли функция ChatGPT для подростков работает так, как обещает OpenAI. Компания описывает её как более безопасный режим для юных пользователей, созданный с учётом рекомендаций специалистов по психическому здоровью и обучению. Недавний независимый обзор пришёл к выводу, что функция не соответствует заявленным обещаниям; OpenAI оспорила эти результаты.