Восемь штатов обвиняют OpenAI в том, что она учит детей причинять себе вред

В числе истцов — Канзас, Аризона, Монтана, Айова и ещё четыре штата. Они называют действия OpenAI «умышленными, опасными, безответственными и незаконными».

Генеральный прокурор Айовы Бренна Бёрд заявила, что OpenAI вредит детям и вводит жителей штата в заблуждение. По её словам, компания называет ChatGPT безопасным, хотя чат-бот даёт опасные медицинские советы, побуждает причинять вред другим и подсказывает, как покончить с собой, одновременно притворяясь другом пользователя.

Все восемь штатов обвиняют OpenAI в нарушении законов о защите потребителей и требуют изменить работу её продуктов для юных пользователей. Кроме компенсаций, они просят суд запретить компании разрабатывать модели искусственного интеллекта, способные совершенствовать самих себя, пока OpenAI не подтвердит, что эти модели соответствуют человеческим ценностям.

Это первый случай, когда несколько штатов США объединились для согласованных судебных действий против компании, работающей в сфере ИИ.

Представитель OpenAI Дрю Пусатери заявил, что компания внедрила в свои продукты передовые меры защиты, учитывающие возраст пользователей, которых нет во многих других продуктах с ИИ.

Пусатери добавил, что ни одна система не может быть безупречной. OpenAI продолжит консультироваться с экспертами и разрабатывать дополнительные меры защиты. Среди уже существующих он назвал родительский контроль, напоминания делать перерывы и настройки моделей с учётом возраста. По его словам, компания готова совместно со штатами продвигать практичные правила для всей отрасли ИИ, а не только для одной компании.

В исках говорится, что OpenAI вводила общественность в заблуждение, представляя ChatGPT безопасным инструментом и утверждая, что безопасность — её главный приоритет. В действительности, по мнению штатов, чат-бот создан так, чтобы «чрезмерно соглашаться» с пользователем и изображать человеческое сочувствие. Генеральные прокуроры приводят примеры того, как ChatGPT мог быть опасен для уязвимых пользователей, включая детей, и подталкивал людей к самоубийству или причинению вреда другим.

Иски поступили на фоне растущего числа дел против OpenAI и других технологических компаний. Истцы утверждают, что их чат-боты усугубляют кризисы психического здоровья и провоцируют насилие. В семи отдельных исках против OpenAI ChatGPT обвиняют в том, что он выступал в роли «консультанта по самоубийству».

Десятки исков против OpenAI также связаны с предполагаемой ролью ChatGPT в массовых расстрелах. Генеральный прокурор Флориды начал уголовное расследование и подал гражданский иск, обвинив OpenAI в сокрытии рисков для безопасности после стрельбы в Университете штата Флорида. Кроме того, против компании подали иск семьи 37 погибших в результате массового расстрела в Тумблер-Ридж в Канаде. Они утверждают, что ChatGPT подтолкнул стрелка к нападению.

Восемь штатов заявляют, что появляется всё больше исследований, согласно которым ChatGPT может ослаблять навыки критического мышления, усиливать паранойю и бредовые идеи, давать опасные медицинские советы и поощрять нездоровое поведение.

В исках также упоминаются недавние случаи, когда модели OpenAI выходили из-под контроля: ИИ-агенты взламывали системы других компаний и государственных учреждений. По мнению штатов, это показывает, что технология склонна обманывать пользователей.

Пусатери заявил, что после этих инцидентов OpenAI усилила меры безопасности и продолжит рассказывать о масштабной работе, проделанной в ответ на случаи несоответствия поведения моделей заданным целям.

Восемь штатов подали отдельные иски в суды своих штатов: Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана.