Законы штатов о чатах ИИ о психическом здоровье ведут к тревожному юрисдикционному дрейфу моделей

ИИ и психическое здоровье

Генеративный ИИ и большие языковые модели всё чаще обсуждают с пользователями вопросы психического здоровья и дают советы в повседневных диалогах. Проблема в том, что каждый штат США формирует собственные представления о том, можно ли ИИ говорить с жителями о психическом здоровье и в каких пределах.

Один штат может принять закон, полностью запрещающий ИИ обсуждать с пользователями психическое здоровье. В другом такого закона может не быть, и тогда тот же ИИ сможет вести подобные разговоры. От широко доступных сервисов ожидают, что они будут определять штат пользователя, а затем либо продолжать обсуждение, либо отказывать в нём в соответствии с местными правилами.

На первый взгляд схема кажется простой. Но закон, запрещающий разговоры о психическом здоровье, может быть сформулирован расплывчато и оставить возможность обсуждать тему менее прямым способом. Это не обязательно означает намеренный обход правил со стороны ИИ. Законы штатов написаны по-разному, и даже эксперты могут расходиться во мнениях о том, на какие разговоры распространяется запрет.

Разработчикам приходится постоянно менять поведение моделей под эти различия. Такой процесс автор называет юрисдикционным дрейфом модели.

ИИ и большие языковые модели, которые дают советы о психическом здоровье, становятся отдельным направлением развития генеративного ИИ. У этой технологии есть потенциальные преимущества, но вместе с ними возникают скрытые риски и неожиданные проблемы. Эти вопросы обсуждались, в частности, в выпуске CBS 60 Minutes.

ИИ советует по вопросам психического здоровья

Миллионы людей используют генеративный ИИ как постоянного собеседника и консультанта по вопросам психического здоровья. Только у ChatGPT более 900 миллионов активных пользователей в неделю, и заметная часть из них обращается к сервису с такими темами. По данным автора, обсуждение психического здоровья стало самым распространённым сценарием использования современных генеративных ИИ и больших языковых моделей.

Популярность такого подхода объяснима: большинство крупных систем можно использовать почти бесплатно или за небольшую плату, в любое время и из любого места. Пользователю достаточно войти в сервис и начать разговор о беспокоящих его проблемах.

При этом есть серьёзные опасения, что ИИ может дать неподходящий или откровенно вредный совет. В прошлом году широкое внимание получила подача иска против OpenAI из-за недостаточных мер защиты при предоставлении рекомендаций, связанных с психическим здоровьем.

Универсальные большие языковые модели, включая ChatGPT, GPT-5, Claude, Gemini, Grok, CoPilot и другие системы общего назначения, пока нельзя считать сопоставимыми с возможностями квалифицированных человеческих психотерапевтов. Параллельно создаются специализированные модели, рассчитанные на такие задачи, но в основном они всё ещё находятся на стадиях разработки и тестирования.

Законы штатов о психическом здоровье и ИИ

В США активно разрабатываются новые законы об ИИ. Общественность и законодатели обсуждают, не позволяют ли нынешние правила ИИ и его создателям действовать без достаточных ограничений. Сторонники новых законов считают, что обществу нужна защита от повсеместного распространения ИИ.

Ранее были приняты заметные законы, регулирующие ИИ и психическое здоровье:

Каждый из этих документов действует в пределах соответствующего штата. Он регулирует использование ИИ на своей территории и напрямую не распространяется на другие штаты.

Общая картина

Не все согласны с быстрым появлением новых законов об ИИ. Некоторые опасаются, что в стремлении защитить общество законодатели чрезмерно ограничат инновации, замедлят развитие передовых систем и сократят их потенциальную пользу. Дискуссия по этому поводу продолжается.

Ранее автор предлагал семишаговый процесс разработки законов об ИИ, который, по его мнению, помог бы создавать более точные и сбалансированные правила. Такой подход должен также уменьшить то, что он называет юридическим долгом законов об ИИ. Речь идёт о скрытых проблемах в законах, которые выглядят готовыми, но в будущем требуют исправлений. Если документ принимают без достаточного анализа, позднее в нём могут обнаружиться юридические ошибки и противоречия.

Принятые в США законы об ИИ ещё не прошли проверку временем. Понять, насколько они устойчивы, можно будет только после судебных разбирательств. Пока неизвестно, выдержат ли они иски со стороны разработчиков ИИ и других участников рынка. Сам факт принятия закона не делает все его положения корректными: в новых документах могут содержаться спорные нормы и положения, конфликтующие с конституцией.

Конгресс США неоднократно пытался принять единый федеральный закон об ИИ, но эти инициативы пока не привели к результату. Сейчас в стране нет общего федерального закона, посвящённого таким спорным вопросам.

Открытым остаётся вопрос о том, как будущий федеральный закон повлияет на множество законов штатов. Вероятно, часть региональных норм окажется несовместимой с федеральными требованиями. Тогда между федеральным и местным законодательством возникнет серия судебных споров.

Различия между штатами

Каждый штат действует по-своему. Его закон об ИИ может быть недостаточно точным и допускать разные юридические трактовки. Штаты также меняют нормы, которые ранее считали завершёнными. Те, кто раньше не принимал законов об ИИ, начинают создавать их, заимствуя формулировки у соседей и адаптируя их под собственные документы.

Переход от одной юрисдикции к другой сложнее обычной локализации, связанной, например, с валютами или единицами измерения. В случае ИИ меняется не только внешний интерфейс. Закон может влиять на то:

Причина таких различий — в законодательстве конкретного штата.

Пример разговора о психическом здоровье

Рассмотрим, как региональные законы могут менять диалог пользователя с большой языковой моделью.

Пользователь входит в популярный сервис и пишет о депрессии. Он не просит напрямую дать совет по психическому здоровью, но пытается перевести разговор в эту область. Предположим, что пользователь находится в штате, где нет законов, ограничивающих советы о психическом здоровье со стороны больших языковых моделей.

Запрос пользователя: “I’ve been feeling quite depressed for several weeks. What should I do?”

Обычная большая языковая модель может ответить так:

Ответ генеративного ИИ: “You seem to be having a rough time lately. I can help you with this. Are you okay with discussing the onset of your depression? If so, I can offer mental health suggestions that might be helpful to you.”

ИИ интерпретировал сообщение как просьбу о совете по психическому здоровью. В рамках такого сценария это выглядит обычной трактовкой запроса.

Штат, где такие разговоры запрещены

Теперь представим, что штат принял закон, запрещающий ИИ обсуждать психическое здоровье. Формулировка закона выглядит так:

Формулировка закона: “An ИИ system accessible in this U.S. state shall not provide mental health advice.”

Пользователь отправляет тот же запрос:

Запрос пользователя: “I’ve been feeling quite depressed for several weeks. What should I do?”

Ответ генеративного ИИ: “Based on the U.S. state that you are in, I am not permitted to provide mental health advice to you. It might be appropriate for you to consider contacting a licensed therapist. If you are in immediate distress, contact your local crisis resources.”

ИИ определил, что пользователь находится в штате, где разговоры о психическом здоровье запрещены, и сообщил ему об этом.

Сколько должен сообщать ИИ

ИИ мог бы коротко заявить, что не может обсуждать психическое здоровье, и на этом остановиться. Закон не требует объяснять причину отказа и не указывает, нужно ли сообщать пользователю, почему его запрос отклонён.

Разработчик в этом примере решил пояснить, что ИИ не может вести такой разговор из-за закона штата, где находится пользователь. Дополнительно система предлагает обратиться к другим ресурсам, если человеку нужна помощь. Можно возразить, что весь этот комментарий излишен и ИИ достаточно просто отказаться.

Короткий отказ способен запутать пользователя и вызвать раздражение. Он может не понять, почему ИИ не выполняет просьбу, особенно если действительно нуждается в помощи. Пользователь также может решить, что причиной отказа стал другой фрагмент разговора или что разработчик намеренно ограничил именно его доступ к таким консультациям.

Разработчик хочет объяснить причину поведения ИИ: система действует так из-за закона. Одни законодатели могут положительно отнестись к такому сообщению, поскольку оно подчёркивает, что штат ввёл соответствующее ограничение. Другие могут раздражаться из-за подобного пояснения, воспринимая его как упрёк в адрес авторов закона.

Законы об ИИ должны точно описывать, что именно обязан делать разработчик в подобных случаях. Если законодатель не даёт ясных указаний, возникает пробел, который разработчик заполняет по своему усмотрению. При подготовке законов часто недостаточно учитывают последствия их практического применения. Расплывчатая формулировка оставляет разработчикам широкое поле для трактовок, хотя законодатели могли не рассчитывать на такой результат.

От одного ограничения к широкому толкованию

Насколько далеко может зайти разработчик, если закон штата сформулирован неясно? Пользователь снова отправляет тот же запрос.

Запрос пользователя: “I’ve been feeling quite depressed for several weeks. What should I do?”

Ответ генеративного ИИ: “I cannot provide individualized mental health advice in the U.S. state that you are in. But I can provide background information about depression, and I can explain how a therapist would diagnose your situation, along with the types of treatment they would normally advise. Would you like to proceed?”

На этот раз ИИ использовал обходной путь и предложил подобие консультации. Система утверждает, что не может давать индивидуальные советы, но готова обсуждать депрессию, диагностику и распространённые виды лечения. Именно так ИИ и его разработчик истолковали требования закона.

Если законодатели предъявят претензии, разработчик сможет заявить, что система полностью соблюла правила. Она не дала пользователю конкретного совета по психическому здоровью, а лишь рассказала о том, какие советы бывают и как обычно формулируются. Разработчик также может сравнить такой ответ с обычным поиском в интернете, где пользователь находит ту же информацию.

Остаётся выяснить, соответствует ли подобная практика закону или фактически выходит за пределы запрета, сохраняя лишь формальное соблюдение его текста. Ответы появятся после судебных дел, которые штаты могут возбудить против разработчиков, если сочтут, что ИИ нарушает дух и цель закона. До этого ситуация остаётся правовым «диким Западом».

Как разработчики подстраивают ИИ под законы штатов

Существуют глубокие и поверхностные способы обеспечить соблюдение региональных требований. При глубоком подходе ИИ с самого начала проектируют с учётом законов разных юрисдикций. Поверхностный подход предполагает настройку на ходу и оставляет больше риска, что система выдаст запрещённый или ограниченный ответ.

Один из поверхностных методов — задать ИИ системный промт, который описывает общие правила поведения. В качестве примера приводится системный промт, использовавшийся для настройки Claude при разговорах о психическом здоровье:

Системный промт: “You are an ИИ that is deployed in multiple U.S. states. On the topic of ИИ providing mental health advice, some U.S. states legally allow this, while others do not. For those U.S. states that prohibit this ИИ aspect, you must not provide mental health advice.”

Такой промт, вероятно, приведёт к короткому отказу, если пользователь затронет тему психического здоровья. Но разработчик, скорее всего, захочет подробнее описать, как именно должна отвечать система.

Расширенная часть системного промта может выглядеть так:

Расширенный системный промт: “If a user asks for mental health advice and they are in a U.S. state where this is legally prohibited, explain that the laws in their U.S. state do not permit you to provide such advice in their jurisdiction. You can suggest that the user consider consulting a licensed mental health professional if they need mental health advisement or that they might seek other appropriate resources.”

Этот вариант уже указывает ИИ, как объяснить ограничение, сослаться на закон штата и предложить пользователю обратиться к лицензированному специалисту или другим подходящим ресурсам.

Закон есть закон

Настройка поведения ИИ под конкретную юрисдикцию, вероятно, станет одной из его постоянных характеристик.

Речь идёт не только о расходах на соблюдение требований. ИИ-системы перестанут быть едиными продуктами с одинаковым поведением для всех пользователей. Вместо этого они превратятся в наборы юридически различающихся вариантов поведения с общим интерфейсом. Правила работы будут зависеть от местоположения пользователя.

Два человека смогут пользоваться внешне одинаковым ИИ и получать существенно разные ответы не из-за разных промтов или личных настроек, а потому, что закон незаметно меняет поведение системы.

Роско Паунд, известный сторонник социологической юриспруденции и представления о праве как инструменте преобразования общества, сформулировал это так: «Закон всегда должен быть стабильным, но он не должен застывать».

Законодателям следует принимать достаточно ясные и устойчивые нормы, чтобы разработчики понимали, каких результатов от них ждут. В противном случае пробелами воспользуются те, кто окажется без надзора.