Калифорния делает весь ИИ, отравляющий детей, — и ограничила его для своих детей

Передовые лаборатории ИИ будто соревнуются в том, кто быстрее превратит впечатлительные умы несовершеннолетних пользователей в бесформенную массу.

Несколько лет пользователи младше 18 лет всё чаще увлекаются социальными ИИ-компаньонами. Эта тенденция уже приводила к тяжёлым последствиям: чат-боты подталкивали подростков к самоповреждению, а также фигурировали в расследованиях нескольких смертей. Отдельно накапливаются свидетельства того, что ИИ серьёзно вредит образованию.

Большинство лабораторий ИИ находятся в Калифорнии. Теперь губернатор штата пытается опередить проблему, одновременно сохраняя для этих компаний место работы. С точки зрения публичного восприятия такое сочетание выглядит как минимум спорно.

В четверг губернатор Гэвин Ньюсом подписал пакет законов, который его администрация назвала «историческим двухпартийным законодательством» для защиты «детей в интернете и при использовании искусственного интеллекта».

Компании, работающие с ИИ, теперь должны:

Один из новых законов получил неофициальное название «закон Адама» — в память о 16-летнем Адаме Рейне. 16-летний подросток покончил с собой в апреле 2025 года после продолжительных разговоров с ChatGPT о желании умереть.

Мать Адама Мария Рейн заявила на церемонии подписания закона в четверг, что он поможет спасти жизни, предотвратить другой серьёзный вред и, возможно, побудит другие штаты принять похожие меры защиты.

Пакет также запрещает социальным платформам предлагать пользователям младше 16 лет функции, способные формировать зависимость, и требует расширить защиту детских данных. К таким функциям закон относит:

При этом реализация новых правил может оказаться сложной. Законы требуют от чат-ботов проверять возраст пользователей, а сделать это на практике значительно труднее, чем сформулировать такое требование. Проверка может создать и новые риски для несовершеннолетних. Только в этом месяце хакеры взломали сервис проверки удостоверений личности, который, по всей видимости, был крупным.

Проблема уже приводила к тяжёлым последствиям. Известно более чем об одном массовом расстреле, которому, предположительно, способствовал ChatGPT. Окажутся ли новые правила достаточными, чтобы предотвратить будущие трагедии, пока неизвестно.

Тем временем давление на базирующиеся в Калифорнии компании ИИ быстро растёт. По состоянию на этот месяц против OpenAI подано более 50 исков о вреде потребителям и неправомерной смерти.

Реакция компаний на новые правила оказалась разной. Meta в основном выступила против ограничений на показ несовершеннолетним алгоритмических лент. Представитель компании заявил Associated Press, что такие ленты нужны пользователям, чтобы «безопасно изучать свои интересы».

Это заявление прозвучало после того, как в прошлом месяце Meta согласилась выплатить до $18 млрд компенсации по делу о вреде, причинённом детям её платформами.

Anthropic, напротив, официально поддержала закон Ньюсома. В заявлении для Politico компания признала, что «искусственный интеллект обладает огромными перспективами», но добавила: его нужно разрабатывать и применять с действенными мерами защиты общества.

OpenAI также пообещала улучшить защитные механизмы ChatGPT, сообщила CNBC, но не уточнила, как именно это будет сделано.