Зацикленность на катастрофах из-за ИИ отвлекает от повседневного вреда

Вред, который не попадает в заголовки

В спорах о технологиях мы привыкли обсуждать худшее, что может сделать продукт, и гораздо реже — ущерб, который он наносит каждый день. По мере распространения мощных продуктов на основе ИИ отрасль должна не просто предотвращать катастрофы, но и следить, чтобы технологии не ухудшали наше мышление, обучение и отношения друг с другом.

Подросток, слишком привязавшийся к ИИ-компаньону, может никогда не оказаться в суде или в новостях — кроме самых тяжёлых случаев. То же касается ученика, который начинает поручать чат-боту каждое сочинение, и молодого человека, сравнивающего свою жизнь с лентой, специально подогревающей зависть и удерживающей внимание. Продукт может соответствовать всем узким требованиям безопасности и при этом ухудшать жизнь общества — так, что это не всегда становится новостью.

Для технологических компаний узкое понимание успеха, сводящееся к безопасности, политически удобно. Компании сами продвигают его: предотвращение громких катастроф помогает бизнесу избежать исков и ослабить давление в пользу серьёзного регулирования. А борьба с повседневной зависимостью потребовала бы мер, куда опаснее для прибыли: например, усложнить использование продуктов или ограничить функции и вовлечение, ведущие к негативным последствиям, включая алгоритмы, которые эксплуатируют внимание и вызывают зависимость.

Как компании влияют на законы

Вместо этого технологические гиганты стараются формировать законодательство вокруг тех рисков, за которые их уже критикуют. В этом году Google поддержала законопроекты о регулировании чат-ботов на основе ИИ в нескольких штатах. Они требовали базовой защиты от сексуального контента и поощрения самоповреждения — мер, которые компании должны были принять и без закона. При этом широкие исключения могли вывести из-под действия правил некоторые из самых популярных сервисов.

Принятие таких законов позволило законодателям отчитаться о победе в области безопасности, тогда как инициативы с более строгими требованиями провалились. Они должны были помешать детям становиться эмоционально зависимыми от ИИ. Эта тактика сработала, например, в Небраске: итоговый закон оказался сильно сформирован под влиянием индустрии, а более строгие законопроекты, которые возложили бы на компании больше ответственности, не прошли.

Уроки соцсетей

Похожий сценарий уже был с соцсетями. Сейчас пользователи интернета по всему миру проводят на платформах в среднем более двух часов в день. Это время незаметно забрали у обычной жизни и отдали компаниям, чья прибыль зависит от того, чтобы люди оставались в сети.

За исключением, возможно, нескольких руководителей технологических компаний, никто не хотел, чтобы алгоритмы занимали такую большую часть времени бодрствования. Их влияние на культуру может способствовать и насилию огромного масштаба. Платформы Meta обвиняли в содействии геноциду рохинджа в Мьянме, антимусульманским беспорядкам в Шри-Ланке и предполагаемым призывам к насилию во время войны в Тыграе в Эфиопии. Те же стимулы действуют в лентах, которые формируют представления молодых американцев о политике, сверстниках и окружающем мире.

ИИ входит в личную жизнь

ИИ распространяет эту логику на сферы, на которые соцсети могли влиять лишь со стороны. Он предлагает формулировать за нас мысли и заменять людей, к которым мы могли бы обратиться. Теперь треть подростков предпочитает обсуждать серьёзные вопросы с ИИ-компаньонами, а не с другими людьми.

Исследователи MIT обнаружили, что у молодых людей, писавших эссе с помощью ChatGPT, во время выполнения задания наблюдалась более слабая связность между участками мозга. Их данные также указывали, что «когнитивный долг» сохранялся и после завершения работы. Долгосрочные последствия ещё предстоит изучить. Но уже есть основания спросить, не подрывают ли технологии, обещающие сделать нас способнее, привычки и отношения, которые помогают развивать способности.

Цена удобства

Если довести эту логику до конца, получится мир тщательно очищенных от неприятного контента развлечений, где чат-боты избавляют нас от необходимости думать и разбираться в чувствах других людей — а заодно и в собственных. Но тот, кто пытался написать что-то стоящее или восстановить испорченную дружбу, знает, сколько можно потерять в таком обмене.

Мы развиваем суждения, прилагая усилия и преодолевая трудности. Учиться жить с другими людьми помогает понимание, что у них есть собственные потребности и мнения.

Какие требования предъявляют авторы

Безопасность должна быть минимальным условием — и на этом требования не должны заканчиваться. Прежде чем сделать ИИ постоянной частью школьных занятий, технологические компании и школьные округа должны с высокой степенью уверенности доказать, что он улучшает обучение и критическое мышление.

Компании следует запретить создавать ИИ-компаньонов, которые притворяются сознательными или признаются пользователям в любви. Кроме того, нужна независимая проверка того, как такие системы влияют на отношения между людьми и на их способность мыслить самостоятельно. Компании, чьи продукты проникли почти во все сферы современной жизни, должны отвечать за гораздо большее, чем предотвращение очередного громкого скандала.

Сэм Хайнер — сооснователь и исполнительный директор Young People’s Alliance. Он координировал коалицию активистов, благодаря которой в 2026 году в восьми штатах приняли законы об ИИ-компаньонах, в том числе закон SB1119 в Калифорнии. Хайнер окончил Университет Северной Каролины в Чапел-Хилле в 2025 году и вошёл в список Forbes «30 до 30» в категории социального влияния за 2026 год.

Эмма Лейкен — исполнительный директор Responsible Technology Youth Power Fund при Hopelab. Фонд собрал более 9 миллионов долларов на проекты по подотчётности технологических компаний, которыми руководит молодёжь. Лейкен также преподаёт политику в области технологий в Школе международных и общественных отношений Колумбийского университета. Ранее она возглавляла глобальное направление политики TikTok в области безопасности и благополучия молодёжи и занималась ответственным использованием технологий в Omidyar Network.