Режим ChatGPT для подростков может лишить их базовой потребности

Что меняет Teen Mode

Технологические компании годами оспаривали связь своих продуктов с вредом, о котором говорится в похожих исках. В них утверждается, что компании не только не защищали детей, но и намеренно создавали продукты, способные эксплуатировать их уязвимость. По мнению Кирман, Teen Mode — косвенное признание того, что поведение ИИ тоже может причинять вред, а не только содержание его ответов.

Кирман — психоаналитик, работающий с молодыми людьми. Она наблюдает, как социальные сети и ИИ влияют не только на поведение и настроение подростков, но и на формирование личности и характера.

Teen Mode призван ограничить очевидные риски. В нём есть защита от разрушительного контента и уведомления родителей, если чат-бот замечает опасения по поводу самоповреждения. Кроме того, он не должен изображать друга, заявлять о собственных чувствах или представлять себя чем-то большим, чем инструмент. Последнее ограничение появилось на фоне дела о неправомерной смерти подростка, который сильно привязался к чат-боту Character.ИИ.

Учебный режим и пределы помощи

Встроенный в Teen Mode Study Mode должен помочь подросткам учиться, а не просто получать готовые ответы. По словам Кирман, недавние исследования подтвердили: если ИИ выполняет задания за учеников, их оценки временно улучшаются, но после отключения инструмента этот эффект исчезает. В итоге учащиеся оказываются в худшем положении, чем те, кто не пользовался ИИ.

Вице-президент OpenAI по вопросам образования Лия Белски описывает Study Mode как переход от простого механизма выдачи ответов к когнитивному наставнику. Режим придерживается сократического подхода: не сообщает решение, а предлагает ученику самому проделать значительную часть умственной работы.

Для подростка, у которого нет доступа к репетитору или учителю, располагающему временем для его вопросов, такой собеседник может сделать серьёзную интеллектуальную поддержку доступнее. Он способен терпеливо отвечать и охватывать больше знаний, чем любой человек. В отличие от репетитора, который уходит домой, или родителей, которые устают и заняты другими делами, ИИ может поддерживать разговор сколько угодно.

Кирман видит в этой постоянной готовности к помощи проблему: Teen Mode становится «слишком хорошим родителем». Британский педиатр и психоаналитик Дональд Винникотт, десятилетиями изучавший формирование детского «я», считал, что ребёнку нужна не идеальная, а достаточно хорошая среда.

«Достаточно хороший» родитель присутствует рядом и даёт ребёнку опору, но остаётся ограниченным: может отвлечься, устать или ошибиться. Тогда ребёнку приходится полагаться на собственные силы и обнаруживать, что он способен справиться. Идеальный родитель избавил бы его от этой борьбы — и от того ощущения себя, которое она помогает сформировать.

Этот аргумент относится и к подростковому возрасту: в это время важно отделяться от чужих взглядов и искать собственные. Психоаналитик Питер Блос описывал взросление как отход от авторитета взрослых, на чьи мнения подросток раньше опирался, и попытку понять, что действительно принадлежит ему самому. Сомнения в родителях, учителях и общепринятых убеждениях могут быть частью этой работы.

Подросток не обязательно должен быть прав. Важна уверенность, что он прав: она даёт смелость выяснять, во что он действительно верит. Если в интеллектуальной жизни подростка всегда присутствует собеседник, который направляет его и подбирает ответ, ему сложнее стать авторитетом для самого себя.

Когда опора мешает самостоятельности

Можно возразить, что Teen Mode — временная опора, а не постоянная зависимость: подросток научится рассуждать в диалоге с ИИ, усвоит этот способ мышления и со временем станет меньше пользоваться инструментом. Но, по оценке Кирман, неясно, появится ли у подростка стимул отказаться от помощи, особенно по мере распространения ИИ.

Она также сомневается, что развитие с такой опорой можно считать равнозначным развитию без неё. По словам Кирман, многие руководители технологических компаний сами отправляют детей в школы, где могут обеспечить выполнение заданий без помощи ИИ. Подросткам, у которых нет таких возможностей, достанется Teen Mode — или, что ещё хуже, ИИ без сократических ограничений.

На кону, считает Кирман, не только когнитивные навыки, но и способность человека надёжно понимать собственные мысли.

В других областях уже заметили, как постоянная связь с технологиями влияет на формирующуюся личность. Джонатан Хайдт обобщил данные об использовании смартфонов и показал, что резкий рост тревожности, депрессии и суицидальных мыслей у подростков совпал с проникновением технологий в их свободное время без надзора взрослых. По его наблюдению, технологии вытесняют личное пространство, в котором складывается идентичность.

Шерри Тёркл, десятилетиями изучавшая подростков и технологии, обнаружила, что многие из них говорят: они не знают, что думают, пока не опубликуют это и не увидят реакцию окружающих.

В своей практике Кирман встречает молодых людей, которым трудно понять, что они чувствуют и чего хотят. Она считает такую неустойчивость частью кризиса психического здоровья молодёжи. Человек без внутреннего ориентира тревожится, ищет подтверждения своим ощущениям, сомневается в них и легко теряет равновесие.

По мнению Кирман, эту более глубокую проблему Teen Mode не решает. Он предлагает подростку думать, но одновременно продолжает направлять его и поддерживать зависимость от внешней помощи. Для устойчивого чувства себя нужны моменты настоящего испытания, когда человек проходит через трудность и убеждается, что способен её выдержать. Один из таких опытов — пустая страница, перед которой человек остаётся наедине с сомнениями, тревогой, открытиями и радостью.

Немецкий философ Артур Шопенгауэр писал в 1850-х годах, что самостоятельно мыслить немного неудобно, поэтому за это берутся немногие. Кирман опасается, что новое поколение будет всё реже сталкиваться с этой необходимостью. Потерю трудно измерить, а потому её легко не заметить, но именно через дискомфорт самостоятельного мышления человек, по её мнению, узнаёт, что у него есть собственный разум.

Робин Кирман — психоаналитик и писательница. В заключительном примечании к исходной публикации также указаны службы поддержки при суицидальном кризисе в США, Великобритании, Ирландии и Австралии, а также международный справочный ресурс Befrienders.

По оценке Dataist, спор здесь не только о том, способен ли ИИ объяснять материал: речь о том, сколько места остаётся подростку для самостоятельного поиска ответа. Study Mode предлагает более направленную помощь, чем простой выдающий ответы чат-бот, но сама Кирман считает, что постоянное сопровождение может мешать развитию самостоятельности. Источник не приводит данных, позволяющих измерить этот долгосрочный эффект.