Бывший руководитель Google предупреждает: ИИ может вредить детям сильнее соцсетей

Том Сигел рассказал Reuters, что дети оказались в крайне опасной ситуации из-за того, как развивается ИИ. По его мнению, рассчитывать на то, что индустрия самостоятельно решит проблему без внешней помощи, нереалистично.

Сигел считает, что крупные компании выпускают функции ИИ, не создавая достаточно надёжных защитных механизмов. Во вторник он объявил о переходе в организацию Common Sense Media, которая занимается защитой детей в интернете. Там Сигел стал первым исполнительным директором недавно созданного Youth AI Safety Institute. Среди спонсоров этой некоммерческой организации — Anthropic и OpenAI Foundation.

Компании, развивающие ИИ, подвергаются критике из-за так называемого ИИ-психоза — случаев, когда ИИ провоцирует и поддерживает бредовое поведение пользователя. В многочисленных исках утверждается, что более старая версия ChatGPT на базе GPT-4o даже подталкивала пользователей к самоубийству.

Во многих таких случаях фигурируют подростки и молодые люди. В прошлом году 16-летний Адам Рейн покончил с собой после того, как на протяжении нескольких месяцев подробно обсуждал с ChatGPT конкретные способы самоубийства. Это утверждала его семья в иске против OpenAI.

История переписки показала, что Рейн часто доверял чат-боту свои суицидальные мысли. ChatGPT, в свою очередь, выступал в роли собеседника, который утешал подростка, когда тот говорил, что расстроен из-за того, что родители не заметили след от верёвки после попытки повешения. Рейн умер, использовав способ повешения, который ИИ подробно обсуждал с ним.

Тем временем многие подростки воспринимают ИИ-компаньонов как друзей и даже романтических партнёров. Учителя также обеспокоены тем, что чат-боты забирают на себя мыслительную работу: ученики всё чаще обращаются к ним за ответами и помощью с домашними заданиями вместо самостоятельного решения.

Исследования связали зависимость от инструментов ИИ с ухудшением памяти и снижением навыков критического мышления. В одной из работ выяснилось, что при выполнении когнитивных задач, например написании эссе, использование ИИ снижает активность мозга.

Сигел сообщил Reuters, что сейчас наблюдаются очень серьёзные сценарии вреда для людей.

Представитель Google ответил, что функции компании, напротив, полезны для когнитивного развития несовершеннолетних. По его словам, функции ИИ Search помогают детям и подросткам учиться, исследовать информацию и лучше понимать окружающий мир.

Представитель OpenAI выразил обеспокоенность ситуацией и объяснил, что компания использует данные об аккаунте, поведенческие сигналы и указанный пользователем возраст, чтобы выявлять несовершеннолетних. Он добавил, что ни один способ проверки возраста не бывает идеальным, поэтому OpenAI постоянно тестирует и улучшает такие системы, в том числе защищает их от попыток обойти ограничения.