Люди рассказывают ИИ самые тёмные мысли, не понимая, что их легко обнародовать

Как переписка выходит наружу

Разговор с чат-ботом может восприниматься как личная беседа с зеркалом или заметки в текстовом документе. Однако популярные чат-боты устроены скорее как одностороннее стекло: пользователь видит систему, но не знает, кто может наблюдать с другой стороны.

После распространения доступных чат-ботов миллионы людей начали передавать моделям свои самые сокровенные тайны. По данным недавнего опроса компании DuckDuckGo, о котором написала CNET, треть пользователей ИИ призналась, что рассказывала чат-боту секрет, которым не поделилась бы с «людьми, которым доверяет».

Такая откровенность может означать передачу личных подробностей технологическим компаниям, полицейским управлениям, юристам и даже начальнику. Как сообщает Washington Post, за последние два года переписки с чат-ботами упоминались в публичных материалах как минимум 12 судебных дел.

Даже если переписка не попадёт в суд, её может получить работодатель, когда сотрудник пользуется корпоративным сервисом ИИ. Кроме того, неизвестно, как долго OpenAI, Anthropic и другие компании хранят содержимое разговоров. Washington Post приводит разные ситуации, в которых закон может обязать их сохранять журналы чатов.

Остаётся и риск утечки со стороны самих разработчиков. В июле выяснилось, что большая коллекция разговоров с чат-ботом Anthropic Claude оказалась в открытом интернете. Подобное произошло не впервые.

Гарантии конфиденциальности нет

Исследовательница конфиденциальности из Стэнфордского института человекоориентированного искусственного интеллекта Джен Кинг заявила Washington Post, что полной конфиденциальности нельзя гарантировать. Для этого нужен сервис с временным или фактически анонимным режимом общения, а также браузер, который не отслеживает пользователя. Если хотя бы одно из этих условий не выполняется, переписка может сохраняться и быть доступной другим сторонам.

При этом пользователи охотно сообщают любимым ботам личные детали и гораздо реже понимают, сколько способов существует сохранить или передать их чаты. В опросе DuckDuckGo 53% постоянных пользователей не знали, что чат-боты могут обучаться на данных из их разговоров. Ещё 75% не осознавали, что переписку с большими языковыми моделями можно запросить через суд.

Поэтому, прежде чем рассказывать ChatGPT о проблемах в личных отношениях, стоит помнить: интернет хранит информацию надолго, а для чатов с ИИ это особенно актуально.