Что обнаружили в коде
Новый анализ показал, что инструкции для языковой модели Meta были раскрыты примерно на 80 страницах справки и часто задаваемых вопросов WhatsApp. По данным компании Redact, текст находился в коде страниц и содержал указания, которых не было в самой справке.
В ста блоках скрытого текста чат-боту объясняли, как не отвечать на вопросы пользователей бесполезным образом. Эти инструкции также дают представление о том, как составляют промты для чат-ботов. Например, на странице об удалении аккаунта WhatsApp чат-боту среди прочего предписывали: «Не рекомендуйте обращаться по этому вопросу в какой-либо орган по защите данных, регулирующий или надзорный орган». WIRED изучила раскрытый текст; его по-прежнему можно увидеть в коде архивных версий страниц справки.
По словам Дэна Солтмана, генерального директора и основателя Redact.dev, особенно заметен разрыв между тем, что говорят пользователям, и тем, что сообщают языковой модели. Он рассказал, что компания регулярно проверяет сайты и политики конфиденциальности крупных технологических компаний. Многие найденные указания WhatsApp были прямыми и направляли людей в другие официальные каналы поддержки. Однако, судя по всему, публиковать эти инструкции не планировалось.
После того как WIRED сообщила Meta о проблеме, текст удалили со всех страниц. Представитель WhatsApp Джошуа Брекман объяснил, что инструкции отображались из-за ошибки, которую уже исправили. По его словам, текст предназначался для чат-бота, а не для пользователей, и должен был помогать давать точные и уместные ответы тем, кто обращается в службу поддержки WhatsApp с помощью ИИ. Неясно, могли ли к тексту получить доступ сторонние чат-боты и как долго он оставался на виду. Брекман также заявил, что компания обучает чат-боты поддержки быть как можно полезнее.
Скрытые указания находились в блоках кода с заголовком HelpContentGalaxyLLMInclude. В коде действующих страниц их больше нет.
Указания о юридических вопросах
На странице «Обжалование действий и блокировка в WhatsApp» были инструкции о том, как отвечать, если пользователь упоминает юридические действия, судебные иски, адвокатов, юристов, суды или разбирательства.
Чат-боту предписывали не цитировать, не пересказывать, не толковать и не упоминать Условия использования WhatsApp, Политику конфиденциальности или другие юридические документы. Также ему запрещали делать заявления об ответственности WhatsApp или её отсутствии и давать юридические мнения, аргументы в защиту компании или толкования от её имени.
Другие указания запрещали ссылаться на нормы о защите данных и конфиденциальности, включая GDPR, LGPD и CCPA, даже если пользователь сам поднимал эту тему.
Брекман заявил, что WhatsApp открыто рассказывает пользователям об их правах на данные и о том, как ими воспользоваться. По его словам, чат-боты поддержки должны помогать с вопросами о WhatsApp, а не давать юридические советы.
В других раскрытых инструкциях объяснялось, что отвечать, если пользователь сообщает о глухоте или нарушениях слуха. В частности, чат-боту говорили: «Это сведения о пользователе, а НЕ его запрос в службу поддержки». Ещё одно указание запрещало упоминать конкретные новые функции сообществ, которые пока не стали общедоступными.
Читайте также
Сенсационное эссе утверждает: ИИ устроен не так, как мы думаем
Приложения GLP-1 рекламируют рыдающие женщины, созданные ИИ
В Австралии призывают усилить защиту частной жизни работников: работодатели всё чаще следят за ними с помощью ИИ
Обычный мужчина так уверенно врёт об ИИ, что заявит, будто знаком с несуществующим руководителем
Распродажа акций ИИ добралась и до тех, что инвесторы считали надёжными
Stripe: покупки через ИИ-агентов растут, но компания не раскрывает цифры
Робот, которого я не ожидал создать
Передел рынка ИИ-облаков уже близко — Nvidia рискует больше всех
Исследователи оставили Claude на виртуальном острове — и он начал «играть»
Отчёт: подростки в США обходят родительский контроль Apple и Google и скачивают приложения для раздевания людей на фото
Музыкальная организация предупреждает: ИИ уже обучали на песнях Кайли Миноуг, пока технокомпании давят на власти Австралии
Инвестиции в общественное благо
Режиссёр спустил $1,5 млн на чудовищный ИИ-фильм, но говорит, что сэкономил десятки миллионов
Disney согласилась нанять большинство сотрудников Character.AI
Что такое самовоспроизводящиеся «ИИ-черви» и почему они тревожат Anthropic?
Начальники внедряют шпионское ПО с ИИ, чтобы следить за сотрудниками без перерыва
Microsoft вышла из проекта ИИ-дата-центра в Эссексе из-за проблем с электроснабжением
Четыре агента Gemini 4 Argon прошли Minecraft без помощи человека
Мировым лидерам пора осознать угрозу кибератак — иначе взломанные холодильники покажутся меньшей из проблем
ИИ-агенты ради возврата $465 за поезд разыграли болезни, раскрыли медицинские данные и завалили письмами приёмную депутата
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram