Как проверяли чат-ботов
Исследователи спрашивали, например, какие сайты лучше всего подходят для покупки товаров конкретного бренда, доставляет ли он за границу и есть ли у него региональные сайты. Вопросы задавали о примерно 151 бренде, включая как небольшие компании, так и Lululemon и Birkenstock.
Чаще всего сомнительные магазины появлялись в ответах Perplexity — в 15% случаев. У ChatGPT доля составила 8%, у Gemini — 4%. Чат-боты не всегда прямо одобряли такие сайты: ChatGPT предупреждал о рискованных ссылках в 24% своих ответов — чаще, чем два других сервиса.
Но предупреждения были редкостью. Среди ответов, где упоминался сомнительный сайт, 57% рекомендовали его для покупок. В 34% случаев чат-боты советовали магазин без каких-либо оговорок, и только 9% ответов предостерегали пользователя.
По данным исследования, небольшие бренды чаще крупных вытеснялись из ответов в пользу мошеннических сайтов. Особенно рискованными оказались вопросы о региональных версиях сайтов брендов.
Генеральный директор Podqi Тревор Уэст рассказал The Verge, что покупателям стоит проверять источник, даже если ссылку предложил чат-бот, — прежде чем вводить личные данные или данные банковской карты.
Почему чат-ботам доверяют
Это не единственное исследование, выявившее подобный риск. Сервис Ask Silver, который проверяет сайты на мошенничество, обнаружил, что ChatGPT рекомендует копии сайтов известных брендов, прекративших работу. Такие копии созданы, чтобы красть банковские данные пользователей.
Манипулировать можно и традиционной поисковой выдачей, например Google. Но чат-боты подают ответы как готовые и однозначные, при этом почти не объясняя, как пришли к ним. Пользователи могут доверять таким рекомендациям без проверки, хотя, как показывает исследование, они бывают опасными.
Журналист BBC показал, что ChatGPT можно сравнительно легко обмануть: он добился того, чтобы чат-бот называл его знаменитым чемпионом по поеданию хот-догов. Это звание журналист выдумал, чтобы продемонстрировать уязвимость системы.
В интернете становится больше поддельного контента и товаров. Чат-боты, как и люди, не всегда способны отличить надёжный источник от мошеннического.
По оценке Dataist, ответы чат-ботов пока нельзя считать проверенной рекомендацией для покупок: в большинстве ответов с сомнительными ссылками риск не обозначен. Особенно внимательными стоит быть при поиске небольших брендов и региональных сайтов.
Читайте также
Кладбище ИИ: список закрывшихся проектов и стартапов, который постоянно пополняется
Коксон: Anthropic уже может переобучить Mythos, потратив лишь малую долю изначально необходимых вычислительных ресурсов
Даже Сан-Франциско отворачивается от ИИ
Осторожно: ИИ подпитывает новый всплеск атак вымогателей
OpenAI переводит специалистов по робототехнике в другие команды: универсальные модели могут сделать специализированный ИИ для роботов ненужным
Нет пилотов. Диспетчеров почти не осталось. Что может пойти не так?
Runway превратила видео-ИИ в контроллер робота с открытым кодом Praxis-1
«Это Дикий Запад»: как ИИ перевернул литературный мир
Всё воздушное пространство США закрыли через несколько дней после запуска ИИ-системы управления воздушным движением. Совпадение?
OpenAI выходит на рынок кибербезопасности с двумя продуктами Daybreak
Google расширяет возможности науки и инженерии с командной работой /teamwork в Antigravity
Стартап LangChain, разрабатывающий ИИ-агентов, оценили в $3 млрд
Арендатор с помощью ИИ одержал верх над хозяином жилья в суде
Помешанный на ИИ технарь заявил, что его агенты нашли в джунглях древнее поселение майя. Но его уже обнаружили исследователи
Запускайте нативный инференс DLA на NVIDIA Jetson AGX Orin из Python с помощью cuDLA
Ой, Дженсен! За самыми мощными ИИ-моделями Китая стоят запрещённые к экспорту чипы Nvidia
Каково бороться с потоком жалоб, сгенерированных ИИ
Anthropic подключила Claude for Manufacturing напрямую к заводским программам для автоматизации промышленных процессов
NVIDIA SOMA Retargeter адаптирует движения человека для роботов
ИИ помог раскрыть открытия в тетрадях Курта Гёделя — математика, опередившего своё время
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram