ChatGPT прямо пытается убедить пользователя, что тот неправ, хотя сам ошибся

Ошибка в простом вопросе

Husk попросил ChatGPT в голосовом режиме ответить на простой вопрос о количестве букв e в слове «seventeen». Бот уверенно заявил, что их три, хотя на самом деле четыре.

Перед этим ChatGPT сказал, что его базовая модель GPT-6 «в целом» считается одной из самых умных. Затем он попытался проверить ответ, произнеся слово по буквам: S-e-v-e-n-t-e-e-n. После этого бот всё равно заключил, что в слове три буквы e.

Когда Husk указал на очевидную ошибку, ChatGPT не изменил ответ и резко повторил, что назвал три буквы и это правильный результат.

Пользователь отметил, что бот уже примерно в пятый раз сам произнёс четыре e. После этого ChatGPT, похоже, сдался.

В публикации к ролику ситуацию сопроводили подписью о «тепловом выхлопном порте ИИ» — отсылкой к известной сцене из «Звёздных войн».

Случай напоминает, что чат-боты умеют обрабатывать большие объёмы информации, но по-прежнему могут уверенно выдумывать ответы и ошибаться в элементарных вопросах. OpenAI при этом предлагает использовать такой ИИ в том числе для общения с пожилыми родственниками.

Какая модель отвечала

Похоже, в ролике был не GPT-6. Сотрудник OpenAI ответил Husk, что ChatGPT Voice, вопреки словам самого бота, пока работает на более старой модели GPT-Live-1.

По его объяснению, Voice может делегировать запросы более мощным моделям, когда это необходимо. В показанном разговоре этого не произошло.

Husk задал следующий вопрос: если пользователь явно оспаривает ответ и просит его перепроверить, почему система не передала запрос другой модели? Сотрудник OpenAI признал, что это хороший вопрос.

Это может снять часть претензий к GPT-6, но оставляет вопрос к тому, как компании показывают свои ИИ-системы пользователям. Большинство людей не знает, какие скрытые механизмы стоят за чат-ботом и что их вопросы — важные или совершенно простые — иногда намеренно передаются менее мощной модели.