Сможет ли чат-бот распутать лабиринт госуслуг? Белый дом скоро узнает

Упростить поиск государственных услуг — достойная цель, но чат-бот не обязательно лучший способ её достичь. Большие языковые модели ошибаются и могут выдавать галлюцинации. Недавно CNN сообщила, что американские военные едва не начали вооружённую операцию против китайского судна, которое сочли перевозившим компоненты для ядерного оружия. Миссию отменили в последний момент, когда выяснилось, что предполагаемая угроза была галлюцинацией ИИ.

Ошибка America.gov вряд ли приведёт к ядерной войне, но последствия всё равно могут быть серьёзными. Люди могут полагаться на чат-бота, когда ищут информацию о подаче заявления на продовольственные пособия, продлении визы или уплате налогов. Неточный ответ может привести к пропущенному сроку, отказу в пособии или штрафу.