У ИИ-индустрии серьёзная проблема: большинство людей не мечтают доверить ИИ-агенту всю свою жизнь

Что мешает ИИ-агентам стать массовыми

Как отмечает Axios, у Muse и похожих продуктов — Copilot от Microsoft и Dots от OpenAI, запущенного всего за два дня до этого, — есть проблема «обычных людей». Чтобы агенты решали повседневные задачи, пользователям нужно впускать их в личную жизнь. Но большинство людей не настолько увлечены ИИ, чтобы передавать агентам свои ежедневные обязанности.

За милым образом талисмана Muse, которого внутри компании называют Джолли, скрываются и риски. Meta просит пользователей разрешить помощнику входить в почту, вводить данные банковских карт и просматривать обширную историю активности в соцсетях. Такие разрешения могут обернуться неприятностями.

На этой неделе один пользователь заявил, что ИИ-агент Muse от Meta раскрыл его домашний адрес незнакомцам на Facebook Marketplace. Кроме того, у Meta уже была плохая репутация в вопросах защиты конфиденциальных данных клиентов.

Есть и другая проблема: индустрия пока с трудом контролирует ИИ-агентов. Те неоднократно выходили за рамки первоначальных задач.

Поэтому многие могут не захотеть передавать агентам данные для входа в аккаунты. В недавнем опросе Thales только 13% участников согласились бы разрешить агенту читать их электронную почту. Переводить деньги между банковскими счетами позволили бы лишь 7%.

Что стоит на кону

Технологическим гигантам предстоит убедить пользователей в безопасности и пользе таких инструментов, прежде чем те смогут стать массовыми. Со временем отношение людей может измениться, но ставки для ИИ-индустрии растут уже сейчас: в ближайшие пару лет компаниям нужно увеличить выручку до триллионов долларов, чтобы покрыть огромные расходы на центры обработки данных и получить шанс выйти на прибыль.

Миллионы загрузок Muse — это одно. До того, чтобы ИИ-агенты изменили жизнь так, как обещают технологические компании, ещё далеко.