Приватность как основа продукта
Чтобы стать действительно полезным, ИИ-помощнику нужно много знать о человеке. Ollie считает, что для этого пользователю не обязательно отдавать все свои данные и жертвовать приватностью.
Некоторые корпоративные ИИ-помощники уже используют меры защиты данных, однако Ollie стал одним из первых массовых семейных ИИ-сервисов, прошедших сертификацию SOC 2. Это стандарт, который подтверждает независимым аудитом: у компании есть формальные процедуры защиты клиентских данных и безопасной работы систем.
Для команды Ollie это стало важным этапом. Сертификация должна показать потенциальным пользователям, что помощник не пытается собирать их личную информацию для других целей, например для обучения ИИ.
Сооснователь и генеральный директор Ollie Билл Леннон рассказал TechCrunch, что компания считает доверие и приватность необходимыми условиями работы сервиса. Поэтому Ollie использует подписную модель: по замыслу создателей, пользователь должен понимать, что помощник работает на него. Леннон также подчеркнул, что компания не передаёт данные пользователей третьим сторонам.
Источник: techcrunch.com
Конкуренты Ollie
На рынке появляется всё больше персональных ИИ-помощников, которые работают через текстовые сообщения и стараются встроиться в повседневную жизнь пользователей. Приватность может стать для Ollie отличием от таких сервисов.
Сейчас компания конкурирует с текстовыми помощниками:
Отдельная группа продуктов сосредоточена на рабочих задачах, календарях и электронной почте:
Кроме того, есть Instinct — ИИ-помощник, который ещё до запуска привлёк $350 млн при оценке в $2,5 млрд.
В сравнении с ним расположенный в Сан-Диего Ollie привлёк гораздо более скромные $7,5 млн на посевном раунде. Основную часть вложений предоставила Khosla Ventures, ещё одним инвестором стала ИИ House.
Какие данные получает Ollie
Несмотря на пользу таких помощников, пользователи должны решить, сколько личной информации они готовы им доверить. Например, Instinct подвергся критике из-за слишком широких условий использования и политики конфиденциальности. Документы давали компании «бессрочную и безотзывную» лицензию на доступ к материалам пользователя, их использование, хранение, копирование, передачу, публикацию, распространение и изменение — в том числе для обучения ИИ-моделей.
Ollie выбрал другой подход. Сейчас семейный помощник подключается к календарям и электронной почте, чтобы организовывать расписание и сообщать пользователям о планах на день. Через групповые чаты он также помогает:
В дальнейшем сервис может заняться и управлением семейным бюджетом.
Такой объём доступа требует доверия. Леннон считает, что именно отказ от передачи данных становится преимуществом Ollie по сравнению с конкурентами: личная информация слишком чувствительна, а без доверия пользователей сервис не сможет развиваться.
Источник: techcrunch.com
В дополнение к мерам защиты, связанным с SOC 2, Ollie не просит у пользователя имена учётных записей и пароли. Если помощнику нужно войти на сайт от имени человека, он использует собственный браузер в облаке, а пользователю отправляется ссылка на удалённую сессию. Похожим образом устроены платежи и покупки, которые Ollie выполняет по поручению пользователя.
У такого решения есть недостаток: для некоторых операций человеку всё равно приходится каждый раз входить в учётную запись самостоятельно. Леннон считает, что со временем технологии позволят это исправить.
Он описал будущее решение как безопасную выдачу временных ключей доступа: пользователю не придётся повторно вводить свои данные при каждой операции. При этом Ollie ещё предстоит найти баланс между удобством и доверием.
Прежде чем люди разрешат помощнику работать с более чувствительной информацией, например с банковскими счетами через сервис вроде Plaid, такое доверие нужно сформировать.
Леннон получил степень доктора философии в области ИИ и ранее работал в сфере финансовых технологий. В 2021 году он продал свою компанию Groundwork — необанк для некоммерческих организаций. Этот опыт может пригодиться Ollie при переходе к управлению финансами.
Источник: techcrunch.com
Пользователи и сбои
Пока неясно, хотят ли люди вообще передавать ИИ-помощнику все эти задачи.
Леннон настроен оптимистично. По его словам, показатели удержания пользователей Ollie среди платных подписчиков сопоставимы с ведущими подписными ИИ-сервисами. Он не раскрыл количество пользователей и платных клиентов, объяснив это высокой конкуренцией на рынке.
Такие системы при этом работают нестабильно. Во время тестирования Instinct помощнику поручили сравнить цены на отели и забронировать один из них, но он назвал совершенно неверные тарифы. Ollie в тот же период столкнулся со сбоем инфраструктуры поставщика текстовых сообщений и перестал отвечать.
Для большинства пользователей новый сервис получает только один шанс: если приложение не работает, человек просто переходит к другому продукту.
Леннон согласился, что это общая проблема ИИ. По его словам, большие языковые модели вероятностны по своей природе, поэтому их ответы неизбежно бывают ненадёжными. Чтобы справляться с такими ошибками, разработчикам приходится строить защитную оболочку для ИИ-агента, которая должна обнаруживать и предотвращать сбои. Леннон сравнил эту работу с устранением тысячи мелких проблем, которые нужно решить одну за другой.
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ, роботах и метавселенных и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram