Дипфейк голоса обманул её дедушку — и основательница бросилась действовать

Защита без облака

Падманабхуни вспоминает, что её задели не столько потерянные деньги, сколько невозможность понять, что голос поддельный. Теперь компания DetectifAI из Сан-Франциско хочет не дать другим попасться на такую уловку.

Масштаб проблемы растёт. По данным ФБР, люди старше 60 лет потеряли из-за мошенничества с использованием ИИ вдвое больше денег, чем люди в возрасте от 50 до 59 лет.

В области распознавания голосовых дипфейков уже работают Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance, которой также владеет Microsoft. Однако нынешние продукты для обнаружения дипфейков работают на удалённых облачных серверах. Как говорит Падманабхуни, производители смартфонов поэтому не могут встроить их напрямую в свои устройства, а у людей, которым звонят мошенники, остаётся мало средств защиты.

DetectifAI проектирует компактные модели ИИ сразу для работы внутри операционной системы смартфона. Компания сравнивает свой подход с попытками уменьшить большие облачные модели, которыми пользуются некоторые конкуренты. Задача DetectifAI — мгновенно определять, создан ли голос ИИ, во время звонка, при прослушивании голосового сообщения и работе с другими аудиозаписями. Аудио при этом не должно покидать устройство.

Продажи производителям смартфонов

Сначала DetectifAI продаёт технологию производителям телефонов: компания выдаёт лицензии на программные инструменты, которые можно встроить в операционную систему устройства. Падманабхуни сравнивает это с ролью AT&T при запуске первого iPhone: эксклюзивное соглашение с оператором выделило его среди конкурентов. По её словам, производитель, который первым встроит DetectifAI в смартфон, получит преимущество.

Основа продукта — комплект средств разработки программного обеспечения (SDK): пакет кода, который другие компании могут встроить в свои продукты. Его можно лицензировать через уже существующие каналы продаж. Дополнительный доход DetectifAI рассчитывает получать от лицензирования технологии компаниям и фирмам, занимающимся предотвращением мошенничества.

Тем временем стартап уже получает первые доходы. По словам Падманабхуни, система обрабатывает более 100 000 звонков в месяц для финансовых организаций в Индии. Звонят ИИ-агенты, которые занимаются взысканием долгов и уточняют документы по кредитам. На каждом звонке DetectifAI распознаёт дипфейки и проверяет голос, чтобы подтвердить личность звонящего. Падманабхуни не раскрыла названия клиентов, сославшись на соглашения о конфиденциальности.

Опыт основательницы и первые инвестиции

Падманабхуни говорит, что начала заниматься машинным обучением в 12 лет. Позже она изучала киберфизические системы — технологии, связывающие программное обеспечение с физическими механизмами, — в Индийском технологическом институте Манипала. По её словам, там она стала самым молодым руководителем команды в подразделении беспилотного гоночного автомобиля. Она описывает это подразделение как первое в Индии в рамках Formula Student — международных инженерных соревнований для студентов.

DetectifAI привлекла небольшую посевную инвестицию от Джоша Констайна, бывшего редактора TechCrunch, и Манохара Камата, директора консалтинговой компании KM Growth.

Стартап вошёл в число компаний, отобранных редакцией TechCrunch для участия в конкурсе Startup Battlefield. Он пройдёт в рамках TechCrunch Disrupt с 13 по 15 октября в центре Сан-Франциско.