Pluto Security привлекла $42 млн: из-за ИИ у корпоративных служб безопасности новая головная боль

Риски от приложений, созданных без разработчиков

Доступ к ИИ-инструментам даёт сотрудникам возможность применять их неожиданными для компании способами. Это усиливает опасения, что в корпоративных системах появляются новые серьёзные уязвимости. По словам Бахат, новый ИИ-инструмент может оказаться внутри инфраструктуры компании всего через два часа после выпуска.

Среди обнаруженных Pluto случаев — приложение для управления информацией о клиентах и их оттоком. Его создал сотрудник финансового отдела компании из списка Fortune 500, а само приложение оказалось открыто для доступа из интернета.

Pluto вышла из скрытого режима с $42 млн финансирования. Стартап — один из новых игроков в сфере безопасности, появившихся на фоне этих опасений. Инвесторы поддерживают такие компании, поскольку считают, что 기존ные средства защиты плохо подходят для мониторинга и контроля ИИ-инструментов, подключений и способов их использования.

Бахат рассказала TechCrunch, что Pluto начала продавать продукт в апреле. Компания уже перешагнула отметку в $2 млн годовой регулярной выручки и привлекла более 30 корпоративных клиентов, среди которых Oscar Health, Workato, Sixt и AlphaSense.

Финансирование включает посевной раунд на $8,5 млн под руководством TLV Partners. В нём также участвовали основатели компании в сфере кибербезопасности Armis. Недавно Pluto привлекла ещё $34 млн в раунде серии A, который возглавила Jump Capital. В раунде участвовали Skinos — венчурная компания сооснователя Check Point Шломо Крамера, — Ansa Capital и другие бизнес-ангелы.

Для молодой компании это заметный результат, хотя в нынешнюю эпоху ИИ подобные успехи не уникальны. Риски затрагивают не только крупные технологические компании, которые лидируют по внедрению ИИ.

Что находит Pluto

По словам Бахат, характер рисков зависит от позиции директора по информационной безопасности и готовности организации внедрять ИИ. Однако проблемы обнаруживаются в любом случае.

Бахат сообщила, что во время всех проверок концепции Pluto находила вредоносные компоненты. Среди них были пакеты расширений и навыки; в некоторых случаях во время проверки уже шли активные атаки. Для продукта это, по её словам, полезная находка, но для проверяемых компаний — плохая новость.

Pluto рассчитывает, что для защиты таких систем средства безопасности должны следить за действиями ИИ-агентов в реальном времени, а также учитывать, что и как сотрудники создают и запускают.

«Мы переходим от поведения пользователей к поведению агентов», — сказала Бахат.

Программа Pluto отслеживает ИИ-инструменты сотрудников, используемые ими навыки, расширения, MCP-серверы и другие компоненты, а также создаваемые приложения и агентов. Компания утверждает, что умеет выявлять рискованные компоненты и потенциально опасные действия агентов, а также применять политики безопасности, не мешая сотрудникам пользоваться ИИ-инструментами и создавать их.

Для этого Pluto подключается к системам защиты конечных устройств и управления устройствами. Через них компания может устанавливать собственные датчики или размещать их непосредственно на устройствах. Система собирает промты, команды, запущенные процессы, разрешения и данные о предыдущих действиях пользователей. Затем лёгкие модели Pluto, работающие на конечных устройствах, помогают оценить, что пытается сделать агент.

Система может вмешаться прямо во время работы агента. Например, если тот запрашивает больше разрешений, чем намеревался предоставить пользователь, Pluto может остановить действие или добавить в сессию инструкции, чтобы агент запросил подтверждение.

Бахат пояснила, что система может передать контекст обратно в сессию и тем самым изменить поведение агента.

Бесплатный сканер как источник клиентов

Pluto ищет клиентов и через бесплатный продукт. В апреле стартап запустил Plutonium — платформу, где любой желающий может проверить риски общедоступных ИИ-навыков, подключений и дополнений. В неё также входят сканер MCP и каталог проверенных компонентов.

По словам Бахат, Plutonium используют тысячи специалистов по безопасности. Сообщество платформы стало для Pluto важным источником отзывов и потенциальных клиентов. Сейчас 70% воронки продаж компании приходится на входящие обращения, хотя Бахат не уточнила, какая доля поступает непосредственно через Plutonium.

Pluto планирует направить привлечённые деньги на развитие продукта, расширение исследований в области безопасности и рост присутствия в США. В компании работают 40 человек в США и Израиле.