Почему агентам нужна проверка
Результаты тестов показывают, что современные агенты пока недостаточно надёжны для сложной работы без постоянного контроля. В LiveBench 2.0 Claude Fable 5.2 справилась с 82,9 задачи из 100, а ChatGPT-6 Astra — с 75,6. В тестировании компании EON, где агентов проверяли в симуляции корпоративной среды, лучший результат показала Claude Opus 4.8: точность выполнения задач составила 76,8%.
Даже когда агент справляется с отдельным поручением, цепочка действий может дать сбой. Агент, который бронирует поездку, способен проигнорировать правила расходов. Запрос к одной базе данных может завершиться верным ответом, но объединение сведений из нескольких наборов данных усложняет задачу. А длинный разговор с ботом службы поддержки может перегрузить агента контекстом и увести его к неправильному решению.
Симуляции на основе систем компании
Сооснователи Plurai Илан Кадар и Элад Леви ранее работали в Nexar, которая разрабатывает технологии автономного вождения. Кадар сотрудничал с Waymo: он помогал моделировать и оценивать программное обеспечение компании для сквозного глубокого обучения вождения.
По словам Кадара, команда увидела в ИИ-агентах знакомую проблему: создать демку легко, но добиться надёжной и экономичной работы сложнее. Поэтому Plurai строит для агентов слой симуляции.
Платформа создаёт цифровой двойник электронных систем компании, включая базу знаний и инструменты, к которым агент получит доступ после запуска. Затем Plurai описывает возможные пути действий агента в виде графа и использует его, чтобы проверять модель и готовить исправления для редких ситуаций. Платформа работает вместе с уже существующими инструментами для ИИ-агентов: Claude Code, Codex, Copilot и Cursor.
От больших моделей к небольшим
Plurai также собирается применять полученные данные для дообучения небольших моделей с открытыми весами под нужды отдельных клиентов. В совместных тестах с Nvidia и Nebius модели компании, по её данным, превзошли модели среднего уровня среди передовых при меньших расходах.
Кадар описал подход так: большую языковую модель разбивают с помощью симуляции на более узкие задачи, обучают на них модель с открытыми весами, а затем в той же симуляции проверяют, сопоставимо ли качество с передовой моделью. Компания заявляет, что такой способ может снизить стоимость на один или два порядка.
Бизнес Plurai поддержала как бизнес-ангел Реа Мияра, исследовательница Google DeepMind. Она считает преимуществом компании понимание того, как модели ошибаются в реальной работе, и возможность создавать синтетические данные для их настройки. По её словам, руководители ИТ-направлений сталкиваются с тем, что передовые модели плохо работают с конкретными данными бизнеса, а их стоимость в долгосрочной перспективе трудно поддерживать.
Plurai сравнивает применение ИИ в цифровой среде с робототехникой. Универсальные модели уже дают роботам новые возможности, но пока не позволяют широко применять их с необходимой надёжностью. Между тем роботы с моделями, созданными для конкретных задач, уже работают у клиентов и собирают данные из реального мира.
Кадар считает, что даже более умные модели OpenAI и Anthropic не будут знать внутренние правила конкретной компании.
Посевной раунд Plurai на $13 млн возглавила Team8. В нём также участвовали U&I, Velocity и Mercer.
По оценке Dataist, Plurai делает ставку на то, что надёжность агента зависит не только от возможностей базовой модели, но и от подготовки на данных и правилах конкретной компании. Пока преимущество более дешёвых моделей заявлено по итогам совместных тестов с Nvidia и Nebius; сведений о масштабах испытаний источник не приводит.
Читайте также
TrustedRouter запустил три новые зашифрованные «фьюжн»-модели, объединяющие несколько LLM, одна из них использует только американские модели
Американские брокеры данных продают китайским ИИ-лабораториям среды для обучения с подкреплением на полмиллиарда долларов
Приложения, созданные с помощью Grok, раскрыли данные пациентов, пароли в открытом виде и воронку продаж SpaceXSI
Исследование: дата-центры для ИИ планируют строить собственные электростанции в огромных масштабах, несмотря на климатические риски
13-летняя школьница спросила ИИ о самоубийстве на школьном ноутбуке — тревогу не подняли несколько недель
Кризис в Nvidia заставил экспертов по корпоративному управлению достать попкорн
ИИ сделал оценку студенческих работ «почти невозможной», заявил регулятор высшего образования Англии
OpenAI и Anthropic ждёт новый надзор: в Нью-Йорке вступил в силу закон о безопасности ИИ
BotPsy: личный помощник на устройстве с агентной языковой моделью менее чем на 1 млрд параметров
Oura покупает стартап Counsel Health в сфере первичной помощи на базе ИИ за $625 млн
ИИ-агент Meta Muse появился на Apple Watch и часах с Android Wear OS
У ИИ-диджея Spotify появились новые голоса и характеры, а болтать он может меньше
Лазарь, выйди вон: как перепрограммировать спящие нейроны и внедрить бэкдор в ИИ-агента
Otter AI теперь распознаёт разговоры на более чем 30 языках
Любовь Албанизи к музыке дала трещину из-за ИИ. Сможет ли он сыграть по-новому?
OpenAI превращает ChatGPT в бизнес-каталог с ИИ-агентами, отвечающими на вопросы клиентов
OpenAI купила Odessia — туристический стартап основателя Sonder
PayPal добилась точности ИИ в 95% на той же языковой модели
GR00T 2 от Nvidia смотрит видео с людьми, а затем представляет себя роботом
PSI пытается превратить научные открытия с помощью ИИ в бизнес
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram