Box выбрала Nvidia Nemotron для новой системы поиска по содержимому, рассчитанной на ИИ-агентов

Как работает Box Content Retrieval

Вместо того чтобы читать документы целиком, агент получит фрагменты, наиболее подходящие к запросу или задаче. По словам генерального директора Box Аарона Леви, это должно повысить релевантность поиска для агентов.

Система использует проект Nvidia Nemotron Embed, в который входят открытые модели эмбеддингов для автоматизированного поиска. Такие модели обрабатывают данные с помощью больших языковых моделей, чтобы агенты могли эффективнее их использовать. По словам TechCrunch, крупные лаборатории часто уделяют этому классу моделей мало внимания. Однако поиск стал одним из направлений открытого проекта Nvidia: в июле новая версия Nemotron заняла первое место в бенчмарке RTEB, который оценивает качество поиска.

Поиск по смыслу и доступам

Box ожидает, что система будет особенно полезна вместе с активными агентами. В качестве примера компания приводит юристов: им будет проще находить нужные положения договоров и прецеденты. Эмбеддинги Nemotron учитывают не только ключевые слова, но и связанные с ними понятия. Поэтому поиск сможет находить материалы на близкие юридические темы, даже если в документах использованы другие формулировки или язык.

Модели Nemotron доступны бесплатно, но Box Content Retrieval также опирается на уже существующие метаданные Box и настройки разрешений. Поэтому воспроизвести систему с нуля будет сложно. По словам Леви, в одном программном интерфейсе объединены пять технологий.

По оценке Dataist, Box соединяет открытые модели Nvidia с собственными метаданными и контролем доступа, так что результат зависит не только от качества эмбеддингов. Заявленные показатели скорости, точности и расхода токенов — ожидания Nvidia; сроки запуска известны лишь в общем виде: начало следующего года.