Nvidia поддержала индийский стартап, помогающий компаниям запускать ИИ-модели с меньшим числом GPU

Компании тратят большие суммы на GPU для ИИ-приложений, но надёжно и экономично запускать модели в больших масштабах непросто. Для разных нагрузок нужен разный баланс скорости, стоимости и производительности, а настройка моделей под бизнес-задачи часто требует сложной работы. Simplismart утверждает, что автоматизирует значительную её часть: ПО подстраивает работу моделей под уже имеющуюся вычислительную инфраструктуру, избавляя заказчиков от самостоятельной настройки.

Сооснователь и генеральный директор Simplismart Амританшу Джейн рассказал TechCrunch, что компаниям не нужны ни самые быстрые, ни самые дешёвые вычисления. Им важно запускать ИИ-модели с подходящими для конкретных приложений скоростью и затратами.

ПО Simplismart располагается между ИИ-моделями и вычислительной инфраструктурой и настраивает развёртывание и управление моделями под требования заказчиков. Компания оптимизирует скорость ответа, число обрабатываемых запросов и расход вычислительных ресурсов, помогая эффективнее использовать уже имеющиеся GPU.

Стартап из Бангалуру предлагает запускать ИИ-модели через собственную платформу либо в облачной и локальной инфраструктуре заказчиков. В набор его инструментов также входят:

Кроме того, облачные провайдеры могут с помощью ПО Simplismart создавать и поддерживать собственные сервисы инференса ИИ на GPU-инфраструктуре.

По данным Simplismart, платформа генерации видео InVideo с помощью её ПО сократила расходы на обслуживание GPU на 56%. Среди других клиентов стартапа — компании по генерации видео HeyGen и Higgsfield, а также стартап Ema, работающий над корпоративным ИИ. Индийский облачный провайдер Yotta использует технологии Simplismart для бессерверного сервиса инференса ИИ на платформе Shakti Studio.

За последние шесть месяцев годовой темп выручки Simplismart вырос в 14 раз и достиг восьмизначной суммы, сообщил Джейн TechCrunch. Этот показатель рассчитан по недавнему использованию сервиса клиентами, а не по заключённым договорам на регулярные платежи. В него также не включены деньги, проходящие через компанию к поставщикам инфраструктуры. Точную сумму Джейн не назвал.

Более половины выручки Simplismart получает из США, хотя клиентов в Индии у стартапа больше, рассказал Джейн.

Параллельно с инвестициями Nvidia сотрудничает с Simplismart в технических интеграциях, в том числе связанных с программным обеспечением Nvidia для инференса Dynamo. В работе участвуют инженеры Simplismart и архитекторы решений Nvidia. По словам Джейна, Nvidia также знакомит стартап с потенциальными клиентами и партнёрами.

Nvidia — крупнейший поставщик ИИ-чипов — инвестирует в ПО, которое позволяет некоторым компаниям запускать задачи с меньшим числом GPU. Джейн считает, что более эффективный инференс в итоге может быть выгоден Nvidia: он делает её оборудование привлекательнее для заказчиков и способствует более широкому распространению ИИ-приложений.

Simplismart работает на всё более тесном рынке ПО для инференса ИИ. Среди конкурентов — решения самой Nvidia, крупных облачных провайдеров и гиперскейлеров Amazon Web Services, Google Cloud и Microsoft Azure. В этот сегмент выходят и стартапы, разрабатывающие инструменты для более быстрых и дешёвых запусков моделей. Спрос растёт вместе с распространением ИИ-приложений и потребностью эффективнее использовать дорогие GPU.

Джейн объяснил, что Simplismart выигрывает в ситуациях, когда заказчикам нужно строго соблюдать соглашения об уровне обслуживания (SLA) и контролировать совокупную стоимость владения (TCO). По его словам, конкуренты предлагают заранее заданные варианты — например, быстрый или дешёвый инференс, — тогда как Simplismart подбирает баланс под потребности каждого клиента.

Simplismart основали в 2022 году бывший инженер Oracle Амританшу Джейн и бывший инженер Google Деванш Гхатак. Стартап вырос из их опыта создания и развёртывания систем машинного обучения. Основатели познакомились во время учёбы в BITS Pilani. Сейчас в компании работают 58 человек, сообщил Джейн.

Новые инвестиции Simplismart направит на расширение присутствия в США, увеличение команды и дальнейшую разработку ПО для инференса. Джейн назвал США важным рынком для компании, которая рассчитывает нарастить там клиентскую базу.

О раунде объявили после публикации индийской англоязычной газеты The Economic Times: издание сообщало, что Simplismart ведёт переговоры о привлечении $40–50 млн при оценке в $300–400 млн. Комментируя эту информацию, Джейн отказался от подробностей и заявил, что компания сейчас активно не ищет инвестиции. По его словам, раунд Series B закрыт и продлён не будет.