i
Новости
Новости · 2026-11-16

Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами

Dataist Dataist

Hugging Face и OpenRouter объединяют сервисы, чтобы упростить запуск моделей с открытыми весами. Теперь запросы к языковым моделям через инференс Providers будут направляться через OpenRouter: он выберет поставщика по текущим цене, скорости и надёжности и повторит запрос у другого, если первый не сработает. Код и токен Hugging Face менять не нужно. OpenRouter обслуживает более 800 триллионов токенов в месяц для свыше 10 миллионов пользователей и маршрутизирует запросы между более чем 600 моделями и 80 поставщиками.

Обложка: Hugging Face и OpenRouter объединились, чтобы упростить запуск моделей с открытыми весами

Как меняется маршрутизация

Раньше инференс Providers выбирал одного поставщика и возвращал его ошибку, если запрос не проходил. Теперь OpenRouter оценивает поставщиков по текущим показателям и подбирает лучший баланс цены, скорости и надёжности. Если поставщик замедляется или начинает давать сбои, трафик перенаправляется, а неудачный запрос повторяется у следующего подходящего поставщика в рамках того же вызова.

По измерениям OpenRouter, новая маршрутизация сократила ошибки, связанные с нехваткой мощности, на 46%. Время до первого токена улучшилось на 16,9%, а пропускная способность — на 16,3%.

Для каждой модели можно оставить политику по умолчанию или указать предпочтение в идентификаторе модели:

Команды маршрутизации
zai-org/GLM-5.3            # default: best mix of price, speed and reliability
zai-org/GLM-5.3:fastest    # highest throughput
zai-org/GLM-5.3:cheapest   # lowest price
zai-org/GLM-5.3:novita     # only Novita

По умолчанию выбирается лучший баланс цены, скорости и надёжности. Суффиксы :fastest, :cheapest и :novita задают соответственно максимальную пропускную способность, минимальную цену или единственного поставщика — Novita.

Источник: huggingface.co

Маршрутизация учитывает и кэш промта: диалог остаётся у поставщика, где хранится кэш. Чтобы явно закрепить сессию, можно передавать постоянный UUID диалога в заголовке X-HF-Session-Id. Подробности приведены в руководстве по кэшированию промтов.

Источник: huggingface.co

Рост открытых моделей и разница в цене

На OpenRouter доля токенов моделей с открытыми весами выросла с 26,8% в октябре 2025 года до 71,7% в конце сентября 2026-го. В июле она достигала 77,5%. За тот же период недельный объём таких моделей увеличился более чем в 60 раз, тогда как объём закрытых моделей — почти в 10 раз. По данным рейтинга, на этой неделе самая используемая модель OpenRouter — DeepSeek V4.1 Flash 1017 с открытыми весами: на неё пришлось 59,2 триллиона токенов. Источник данных — OpenRouter, октябрь 2026 года.

Источник: huggingface.co

Источник: huggingface.co

Источник: huggingface.co

Модели с открытыми весами в среднем примерно в четыре раза дешевле. Миллион входных токенов стоит $0,28, а выходных — $1,62. Для закрытых моделей соответствующие цены составляют $1,27 и $6,36.

На самых сложных бенчмарках лучшие модели с открытыми весами пока уступают лучшим проприетарным. В Artificial Analysis Intelligence Index модель Kimi K3.1 Pro набрала 46 баллов против 65 у Claude Fable 5.2. При этом стоимость задачи для Kimi — около одной седьмой от цены Claude: $3,68 против $26,54. Для многих видов работы такой компромисс оправдан.

Источник: huggingface.co

Совместимость и настройки

Маршрутизатор поддерживает для всех разговорных моделей API Chat Completions и Responses от OpenAI, а также Messages API от Anthropic — независимо от того, какой поставщик обслуживает запрос. Пользователи могут выбрать агента для программирования или программный набор и модель, а затем воспользоваться инструкциями по настройке или передать всю настройку своему агенту.

Источник: huggingface.co

Источник: huggingface.co

Доступ к дополнительным сервисам Hugging Face остаётся под тем же токеном: хранилищу Storage Buckets, вычислениям через Jobs и выделенному инференсу через инференс Endpoints. Тарифы PRO, Team и Enterprise включают ежемесячные кредиты на вычисления и инференс.

Источник: huggingface.co

Источник: huggingface.co

Источник: huggingface.co

Цены на модели не меняются: пользователь платит по тарифу поставщика через счёт Hugging Face, без дополнительной наценки со стороны Hugging Face. Пользователи PRO получают кредит $2 в месяц, а организации на Team и Enterprise — по $2 на место. Подробности доступны в разделах Pricing и Billing.

Генерация изображений, видео и аудио продолжит работать по прежней схеме — напрямую через Hugging Face инференс Providers, без OpenRouter. Для неё сохраняются тот же токен и API, а также доступ к десяткам тысяч LoRA.

Где смотреть сведения о запросах

На страницах моделей можно сразу общаться с моделью через виджет. Вкладка Providers показывает всех поставщиков, к которым OpenRouter может направить запрос, а также их цены на входные и выходные токены, скорость и доступность за последние 24 часа. Во вкладке Metrics собраны лучшие показатели среди поставщиков: цена, пропускная способность, время до первого токена, длина контекста и доступность.

Обзор использования показывает расходы с разбивкой по поставщикам, которым направлялись запросы. В настройках можно отключить любого поставщика: маршрутизатор не будет отправлять ему запросы. У организаций есть такие же настройки; они применяются ко всем запросам, оплачиваемым организацией.

Ограничение для собственных ключей

Запросы к языковым моделям теперь проходят через OpenRouter и оплачиваются со счёта пользователя или организации в Hugging Face. Поэтому подключить к таким моделям собственный API-ключ поставщика больше нельзя. Вместо этого можно выбрать поставщика суффиксом в идентификаторе модели — model:provider — или отключить его в настройках; менять код не требуется. Собственные ключи для поставщиков изображений и видео продолжают работать.

Следующие шаги

Переход на OpenRouter — первый этап партнёрства. Далее Hugging Face планирует добавить возможность подключить аккаунт OpenRouter и направлять через него больше типов задач. Начать работу можно с выбора модели или документации инференс Providers.

По оценке Dataist, новая схема упрощает выбор поставщика и повышает устойчивость запросов, но меняет порядок оплаты и лишает пользователей языковых моделей возможности подключать собственные ключи поставщиков. При этом генерация изображений, видео и аудио остаётся вне маршрутизации OpenRouter.

TokenEconomizer учится на опыте, чтобы ИИ-агенты для программирования тратили меньше токенов Новый ИИ-стартап Джордана Белфорта Tone хочет продавать как «Волк с Уолл-стрит» Надёжный ИИ строят не на прогнозах, а на ограничениях Claude создаёт интерактивные сайты прямо в графике на canvas, возвращая эпоху Flash с настоящим HTML Audible использует ИИ, чтобы помочь слушателям находить аудиокниги ИИ для компаний среднего бизнеса — не уменьшенная копия корпоративного ИИ Исследование под эгидой ООН: модели ИИ «слабы и ненадёжны» в вопросах климатологии Смогут ли роботы перенести операции при инсульте в удалённые больницы? США ужесточают экспортный контроль над ИИ-чипами, чтобы не дать китайским компаниям удалённо получать доступ к вычислительным мощностям Бывшие руководители Freshworks привлекли $53 млн, чтобы бросить вызов Salesforce и HubSpot с AI-Native CRM Apple запустила приложение, чтобы изучить, как люди используют ИИ для здоровья Индийский стартап Bharat Semi привлёк $24 млн на посевном раунде и метит на мировой рынок ИИ-сенсоров Число сообщений о созданных ИИ материалах сексуального насилия над детьми выросло на 8 400% за два года — данные Childlight Зачем Skydio создала беспилотник с асимметричной конструкцией Один скомпрометированный MCP-сервер может заставить ИИ-агента злоупотреблять инструментами, которым вы уже доверяете Claude Fable 5.2 от Anthropic не генерирует изображения, а рисует их Резервный банк Австралии: ИИ сильнее всего сказывается на молодых работниках — особенно в IT и обслуживании клиентов Эта ИИ-игрушка тамагочи превращает обычные вещи в капризных виртуальных питомцев Meituan выпустила агентную модель на 1,6 трлн параметров, ни разу не задействовав GPU Nvidia 160 вопросов — всего одна ошибка: набравший высший балл на экзамене налоговых бухгалтеров в Южной Корее признался, что списывал с помощью ИИ

Ежедневные новости об ИИ

Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.

Только важное — каждый день

В Telegram