Джун Ким, создатель и мейнтейнер oMLX, присоединился к Hugging Face для поддержки сообщества MLX

MLX стал для Hugging Face рождественским подарком от Авни и Ангелоса в 2023 году. Компания поддерживает MLX и гордится тем, что Hugging Face Hub стал местом, где пользователи находят модели MLX и публикуют собственные. Использование открытого локального ИИ ускоряется, а Hugging Face рассчитывает на здоровую экосистему, в которой каждый сможет подобрать подходящие инструменты.

Что изменится для oMLX

Проект получит стабильность и, как ожидается, будет развиваться быстрее. Переход от подработки к полностью сопровождаемому и финансируемому проекту позволит Джуну Киму лучше направлять участников и строить oMLX с расчётом на долгосрочную работу.

oMLX сохранит лицензию Apache 2.0, а Джун Ким продолжит руководить проектом, как и раньше.

Что изменится для MLX

Hugging Face хочет помочь сообществу запускать локальный ИИ в любом виде и предоставить для этого необходимые инструменты и строительные блоки. oMLX должен стать площадкой для проверки новых идей, используя базовые наработки зависимостей, на которых он уже построен, включая mlx-lm и mlx-vlm.

Компания считает, что сильные библиотеки для моделей и инференса помогают всему сообществу. Поэтому наработки планируют передавать в основные проекты там, где это будет уместно. Hugging Face уже сотрудничает с несколькими проектами:

Также компания надеется укрепить отношения с Чэном, Принсом, Ягилем и их командами, чтобы вместе лучше обслуживать сообщество.

Одним из конкретных направлений станет быстрый переход от определения модели в библиотеке transformers к эталонной реализации для MLX. Ею смогут пользоваться разные движки, сосредоточившись на собственных особенностях.

Библиотека transformers стала эталоном для описания моделей машинного обучения. Hugging Face хочет упростить процесс, чтобы новые модели transformers быстрее запускались на MLX.

Компания с большим интересом смотрит на дальнейшее развитие проекта.

Пул-реквест, который вы бы открыли сами

Представляем AnyLanguageModel: единый API для локальных и удалённых языковых моделей на платформах Apple

Сообщество