PyTorch и зависимость от Nvidia
PyTorch — популярный открытый инструментарий, которым разработчики ИИ-приложений и стартапы пользуются для создания, обучения и запуска моделей. По некоторым оценкам, на нём построены 85% ИИ-приложений.
Изначально PyTorch разработала Meta, тогда ещё Facebook, в 2016 году — задолго до того, как стало понятно, насколько сильно большие языковые модели повлияют на индустрию. Графические процессоры Nvidia уже тогда были стандартным оборудованием для исследований в области ИИ, поэтому многие возможности PyTorch создавались специально для работы с ними. В 2022 году Meta передала PyTorch Linux Foundation — некоммерческой организации, которая управляет рядом крупных проектов с открытым исходным кодом.
TorchTPU и TorchNeuron
TorchTPU позволяет запускать ИИ-приложения на чипах Google TPU — тензорных процессорах для задач ИИ. С его помощью уже существующие приложения на PyTorch можно перенести на TPU, а значит, и в Google Cloud. Для этого достаточно изменить настройки: переписывать приложение не нужно.
В понедельник Amazon объявила о выпуске собственной версии PyTorch — TorchNeuron. Она позволяет переносить ИИ-приложения на разработанный Amazon чип Trainium и в облако AWS без переписывания кода. Amazon также намерена ослабить зависимость PyTorch от Nvidia: компания передаёт основному проекту код, который отделяет разные возможности фреймворка от чипов Nvidia. Это должно упростить работу PyTorch с оборудованием других производителей по умолчанию.
Инструменты для перехода на чипы Google
По нескольким направлениям Google может пойти дальше Amazon. Компания сообщила, что напрямую работала с Meta, Hugging Face, Inferact — создателем vLLM, RadixArk — создателем SGLang, и другими партнёрами. Их цель — добиться, чтобы возможности TorchTPU и библиотеки кода хорошо работали с популярными инструментами для разработки ИИ, как это происходит в исходном PyTorch.
Кроме того, Google выпустила специальный набор инструментов TPU agent suite. Он помогает переносить приложения на чипы и в облако Google, а также находить и исправлять ошибки в процессе. Компания обновила и LiteRT — свой инструмент для запуска ИИ на телефонах, ноутбуках и встроенных устройствах, — чтобы он лучше работал с ИИ-приложениями на PyTorch.
Зависимость от Nvidia сохраняется
Разработчики не обязательно массово откажутся от оборудования Nvidia только потому, что переносить приложения на альтернативные чипы и облачные платформы стало проще. Однако Amazon и Google явно работают над тем, чтобы ослабить преимущество Nvidia в индустрии ИИ.
Читайте также
ElevenLabs выпустила две модели преобразования речи в речь для диалогов с ИИ в реальном времени
Claude проложила для марсохода первый маршрут на Марсе, спланированный ИИ
Эрик Шмидт, как сообщается, владеет примерно вдвое меньшей долей Anthropic, чем гендиректор Дарио Амодеи
Я технический директор: ИИ всё ещё нуждается в вашей экспертизе
Сэм Альтман, как сообщается, предложил три сценария безопасности ИИ — один из них предполагает, что одна компания сожжёт GPU всех остальных
Hugging Face ❤️ TorchTPU: запускаем PyTorch на TPU нативно
Project Deal: Anthropic проверила, как Claude ведёт себя на внутреннем рынке
Muse от Meta набрала 10 млн скачиваний в США за 40 дней — такой рубеж покорили лишь 11 других приложений
Mistral AI выпустила Voxtral 3 — полный стек голосовых ИИ-агентов, которые слушают, думают и говорят в реальном времени
ALTK-Evolve: как обученная память выводит модель без передовых ИИ-возможностей в лидеры τ²-bench по задачам поддержки клиентов
Сценарии будущего нашей экономики
Амулья Вишванат, бывшая сотрудница Nvidia и нынешний венчурный инвестор: физический ИИ пока в эпохе LEGO
Растения передают сигналы с помощью электричества — стартап создал ИИ-модель, чтобы расшифровать их язык
Как ИИ и квантовые технологии помогают прояснить главные загадки человечества
Не станет ли это для криптокроссвордов моментом Deep Blue?
ИИ-агент вступил в рассылку ведущих интернет-исследователей — хаос с ответами всем продолжается
Эксперты предупреждают: люди могут стать пустыми оболочками под контролем ИИ
Yelp теперь может позвонить в ресторан за вас и узнать, сколько ждать столик
С сожалением сообщаем: «GatGPT» — именно то, что вы подумали
Сооснователь Figma Дилан Филд считает, что MCP далёк от идеального протокола
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram