Как Anthropic обходит зависимость от CUDA
Сильная сторона Nvidia — сочетание аппаратного обеспечения и программной экосистемы CUDA. Она привязывает разработчиков к чипам компании: перенос моделей на другую архитектуру требует много времени и усилий, поэтому многие организации за него не берутся.
Сооснователь Anthropic и директор по вычислительным ресурсам Том Браун рассказал, что компания с самого начала сделала ставку на работу с несколькими видами чипов. Тогда большинство участников отрасли считали такие вложения неоправданными. Для каждого типа чипов нужны собственные программное обеспечение и стек инференса, а их разработка обходится дорого и занимает время. Anthropic годами вкладывалась в эту работу и, по словам Брауна, накопила значительный опыт.
Перенос Claude на чипы AMD
Раньше запуск новой аппаратной платформы занимал месяцы и требовал участия десятков инженеров. В этом году Anthropic впервые использовала графические процессоры AMD и поручила перенос своей передовой модели Mythos. По данным компании, Claude заработала на AMD через три дня, причём вмешательство людей было минимальным. Mythos самостоятельно написала или перенесла почти 100% вычислительных ядер.
С Mythos Anthropic выводит новое оборудование на уровень производительности, пригодный для практического использования, примерно за три дня вместо шести—двенадцати месяцев, необходимых традиционным инженерным подходам для подключения новых ускорителей. Цифры относятся к обработке промптов моделью Anthropic на графических процессорах AMD MI355X
Источник: the-decoder.com
Обычно переход на новую платформу занимал от шести до двенадцати месяцев, а с Mythos, по данным Anthropic, занял около трёх дней.
Если эти цифры верны, ИИ заметно снижает затраты на программную адаптацию — преимущество Nvidia, которое долго считалось одним из главных. Компаниям может стать проще выбирать поставщика по цене и доступности оборудования.
На рынке с ограниченными поставками чипов несколько платформ позволяют подбирать оборудование под задачу: одни чипы лучше подходят для обучения моделей, другие — для инференса. Сейчас Nvidia, благодаря доминирующему положению на рынке ИИ-чипов, получает маржу свыше 70% — необычно высокую для аппаратного бизнеса.
Anthropic объединяет вычислительные ресурсы разных поставщиков, архитектур и площадок в общий пул, где их можно взаимозаменять. Компания утверждает, что извлекает из каждого доллара вычислительных затрат больше, чем любая другая лаборатория, разрабатывающая передовые модели.
Anthropic распределяет вычислительные мощности из общего пула между четырьмя аппаратными платформами — AWS Trainium, Google TPU, графическими процессорами Nvidia и графическими процессорами AMD — для таких задач, как исследования, разработка моделей, удовлетворение потребностей клиентов и внутреннее использование Claude
Источник: the-decoder.com
В пул Anthropic входят платформы AWS Trainium, Google TPUs, Nvidia GPUs и AMD GPUs. Компания распределяет между ними задачи, связанные с передовыми исследованиями, разработкой моделей, спросом клиентов и внутренним использованием Claude.
Вычислительные прорывы и собственные дата-центры
Помимо работы с разными чипами, Anthropic рассчитывает на так называемые «множители вычислений» — исследовательские прорывы, позволяющие получать больше производительности от тех же физических вычислительных ресурсов. По утверждению компании, такие улучшения усиливают друг друга: каждый новый прорыв увеличивает эффект предыдущих.
В перспективе Claude должна будет самостоятельно находить подобные способы повысить эффективность вычислений. Это означало бы рекурсивное самоулучшение — концепцию, которую активно обсуждают в исследованиях ИИ, но пока не подтвердили на практике.
Anthropic также наращивает собственные мощности дата-центров в рамках программы «Anthropic Direct». Вместо того чтобы только покупать вычисления как облачную услугу, компания арендует чипы и размещает их в специально построенных дата-центрах. Цель — снизить совокупную стоимость владения.
Заявления о переносе модели и эффективности вычислений взяты из презентации Anthropic для инвесторов и не проверялись независимыми источниками. Они показывают, что по крайней мере одна крупная лаборатория считает доминирование CUDA преодолимым, а сами модели — возможным инструментом для снижения зависимости от оборудования.
Инвестиции Nvidia и AMD
Обе крупнейшие компании, выпускающие графические процессоры, связаны с Anthropic финансовыми соглашениями.
В ноябре 2025 года, в рамках сделки с Microsoft на 45 млрд долларов, Nvidia обязалась инвестировать в Anthropic до 10 млрд долларов. Согласно регистрационному документу Anthropic S-1/A, поданному в Комиссию по ценным бумагам и биржам США 10 ноября 2026 года, Nvidia также участвует в условном частном размещении на общую сумму 26 млрд долларов. Акции по цене первичного публичного размещения покупают семь технологических компаний.
В июле 2026 года AMD объявила о стратегических инвестициях в Anthropic на сумму до 5 млрд долларов. В ответ Anthropic планирует развернуть до двух гигаватт графических процессоров AMD Instinct MI455X в системах Helios масштаба серверной стойки. Первый этап, рассчитанный на один гигаватт, должен начаться в первой половине 2027 года.
По оценке Dataist, результаты Anthropic пока следует рассматривать как заявления самой компании: независимой проверки нет. Если перенос действительно удаётся ускорить настолько, это может облегчить выбор оборудования по цене и доступности, но не отменяет необходимости создавать отдельные программные стеки для разных чипов.
Источник: the-decoder.com
Читайте также
DeepL хочет, чтобы синхронный перевод наконец передавал сарказм и смены настроения
Стартап хочет бороться с биологическим оружием на основе ИИ с помощью ИИ
Ставка OpenAI на корпоративные продажи довела квартальную выручку до $10 млрд, но до Anthropic компании всё ещё далеко
Новый ИИ-агент Databricks говорит гендиректору Али Годси всю правду без прикрас
Китайская ловушка для Хуанга сработала: глава Nvidia всё равно в неё попался
Plurai хочет улучшить работу ИИ-агентов тем же подходом, который помог вывести беспилотные автомобили на дороги
TrustedRouter запустил три новые зашифрованные «фьюжн»-модели, объединяющие несколько LLM, одна из них использует только американские модели
Американские брокеры данных продают китайским ИИ-лабораториям среды для обучения с подкреплением на полмиллиарда долларов
Приложения, созданные с помощью Grok, раскрыли данные пациентов, пароли в открытом виде и воронку продаж SpaceXSI
Исследование: дата-центры для ИИ планируют строить собственные электростанции в огромных масштабах, несмотря на климатические риски
13-летняя школьница спросила ИИ о самоубийстве на школьном ноутбуке — тревогу не подняли несколько недель
Кризис в Nvidia заставил экспертов по корпоративному управлению достать попкорн
ИИ сделал оценку студенческих работ «почти невозможной», заявил регулятор высшего образования Англии
OpenAI и Anthropic ждёт новый надзор: в Нью-Йорке вступил в силу закон о безопасности ИИ
BotPsy: личный помощник на устройстве с агентной языковой моделью менее чем на 1 млрд параметров
Oura покупает стартап Counsel Health в сфере первичной помощи на базе ИИ за $625 млн
ИИ-агент Meta Muse появился на Apple Watch и часах с Android Wear OS
У ИИ-диджея Spotify появились новые голоса и характеры, а болтать он может меньше
Лазарь, выйди вон: как перепрограммировать спящие нейроны и внедрить бэкдор в ИИ-агента
Otter AI теперь распознаёт разговоры на более чем 30 языках
Ежедневные новости об ИИ
Каждый день отбираем важные новости об ИИ и рассказываем главное — без хайпа и воды. Если хотите понимать, что происходит в ИИ раньше остальных, — подписывайтесь.
Только важное — каждый день
В Telegram