AWS привлекает Qualcomm для ИИ-инференса, а Qualcomm проектирует чипы в AWS Bedrock

Qualcomm разрабатывает для AWS специализированные чипы для нескольких поколений продуктов. Основное внимание уделено инференсу ИИ — запуску уже обученных моделей. Параллельно компании работают над оптическими соединениями с пропускной способностью до 1.6 терабита. Они должны обрабатывать растущий объём данных внутри ИИ-инфраструктуры.

В партнёрстве Qualcomm использует опыт создания энергоэффективных чипов, а AWS предоставляет облачную инфраструктуру. При этом Qualcomm применяет сервисы AWS, включая Amazon Bedrock, чтобы ускорить разработку собственных чипов.

Amazon стала третьим крупным заказчиком Qualcomm в сфере дата-центров с июня. Meta выбрала серверный процессор Dragonfly C1000, а Microsoft внедряет архитектуру памяти Qualcomm HBC в Azure. Qualcomm рассчитывает получать $15 млрд дохода от дата-центров к 2029 году.

AWS добавляет разработки Qualcomm к собственным семействам чипов Trainium, Graviton и Nitro. Речь идёт о нагрузках инференса, где стоимость энергии на каждый токен влияет на итоговую прибыль.

Энергоэффективность остаётся приоритетом Qualcomm и на другом уровне — в периферийных устройствах. В марте исследовательское подразделение компании выпустило фреймворк, который запускает модели для рассуждения на смартфонах.