AWS расширила тонкую настройку SageMaker: собственные циклы обучения без управления GPU

Что меняется в настройке SageMaker

SageMaker поддерживает файн-тюнинг уже несколько лет. В сентябре 2023 года AWS описала настройку Llama 2 через JumpStart — с помощью визуального интерфейса или набора инструментов Python.

Разработчики также могли запускать в SageMaker Training Jobs собственные скрипты обучения. AWS выделяла и обслуживала машины, но клиенты сами выбирали типы экземпляров, настраивали среду обучения и параметры распределённого обучения. Значит, собственная логика обучения для SageMaker не нова.

В декабре 2025 года AWS добавила бессерверную настройку: команды выбирали поддерживаемые модели и методы обучения, а вычислительные ресурсы определяла AWS. По словам компании, управляемое многошаговое обучение с подкреплением тоже существовало до нынешнего запуска.

Training Sessions сочетают более подробный программный контроль с бессерверным подходом. Разработчики вызывают через API отдельные операции — генерацию ответов, расчёт обновлений и их применение, — а AWS управляет выполнением на GPU. Код может менять последовательность операций, задавать собственные цели обучения и объединять этапы.

Новшество — способ проводить настройку модели после предварительного обучения с меньшим объёмом инфраструктурной конфигурации. Бессерверный сервис AWS стал гибче, но файн-тюнинг и обучение с подкреплением в SageMaker появились не впервые.

Такой контроль может пригодиться для агентов, успех которых зависит от нескольких действий. Например, внутренний агент поддержки может искать сведения в документации, проверять учётную запись и выбирать способ передать обращение специалисту. При обучении можно поощрять успешное решение и штрафовать за действия без разрешения.

В анонсе AWS упоминаются два подхода в рамках бессерверного сервиса: Low-Rank Adaptation (LoRA), при котором обучаются сравнительно небольшие добавления к модели, и полный файн-тюнинг, обновляющий все параметры. В опубликованном сборнике примеров для Training Sessions показан LoRA, но в блоге не указано, как оба подхода сочетаются с каждой моделью. Оба метода настраивают предварительно обученные модели.

Как устроен цикл обучения

AWS делит работу между кодом клиента и управляемым сервисом.

Программа клиента задаёт ход эксперимента, подключает агента к инструментам или симулируемой среде и оценивает его поведение. SageMaker выполняет ресурсоёмкие вычисления, необходимые для генерации ответов и обновления модели.

В качестве примера AWS приводит Group Relative Policy Optimization (GRPO). Модель создаёт несколько ответов на промт, функция оценки клиента проверяет их, а сервис обучения использует относительные оценки, чтобы направить обновление. Затем процесс повторяется с обновлённой моделью.

В сборнике примеров AWS говорится, что между операциями модель остаётся в памяти GPU. Разработчики могут приостанавливать процесс, проверять результаты и менять процедуру. Эксперименты с обучением с подкреплением могут генерировать ответы без отдельной развёрнутой конечной точки инференса.

В сборнике есть примеры файн-тюнинга чатов, математики, программирования и обучения на предпочтениях. AWS также предлагает навыки для ИИ-агентов, которые помогают ассистентам для программирования выполнять задачи подготовки, обучения, оценки и развёртывания. Поддерживаются Kiro, Claude Code, Codex и GitHub Copilot.

Эти инструменты не отменяют необходимости принимать технические решения. Клиенту по-прежнему нужно определить, чему должна научиться модель, проверять, поощряют ли заданные оценки нужное поведение, и выяснять, сохраняются ли улучшения на незнакомых примерах.

Первые клиенты настраивают обработку заявок и работу с инструментами

AWS называет среди первых пользователей ImagineSoftware и Karini AI.

ImagineSoftware использовала сервис, чтобы обучить с подкреплением модель для сортировки отклонённых медицинских страховых заявок. Старший вице-президент компании по науке о данных Роб Гонтарек отметил возможность управлять отдельными операциями обучения.

По словам Гонтарека в анонсе AWS, Training Sessions даёт компании необходимые базовые операции, чтобы добиться качества, подходящего для промышленного использования.

Karini AI настроила с помощью сервиса модель gpt-oss-20b для агента, который выполняет несколько последовательных действий при работе с графом знаний Amazon Neptune. Генеральный директор компании Нитин Ваг выразил особую заинтересованность в сокращении подготовительных работ и возможности продолжать обучение с сохранённой точки.

В публикации Вага сказано, что разработчики получили нужную гибкость, а операционная нагрузка на них снизилась.

Эти примеры показывают, для каких специализированных процессов AWS развивает сервис. Но они не подтверждают измеримую окупаемость: в опубликованном анонсе нет сравнительных данных клиентов о точности, общих расходах или скорости развёртывания.

Оплата по токенам меняет расчёт расходов

AWS взимает плату за обработанные моделью токены — единицы текста, — а не за резервирование мощности GPU. Счётчик Training Sessions останавливается, пока собственный код клиента оценивает пакет ответов.

Это может иметь значение, если проверка результатов занимает много времени между обновлениями модели. Однако остановка счётчика обучения не делает бесплатным остальное приложение: командам всё равно нужно учитывать расходы на отдельно используемые вычисления, хранилища, сервисы оценки и инференс в рабочей среде.

В технической документации AWS расчёт разделён на обработку входных данных, генерацию ответов и обучение. Поэтому для содержательного сравнения нужно оценить все три составляющие в нескольких экспериментах.

В публикации о запуске нет расценок в долларах или типовой итоговой стоимости обучения. AWS направляет клиентов на страницу с ценами SageMaker. Оплата по токенам сама по себе не доказывает, что сервис обходится дешевле аналогичной работы на выделенной инфраструктуре.

Четыре модели и различия по регионам

В опубликованном анонсе AWS подтверждена поддержка моделей gpt-oss-20b, gemma-4-31B-it, Qwen3.6-27B и Qwen3.8-27B.

В таблице общедоступных моделей, которую изучило издание VentureBeat, указаны регионы для первых трёх моделей, но место доступности Qwen3.8-27B пока не обозначено.

В сборнике примеров AWS названы три поддерживаемых региона: Северная Вирджиния, Орегон и Мумбаи. Таблица моделей указывает GPT-OSS-20B во всех трёх регионах, а Gemma-4-31B-it и Qwen-3.6-27B — в Орегоне и Мумбаи.

В документации также указана настраиваемая квота по умолчанию: одновременно можно проводить два сеанса файн-тюнинга.

Разработчики могут начать работу в собственной среде разработки с помощью набора инструментов SageMaker для Python и сборника примеров либо воспользоваться SageMaker Studio. Для работы через набор инструментов AWS указывает Linux и macOS с версиями Python от 3.10 до 3.12.

AWS выходит на конкурентный рынок корпоративных сервисов

AWS выходит на уже сформировавшийся рынок сервисов, которые отделяют разработку алгоритма от управления GPU. Похожий подход предлагает Tinker от Thinking Machines Lab: сервис позволяет генерировать ответы, обновлять модели и сохранять прогресс. В опубликованных тарифах Tinker тоже отдельно учитываются обработка входных данных, выборка ответов и обучение.

Для компаний, уже работающих в AWS, возможное преимущество — в том, как обучение встраивается в существующую инфраструктуру и её средства контроля.

AWS сообщает, что сеансы используют роли доступа, заданные клиентами, и поддерживают управляемые клиентом ключи шифрования и конфигурации частных сетей. Данные обучения и сохранённые контрольные точки модели хранятся в хранилище S3 клиентов в выбранном ими регионе. По заявлению компании, AWS не использует ни данные клиентов, ни настроенные ими веса моделей для обучения другой модели.

В публикации также упоминаются оценка перед развёртыванием, а после него — ограничители и мониторинг через CloudWatch. Это инструменты контроля, которыми могут воспользоваться команды, а не подтверждение того, что настроенная модель автоматически соответствует их требованиям к точности и безопасности.

AWS также говорит, что настроенные модели можно запускать для инференса в SageMaker, а некоторые модели — импортировать в Amazon Bedrock. Это уточнение важно: анонс не подтверждает, что для каждой поддерживаемой модели доступны одинаковые варианты развёртывания.

Для покупателей практический критерий — помогает ли дополнительный контроль над обучением решить измеримую бизнес-задачу. В пилотном проекте можно сравнить настроенную модель с текущим решением по выполнению задач, числу ошибок и общим эксплуатационным расходам.

Training Sessions сокращает объём инфраструктурной работы для такого эксперимента. Но компании по-прежнему должны определить, какое поведение считать успешным, и доказать, что модель ему научилась.