AWS、SageMakerで学習ループを自作可能に GPUは管理不要
AWSは10月22日、SageMaker AIのトレーニングセッションAPIを発表した。SFTや強化学習のループを手元で書き、GPU処理はAWSが担う。課金はトークン単位で、対応モデルはGPT-OSS-20B、Gemma-4-31B-it、Qwen-3.6-27Bの3種。
アマゾン ウェブ サービス(AWS)は2026年10月22日(現地時間)、開発者が手元のPythonコードで大規模言語モデル(LLM)の学習ループを自ら書き、GPUでの演算はAWSが肩代わりする「Amazon SageMaker AIトレーニングセッションAPI」を発表した。AWS機械学習ブログによると、GPUクラスターを管理せずに学習アルゴリズムを自由に組めるという。
要点
- 順伝播・逆伝播(forward_backward)やオプティマイザー更新(optim_step)といったGPU処理の一つ一つが、モデルを読み込んだまま維持される「セッション」へのAPI呼び出しとして実行される。
- 対応モデルはGPT-OSS-20B、Gemma-4-31B-it、Qwen-3.6-27Bの3種である。
- 料金は処理したトークン数に応じた課金で、報酬計算などローカルでコードが動いている間のGPU時間は課金されない。
SageMakerトレーニングセッションAPIの仕組み
AWSの執筆者4人はブログで、LLMのファインチューニングは「通常、学習ループの制御と運用の簡便さのどちらかを選ばされる」と指摘した。新APIについては「アルゴリズムではなく、計算資源を抽象化した」と説明している。
開発者はSageMaker Python SDKの3つのクライアントを使う。ServiceClientはIAMロールやS3の出力先などの設定を持ち、セッションを開始する。TrainingClientはforward、forward_backward、optim_stepの実行とチェックポイント保存を担い、SamplingClientはsampleとcompute_logprobsで文章の生成とスコア計算を担当する。
損失関数は、教師ありファインチューニング(SFT)向けのクロスエントロピーと、強化学習(RL)向けのPPO、重要度サンプリング、CISPOを標準で備える。学習はLoRAアダプター方式で、AWSの例ではランク32を用いた。分散実行や障害復旧、チェックポイントの保管はAWSが受け持つ。
対応モデル・リージョン・利用上限
SageMaker開発者ガイドによると、GPT-OSS-20Bは米国東部(バージニア北部)、米国西部(オレゴン)、アジアパシフィック(ムンバイ)で、Gemma-4-31B-itとQwen-3.6-27Bはオレゴンとムンバイのみで利用できる。東京・大阪リージョンは一覧にない。料金はプリフィル、サンプル、トレーニングの3項目のトークンで構成されるが、ガイドに単価の記載はない。同時セッション数の上限は既定で2つで、引き上げを申請できる。
保存したチェックポイントはモデルパッケージグループにバージョンとして登録され、リアルタイムエンドポイントへのデプロイやLoRAアダプターとしての提供にそのまま使える。
AWSが示した検証結果
AWSによると、GPT-OSS 20BにGRPOを適用したGSM8Kの数学の例では、40問で10ステップ学習しただけで検証用データの正答率が56%から75%に上がった。1ステップ当たり128問、1問当たり8回答で50ステップ回したコーディングの強化学習では、検証用200問の正答率が40%から50.5%に向上した。いずれもAWS自身による例で、第三者による検証ではない。
背景:見覚えのあるAPI設計
設計はThinking Machines Labのファインチューニング用API「Tinker」とよく似ている。TinkerのTrainingClientリファレンスにも、forward_backward、optim_step、save_weights_for_samplerといった同名の主要メソッドが並ぶ。ただしAWSの発表はTinkerに触れていない。AWSにとっては、サーバーレスのモデルカスタマイズと、トレーニングジョブやHyperPodの間を埋める選択肢となる。
今後の見通し
AWSは、Tulu 3やUltraChatによるファインチューニング、GSM8Kとコーディングの強化学習、KTOによる選好アライメントのレシピをまとめたクックブックをGitHubで公開した。一般提供(GA)かプレビューか、またトークン単価は発表で明らかにされていない。対応モデルが3種にとどまる点は、当面の制約となりそうだ。
よくある質問
GPUインスタンスを自分で選ぶ必要はあるか
ない。インスタンスを選ばないサーバーレス方式である。
料金はどう決まるか
処理したトークン数に基づき、プリフィル、サンプル、トレーニングに分かれる。
参考資料
- Write your own training loop, without managing GPUs, with Amazon SageMaker training session APIs — AWS Machine Learning Blog(2026年10月22日)
- Training session APIs — Amazon SageMaker AI 開発者ガイド
- GitHub - aws/sagemaker-training-sessions-cookbook — AWS
- TrainingClient API reference — Thinking Machines Lab Tinkerドキュメント
ZZEMが運営するAI Newswayの編集責任者です。AI、開発ツール、クラウド、生産性テクノロジーの記事を執筆しています。
コメント 0
現在コメントの投稿は無効になっています。