Hugging Face、推論の振り分けをOpenRouterに移管
Hugging Faceは11月16日、Inference Providersのルーティングを自社の仕組みからOpenRouterに切り替えた。呼び出しごとに価格・速度・信頼性の実測値で事業者を選び、失敗時は再試行する。料金は据え置きだが、言語モデル向けの自前APIキーは使えなくなった。
米Hugging Faceは11月16日(現地時間)、推論サービス「Inference Providers」のリクエスト振り分け(ルーティング)を自社開発の仕組みからOpenRouterのルーターに切り替えた。同サービスで言語モデルを呼び出すと、すべてのリクエストがOpenRouterを経由する。既存のコードやHugging Faceのトークンはそのまま使えるが、言語モデルの提供事業者に自前のAPIキーを登録して使う方法は廃止された。

ポイント
- Inference Providersのチャットモデル向けリクエストは、OpenRouterが価格・速度・信頼性の実測値で提供事業者を選び、失敗時は別の事業者で再試行する。
- 料金は据え置きでHugging Faceの上乗せもないが、言語モデル向けの自前APIキーは使えなくなった。
- OpenRouterによると、開始時点で38の開発元の160モデルがこの方式で利用できる。
Hugging FaceのOpenRouter連携で何が変わるのか
Hugging Faceは公式ブログで、言語モデルへのリクエストはOpenRouterを通り、呼び出しごとに価格・速度・信頼性の実測値から最適な事業者を選び、最初の事業者が失敗すれば別の事業者で再試行すると説明した。従来は事業者を1社選び、失敗すればそのエラーを返すだけだった。
開発者が基準を指定することもできる。モデルIDの末尾に「:fastest」を付ければスループット最優先、「:cheapest」なら最安値、事業者名を付ければその事業者に固定される。会話はプロンプトキャッシュを持つ事業者にとどまる。OpenAIのChat Completions・Responses APIとAnthropicのMessages APIの形式に対応する。
画像・動画・音声の生成は対象外で、従来どおりHugging Faceが直接処理する。
料金とAPIキーの扱い
利用者は事業者の価格をHugging Faceの請求書で支払い、Hugging Faceは手数料を上乗せしない。PRO利用者には毎月2ドル、TeamとEnterpriseの組織には1席あたり2ドルのクレジットが付与される。
唯一の互換性に関わる変更は自前キーの扱いである。言語モデルの呼び出しがHugging Faceのアカウントに請求されるため、事業者ごとの自前APIキーは使えない。代わりに設定画面で不要な事業者をオフにでき、組織単位でも適用できる。モデルページには事業者ごとの価格、速度、24時間の稼働率を示すタブが加わった。
OpenRouterのルーティング性能
OpenRouterは、月800兆トークン超を1000万人超の利用者に提供し、80社以上の事業者が600超のモデルを配信していると説明する。同社は10月28日、価格中心だったルーティングを、実効価格、スループット、遅延、エラー率、出力品質を総合評価する方式に改めたと発表した。
2400万件超のリクエストで1週間比較した結果、容量エラーに遭遇したリクエストの割合は46%減り、最初のトークンが返るまでの時間(中央値)は16.9%短縮、スループット(中央値)は16.3%向上した。一方、リクエストあたりのコストは6.0%上昇した。いずれもOpenRouter自身の測定値で、第三者の検証は経ていない。
背景:オープンウェイトモデルが利用の大半に
オープンウェイトモデルが最初に公開されるHugging Faceと、それらが最も多く使われるゲートウェイが組んだ形である。OpenRouterが10月31日に公開したデータでは、上位50モデルのトークンに占めるオープンウェイトモデルの比率は、2025年10月6日の週の26.8%から2026年9月28日の週には71.7%に上昇した。ピークは7月の77.5%だった。同期間の最後の4週間のトークン加重平均の入力価格は、オープンウェイトモデルが100万トークンあたり0.28ドル、クローズドモデルが1.27ドルだった。
今後の見通し
Hugging Faceは今回の切り替えを提携の「第一歩」と位置づける。次の段階として、OpenRouterのアカウントをHugging Faceに接続する機能や、OpenRouter経由で処理するタスクの拡大を挙げたが、時期は明らかにしていない。
よくある質問
コードの変更は必要か。
不要である。既存のコードとトークンはそのまま動く。言語モデルで自前の事業者キーを使っていた開発者だけが設定を見直す必要がある。
コストは上がるのか。
Hugging Faceは定価は変わらず、上乗せもないとしている。ただしOpenRouterの実験では、より速く安定した事業者を選ぶ場合があるため、リクエストあたりのコストが6.0%上昇した。最安値を優先したい場合はモデルIDに「:cheapest」を付ければよい。
特定の事業者を除外できるか。
できる。Inference Providersの設定でオフにした事業者にはリクエストが送られない。
参考資料
- Hugging Face and OpenRouter join forces to make open-weight models easy to run — Hugging Face(2026年11月16日)
- OpenRouter Now Powers Inference on Hugging Face — OpenRouter(2026年11月16日)
- How we rebuilt provider routing for better, faster inference — OpenRouter(2026年10月28日)
- Open-Weight vs Closed-Weight Models: What's the Difference? — OpenRouter(2026年10月31日)
コメント 0
現在コメントの投稿は無効になっています。