🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
ホーム › 開発者ツール
開発者ツール

Hugging Face、推論の振り分けをOpenRouterに移管

Hugging Faceは11月16日、Inference Providersのルーティングを自社の仕組みからOpenRouterに切り替えた。呼び出しごとに価格・速度・信頼性の実測値で事業者を選び、失敗時は再試行する。料金は据え置きだが、言語モデル向けの自前APIキーは使えなくなった。

米Hugging Faceは11月16日(現地時間)、推論サービス「Inference Providers」のリクエスト振り分け(ルーティング)を自社開発の仕組みからOpenRouterのルーターに切り替えた。同サービスで言語モデルを呼び出すと、すべてのリクエストがOpenRouterを経由する。既存のコードやHugging Faceのトークンはそのまま使えるが、言語モデルの提供事業者に自前のAPIキーを登録して使う方法は廃止された。

データセンターのラックで技術者がネットワーク機器に光ファイバーケーブルを差し込んでいる
米テネシー州ラファイエットのデータセンターで光ジャンパーケーブルを設置する技術者(2018年、資料写真)。사진: USDAgov / 위키미디어 공용(퍼블릭 도메인)

ポイント

  • Inference Providersのチャットモデル向けリクエストは、OpenRouterが価格・速度・信頼性の実測値で提供事業者を選び、失敗時は別の事業者で再試行する。
  • 料金は据え置きでHugging Faceの上乗せもないが、言語モデル向けの自前APIキーは使えなくなった。
  • OpenRouterによると、開始時点で38の開発元の160モデルがこの方式で利用できる。

Hugging FaceのOpenRouter連携で何が変わるのか

Hugging Faceは公式ブログで、言語モデルへのリクエストはOpenRouterを通り、呼び出しごとに価格・速度・信頼性の実測値から最適な事業者を選び、最初の事業者が失敗すれば別の事業者で再試行すると説明した。従来は事業者を1社選び、失敗すればそのエラーを返すだけだった。

開発者が基準を指定することもできる。モデルIDの末尾に「:fastest」を付ければスループット最優先、「:cheapest」なら最安値、事業者名を付ければその事業者に固定される。会話はプロンプトキャッシュを持つ事業者にとどまる。OpenAIのChat Completions・Responses APIとAnthropicのMessages APIの形式に対応する。

画像・動画・音声の生成は対象外で、従来どおりHugging Faceが直接処理する。

料金とAPIキーの扱い

利用者は事業者の価格をHugging Faceの請求書で支払い、Hugging Faceは手数料を上乗せしない。PRO利用者には毎月2ドル、TeamとEnterpriseの組織には1席あたり2ドルのクレジットが付与される。

唯一の互換性に関わる変更は自前キーの扱いである。言語モデルの呼び出しがHugging Faceのアカウントに請求されるため、事業者ごとの自前APIキーは使えない。代わりに設定画面で不要な事業者をオフにでき、組織単位でも適用できる。モデルページには事業者ごとの価格、速度、24時間の稼働率を示すタブが加わった。

OpenRouterのルーティング性能

OpenRouterは、月800兆トークン超を1000万人超の利用者に提供し、80社以上の事業者が600超のモデルを配信していると説明する。同社は10月28日、価格中心だったルーティングを、実効価格、スループット、遅延、エラー率、出力品質を総合評価する方式に改めたと発表した。

2400万件超のリクエストで1週間比較した結果、容量エラーに遭遇したリクエストの割合は46%減り、最初のトークンが返るまでの時間(中央値)は16.9%短縮、スループット(中央値)は16.3%向上した。一方、リクエストあたりのコストは6.0%上昇した。いずれもOpenRouter自身の測定値で、第三者の検証は経ていない。

背景:オープンウェイトモデルが利用の大半に

オープンウェイトモデルが最初に公開されるHugging Faceと、それらが最も多く使われるゲートウェイが組んだ形である。OpenRouterが10月31日に公開したデータでは、上位50モデルのトークンに占めるオープンウェイトモデルの比率は、2025年10月6日の週の26.8%から2026年9月28日の週には71.7%に上昇した。ピークは7月の77.5%だった。同期間の最後の4週間のトークン加重平均の入力価格は、オープンウェイトモデルが100万トークンあたり0.28ドル、クローズドモデルが1.27ドルだった。

今後の見通し

Hugging Faceは今回の切り替えを提携の「第一歩」と位置づける。次の段階として、OpenRouterのアカウントをHugging Faceに接続する機能や、OpenRouter経由で処理するタスクの拡大を挙げたが、時期は明らかにしていない。

よくある質問

コードの変更は必要か。
不要である。既存のコードとトークンはそのまま動く。言語モデルで自前の事業者キーを使っていた開発者だけが設定を見直す必要がある。

コストは上がるのか。
Hugging Faceは定価は変わらず、上乗せもないとしている。ただしOpenRouterの実験では、より速く安定した事業者を選ぶ場合があるため、リクエストあたりのコストが6.0%上昇した。最安値を優先したい場合はモデルIDに「:cheapest」を付ければよい。

特定の事業者を除外できるか。
できる。Inference Providersの設定でオフにした事業者にはリクエストが送られない。

参考資料

#Hugging Face #OpenRouter #Inference Providers #オープンウェイトモデル #LLMルーティング #AI推論
チ
チョン・スン
AI Newsway · 開発者

AI Newswayの編集責任者です。AI、開発ツール、クラウド、生産性テクノロジーの記事を執筆しています。

この記者の他の記事 ›
著作権者 © AI Newsway 無断転載・再配布、AI学習・活用禁止
共有
f X K

コメント 0

現在コメントの投稿は無効になっています。

最初のコメントを書いてみましょう。