AWS「Infinity」、待機AIエージェント7万5000体を8GBに

アマゾン・ウェブ・サービス（AWS）は10月23日（現地時間）、ツールの応答を待つAIエージェントを一時停止させるオープンソースの研究用ランタイム「Infinity（インフィニティ）」を公開した。AWSはオープンソースブログで、待機中のエージェント1体が使うメモリは約100KBであり、この割合ならRaspberry Pi 5の8GBに約7万5000体が収まるとしている。

InfinityはAWSと米カリフォルニア大学バークレー校が共同で進めるHydro（ハイドロ）プロジェクトから生まれたRust製のソフトウェアで、Apache 2.0ライセンスで配布される。AWSはこれを、意見を集めるための「初期の研究リリース」と位置付けた。

要点

• Infinityはエージェントがツールを呼び出すたびに会話を保存して実行を止め、結果が届くと保存した状態から再開する。
• AWSのベンチマークでは、8万体のエージェントがそれぞれ20ターン、計320万回の応答生成をCPUの1スレッドで処理した。実際のLLMではなく模擬モデルを使い、メモリは待機エージェント1体当たり約100KBずつ増えた。
• ランタイムと併せて、オープンなツール仕様「Reactive Agent Protocol（RAP）」とコーディングエージェント「Infinity Code」も公開された。既存のMCPサーバーは互換レイヤーを通じてそのまま使える。

AIエージェント基盤Infinityの仕組み

AWSでHydroチームの研究責任者を務めるシャダージ・ラダッド（Shadaj Laddad）氏は、プログラミング言語が非同期関数の停止と再開に使う「スタックレス・コルーチン」の手法を応用したと説明する。エージェントがツールを呼ぶと、ランタイムは呼び出しを送り出し、会話を保存してエージェントを停止させる。

処理は「スライス」と呼ぶ小さな単位に区切られる。1つのスライスは会話履歴を読み込んでモデルの応答を1回生成し、結果を保存したうえでツール呼び出しを最大1件送る。待機中のエージェントはタスクやスタック、接続を保持しないため、メモリの大半は会話履歴が占める。

ベンチマーク：1スレッドで8万体

試験は1つのシステムにエージェントを複数回に分けて起動する方式で行われた。AMD EPYC 9R14プロセッサーの1スレッドとインメモリのストアを使い、8万体、320万回の応答生成を実行した。

Raspberry Piの数字は、この1体当たり約100KBという割合から計算した推定値であり、実機で測ったものではない。AWSはスループットや遅延の数値を示しておらず、実際の業務負荷による第三者の検証もまだない。

サーバーレスモードと「注入イベント」

Infinityには、呼び出しの間にメモリへ何も残さないサーバーレス向けのステップモードもある。AWSはSQS FIFOキューやAWS Lambdaなどを組み合わせた参考構成も示した。

他のエージェントからのメッセージといった外部イベントは、モデル自身が行っていない「receive_event__injected」というツール呼び出しの形で届く。ランタイムはこの名前をツールとして提供せず、モデルが呼び出そうとすると拒否する。

背景：待機するエージェントがコストの焦点に

エージェントはモデルやツール、人の応答を待つ時間が長いが、従来のランタイムはその間もプロセスを動かし続ける。グーグルは1日早い10月22日、待機中のエージェントをハードウェアで隔離したマイクロVM内でチェックポイントする「Agent Compute Engine」を発表した。Infinityは同じ課題にソフトウェアで取り組み、待機中のエージェントを保存済みの会話だけにする。

今後：残る4つの研究課題

AWSは4つの課題を挙げた。モデルは主に同期型のツール呼び出しの記録で学習しているため、入り乱れて届くイベントをどう扱うかははっきりしない。スケジューリングはまだメッセージの到着順で、大規模なエージェントツリーの圧縮や、インターネットに公開されたエージェントのイベントの出所確認も今後の課題だ。GitHubリポジトリには、確認時点で正式リリースはなかった。

よくある質問

InfinityはAWSの正式な製品なのか。

そうではない。AWSはカリフォルニア大学バークレー校と進めるHydro傘下の研究プロジェクトだと説明している。Apache 2.0ライセンスで無料だが、サービスレベルの保証はない。

実際にRaspberry Piで7万5000体を動かしたのか。

ブログによれば、そうではない。ベンチマークはAMD EPYCサーバーの1スレッドと模擬モデルで行われた。7万5000体は、8GBを待機エージェント1体当たり約100KBで割った値である。

MCPのツールと一緒に使えるのか。

使える。プロジェクトのREADMEは、既存のMCPサーバーが互換レイヤーを通じて変更なしで動作するとしている。

参考資料

• Introducing Infinity: a runtime for extreme agent concurrency — AWSオープンソースブログ（2026年10月23日）
• hydro-project/infinity — GitHub
• Infinity — Hydroプロジェクト資料