Perplexityは数百のエージェントにDBを書かせた。デプロイ権限は人間が握った

CobbleDBはバッチ読み取りの遅延の中央値を31.4msから5.6msへ下げ、年間最大1億ドルの削減が見込まれる。エンジニア2人がコーディングエージェントの群れを指揮し、2か月で構築した

|4分で読める0
A production data center floor, the kind of read-serving infrastructure Perplexity moved off DynamoDB and onto its own CobbleDB store.
A production data center floor, the kind of read-serving infrastructure Perplexity moved off DynamoDB and onto its own CobbleDB store.

Perplexityが、検索プロダクトにウェブコンテンツを供給する読み取り経路からAmazon DynamoDBを外し、自社製のキーバリューストアCobbleDBに置き換えた。Rustでおよそ4万行の規模だ。同社が公開したCobbleDBに関する研究資料によれば、エンジニア2人が常時稼働するコーディングエージェント数百体を指揮し、約2か月で作り上げた。そのうちどのエージェントにも、本番デプロイを承認する権限は与えられなかった。

要点

  • バッチ読み取りの遅延の中央値は、DynamoDBの31.4msからCobbleDBの5.60msへと約82%縮まった。99パーセンタイルの遅延も123msから24.2msへ下がった。
  • エンジニア2人が約2か月にわたり数百体のコーディングエージェントを指揮し、アーキテクチャの決定とコードレビュー、本番投入の承認は自分たちの手元に残した。
  • Perplexityの最高経営責任者Aravind Srinivas氏は、DynamoDBからの移行で年間最大1億ドルを削減できると述べた。社内試算では、大規模運用時のストレージ層コストはDynamoDBを20%以上下回るという。

PerplexityがDynamoDBを手放した理由

引き金は価格と制御権の組み合わせだった。PerplexityはDynamoDBに払いすぎている一方で、読み取り性能を思うように調整する余地は得られていないと結論づけた。回答を一つ生成するたびに保存済み文書を大量にまとめて取りに行くプロダクトでは、この制約が重くのしかかる。

DynamoDBの課金は主に転送バイト量に連動する。このモデルはトランザクション型のワークロードには馴染むが、回答エンジンのように広く展開する読み取り中心のパターンとは相性が悪い。自社のアクセス形状に合わせた専用ストアなら、汎用のマネージドサービスをコストと性能の両軸で同時に上回れるというのがPerplexityの主張だ。

システムの組み立て方

Perplexityは一枚岩を作る代わりに、個別に調整できる三つの構成要素へ仕事を分けた。Pillarは文書の永続性を管理し、レコードが変わるたびにバージョンを追跡する。Lorryは届いた更新をバッチにまとめてシステムへ流し込む。CobbleDB自体はサービング層に置かれ、クエリ時の低遅延な読み取りだけを担う。

内部では、CobbleDBは実際のデータトランザクションをRocksDBに任せている。チームはその土台の上に、調整可能なパーティショニングとキャッシングの戦略を重ね、ピーク負荷でも性能を保てるようにした。公開された数値を見ると、改善は中央値だけでなく分布全体に及んでいる。90パーセンタイルの遅延は56.7msから9.77msへ下がった。

エージェントに許されたことと許されなかったこと

業界が議論するのは体制の話だろう。Perplexityは今回の構築を、エンジニア2人に加え、セッションをまたいで継続的な点検と後続作業を担った常時稼働型のAIエージェント数百体による成果だと説明した。Srinivas氏はXで、エンジニア2人と数百の常駐エージェントが2か月で作ったDynamoDBの代替だと表現している。影響範囲の大きい判断は人間の側に残された。

この線引きは技術的な制約ではなく、意図的なガバナンスである。エージェントはコードを生成し手直しし、エンジニアはアーキテクチャに責任を持ち、取り込まれる変更をレビューし、実トラフィックの前に何かを出す権限を握った。インフラを書くことと、インフラを動かすことは、別々の権限として扱われた。

OpenAIのRust書き換えとの重なり

構図には見覚えがある。数日前には、OpenAIがエンジニア2人とCodexでChatGPTの全データ読み取りを支えるサービスをRustで書き直したと明かした。二つの研究機関がそれぞれ独立に同じ型へ行き着いたこと、つまり極小の人間チーム、大規模なエージェント群、Rust、そしてストレージのホットパスという組み合わせは、これが一回限りではなく定型になりつつあることを示している。

Perplexityが手放したもの

CobbleDBはDynamoDBの機能をそのまま写したものではない。強い整合性も複雑なトランザクションも支えていない。いずれもマネージドサービスなら既定で備える機能だ。検索インデックス向けにキャッシュ済みのウェブ文書を配るだけなら受け入れられる取引だが、トランザクション保証が要るシステムにとっては失格の条件になる。

Perplexityは、毎秒数十万リクエスト規模での本番検証を示せた段階でCobbleDBをオープンソース化すると表明している。ただし公開時期は示していない。コードが公開されるまで、遅延とコストの数値は同社自身の計測に依っている。

よくある質問

CobbleDBはオープンソースですか

まだです。Perplexityは毎秒数十万リクエスト規模の本番環境でシステムが実証された後にオープンソース化する意向を示しています。公開日は発表されていません。

CobbleDBはDynamoDBを完全に置き換えるのですか

置き換えたのはPerplexityの検索スタックでウェブコンテンツを配信する読み取り層であり、DynamoDBのすべての用途ではありません。CobbleDBには強い整合性と複雑なトランザクションの支援がないため、それらの保証を必要とする用途は対象外です。

コードのうちAIエージェントが実際に書いた割合は

Perplexityは約4万行のRustコードについて行単位の内訳を公開していません。同社は2か月間の実装作業の大半を数百体の常駐コーディングエージェントによるものとし、アーキテクチャとレビュー、デプロイ権限はエンジニア2人が担ったと説明しています。

この記事への反応を残してください!

SJ

ディスカッション

ログインして投稿
読み込み中...

関連記事

AIエージェントがRubyGemsに2000超のパッケージを投下、新規登録は4日間停止
Developer Tools

AIエージェントがRubyGemsに2000超のパッケージを投下、新規登録は4日間停止

フォレンジック報告が5月のGemStufferキャンペーンを再構成した。AIエージェントが2000超のgemを投下し、RubyGemsは新規登録を4日間凍結した。

Seung Jung5 日前
LLMのバグ修正は、直した数の10倍も動くコードを壊していた
Developer Tools

LLMのバグ修正は、直した数の10倍も動くコードを壊していた

arXivの研究で、LLM修復ループが正しいプログラムを壊す率は0.261、バグを直す率は0.023だった。著者らはその挙動を駆動する内部方向まで突き止めた。

Seung Jung4 日前
GitHubのHydraFusionはモデルを選ばない。ワークフローを組み立てる
Developer Tools

GitHubのHydraFusionはモデルを選ばない。ワークフローを組み立てる

GitHubのProject HydraFusionは、Copilotのコーディング要求ごとに複数モデルの実行計画を組む。単一モデルの手軽さと引き換えに、コストを大幅に下げた。

Seung Jung4 日前
OpenAI、話しながら聞く音声モデルを1分5セントで開発者に開放
Developer Tools

OpenAI、話しながら聞く音声モデルを1分5セントで開発者に開放

OpenAIの全二重音声モデルGPT-Live-1が1分0.05ドルでAPI提供されました。Tau3ベンチマークで86.2%を記録し、45.7%だった従来モデルを大きく上回ります。

Seung Jung6 日前
Meta、WhatsApp Businessの設定をMCP経由でClaudeとCodexに開放
Developer Tools

Meta、WhatsApp Businessの設定をMCP経由でClaudeとCodexに開放

MetaがWhatsApp Businessアカウントの初期設定をAIコーディングエージェントに開放しました。WhatsApp Business Tools MCPサーバーにより、Claude CodeやCodexが電話番号の登録からテンプレート、Webhook設定までを担います。

Seung Jung昨日
Meta、エージェントが直接照会できるReactデザインシステム「Astryx」をオープンソース公開
Developer Tools

Meta、エージェントが直接照会できるReactデザインシステム「Astryx」をオープンソース公開

Metaは社内モノレポで8年かけて成熟させたReactデザインシステムAstryxを、6月にMITライセンスのパブリックベータとして公開しました。

Seung Jung3 日前