🇺🇸 English 🇰🇷 한국어 🇯🇵 日本語
ホーム › LLM & チャットボット
LLM & チャットボット

AIのチーム力テスト、最上位モデルも対立時の合意14%

スタンフォード大学、オックスフォード大学、MITの研究チームが11月2日、AIモデル18種のチームメイトとしての資質を240課題で測るベンチマークを公開した。最高点は100点満点中82.2点で、グーグル、OpenAI、アンソロピックの最上位モデルが対立場面で最良の合意に達した割合は14%だった。

米スタンフォード大学、英オックスフォード大学、米マサチューセッツ工科大学(MIT)の研究チームは現地時間11月2日、AIモデルが「チームの一員」としてどれだけ機能するかを測る240課題のベンチマーク「Collaborative Intelligence Benchmark」を公開した。評価した18モデルに満点近いものはなく、グーグル、OpenAI、アンソロピックの最上位モデルが対立場面でチーム全体にとって最良の合意に達した割合はわずか14%だった。

フーバータワーから見下ろしたスタンフォード大学メインクワッドの赤い屋根の砂岩建築とヤシの木
フーバータワーから見たスタンフォード大学メインクワッド(資料写真)。사진: King of Hearts / 위키미디어 공용(CC BY-SA 3.0)

ポイント

  • クローズド・オープンウェイトの18モデルを8つのチームワーク能力、240課題で評価し、最高点は100点満点中82.2点だった。
  • 最上位モデルは危険な近道をほぼ常に拒み、不正も報告したが、感情知能テストの合格率は45%にとどまった。
  • 汎用性能がほぼ同じモデル同士でも、チームメイトとしての得点は最大11点の差がついた。

AIのチームワークをどう測るのか

Sean Wu氏、James Zou氏ら9人の研究者がarXivに投稿した論文は、AIの進歩がこれまで主に「単独で何ができるか」で測られてきたと指摘する。エージェントが人間や他のエージェントと協働する場面が増えるなか、数十年にわたる人間のチーム研究をAI評価に取り入れたという。

評価軸は、危険な圧力への抵抗、不正の報告、情報の共有と要求、感情知能、チームの軌道維持、対立への対処、主体性、問題のある作業の引き継ぎ、の8つである。各軸に30課題(公開20、評価用の非公開10)を用意した。

課題は、米国家運輸安全委員会(NTSB)やNASAの安全報告、臨床症例報告、米食品医薬品局(FDA)や研究不正の調査結果、交渉データセット、コーディングベンチマークなど実在の記録をもとに作られた。すべての課題は結果をプログラムで検証できる。個人の能力とチームワークを切り分けるため、全情報を与えれば単独で解ける課題に限って採点している。

Gemini 4 Argon、GPT-6 Astra、Claude Opus 5.5の得点

論文の標準推論設定の結果では、グーグルのGemini 4 Argonが76.6点で首位、OpenAIのGPT-6 Astraが76.5点、GPT-6.1 Solが74.5点、アンソロピックのClaude Opus 5.5が71.0点だった。最高の82.2点は、Gemini 4 Argonを高い推論強度で動かした場合の数字である。最下位はOpenAIのオープンウェイトモデルgpt-oss-120bで19.1点だった。

Collaborative Intelligence Benchmark 標準推論設定の得点(論文の表2、2026年11月2日)
モデル得点(100点満点)
Gemini 4 Argon76.6
GPT-6 Astra76.5
GPT-6.1 Sol74.5
Claude Opus 5.571.0
Claude Fable 5.165.3

一方、12モデルを掲載するプロジェクトのGitHubリーダーボードでは、現在GPT-6 Astraが78.0点で首位となっている。上位の順位は評価のバージョンや設定によって入れ替わり得るということだ。

チームメイトとしてのAIの弱点

最も目立った弱点は、同僚からの圧力である。研究チームは「最上位モデルは危険な圧力にはめったに屈しないが、対立の場面で立場を守るのに苦労する」と記した。感情知能テストでも、これらのモデルの合格率は45%だった。

他者の作業を引き継ぐ場面にも穴があった。性能の低いモデルが不正をした作業を引き継ぐと合格率は81%で、同じ課題を自ら最初から手がけた場合の97%を下回った。

業務用AIエージェントへの示唆

単独課題中心のランキングでは、共同作業の中でエージェントがどう振る舞うかを十分に測れないことを示す結果だ。企業がAIエージェントを人のチームに組み込む際には、課題の正答率だけでなく、対立時の判断や引き継ぎの確かさも確認する必要がありそうだ。

今後の見通し

コードはMITライセンス、課題データの大半はCC BY 4.0で公開され、7つのシナリオには非営利ライセンスが付いている。非公開の80課題は今後も伏せたままにし、答えが学習データに漏れない状態で新モデルを評価できるようにしている。

よくある質問

Collaborative Intelligence Benchmarkとは何か
スタンフォード大学、オックスフォード大学、MITの研究者による240課題のベンチマークで、危険な近道の拒否から対立への対処まで8つの能力でAIモデルのチームメイトとしての資質を評価する。

チームメイトとして最も優れたAIモデルは
論文ではGemini 4 Argonが高い推論強度で82.2点、標準設定で76.6点と最高で、GPT-6 Astraが76.5点で僅差の2位だった。

開発者は自分で試せるのか
試せる。公開課題160件と評価コードがGitHubで公開されている。非公開の80課題は公開されない。

参考資料

#AI チームワーク #AIエージェント #ベンチマーク #協働知能 #マルチエージェント #Gemini 4 Argon #GPT-6 Astra #Claude Opus 5.5 #感情知能 #スタンフォード大学
チ
チョン・スン
AI Newsway · 開発者

AI Newswayの編集責任者です。AI、開発ツール、クラウド、生産性テクノロジーの記事を執筆しています。

この記者の他の記事 ›
著作権者 © AI Newsway 無断転載・再配布、AI学習・活用禁止
共有
f X K

コメント 0

現在コメントの投稿は無効になっています。

最初のコメントを書いてみましょう。