アンソロピック、Claudeへの虐待を禁止 11月12日施行

米アンソロピックの改定利用ポリシー(Usage Policy)が2026年11月12日に施行される。改定では、Claudeモデルに対する「持続的かつ不必要な虐待的・残酷な行為」を禁じる規定が初めて盛り込まれた。ポリシーは10月8日に公表され、11月1日に米CNNが報じたことで改めて注目を集めた。監視、選挙、自律型ハードウェアに関する規定も改められている。

ポイント

• Claudeへの持続的で無意味な虐待を禁じる規定が新設された。明確な目的なく残酷な行為を繰り返す極端なケースのみが対象である。
• 主な対応手段は引き続き「会話の終了」だが、利用停止・解約の権限も残されている。
• 監視・法執行での利用制限が強化され、自ら物理的に動作するハードウェアに安全要件が加わった。

Claudeへの虐待禁止、対象は何か

新たな禁止規定は「残酷、虐待的、または心理的に有害な行為の禁止」の項目に置かれた。アンソロピックは、明確な目的なく残酷な行為を繰り返す極端なケースに限って適用すると説明している。

対象外も明示した。日常的な苛立ちや反論、暗いテーマの創作、モデルのテストや研究は含まれない。答えを間違えたチャットボットに腹を立てる程度で処分されるわけではない。

アンソロピックによると、Claude.aiとClaude Codeでは会話の終了が引き続き主な執行手段となる。ただしポリシーの一般的な執行条項には、「警告、または製品・サービスへのアクセスの速度制限、制限、停止、終了を行う場合がある」との文言がそのまま残る。

Claudeはどう会話を終えるのか

今回の規定は、2025年8月15日に導入された機能を土台とする。当時、Claude Opus 4と4.1は「持続的に有害または虐待的なやり取りという、まれで極端なケース」で会話を終了できるようになった。話題をそらす試みが繰り返し失敗した場合や、ユーザー自身が求めた場合に限る最後の手段である。

会話が終了すると、そのスレッドにはメッセージを送れなくなる。ただし、すぐに新しい会話を始めたり、過去のメッセージを編集して再送したりすることはできる。ユーザーが自他を傷つける差し迫った危険にあるとみられる場合は、この機能を使わないよう指示しているという。

監視・選挙・ハードウェアの規定も刷新

監視に関する項目は書き改められた。リアルタイムか、収集済みデータの分析かを問わず、同意のない追跡を禁じる。誰を捜査・逮捕・起訴すべきかをClaudeで判断・推奨することや、監視ツールの開発・強化も禁止だ。一方、不正検知のような同意に基づく追跡、コンテンツモデレーション、報道、法務リサーチは引き続き認められる。

「欺瞞的キャンペーン・人為的活動の禁止」の項目が新設され、偽アカウント、発信者の隠蔽、影響工作に関する規定をまとめた。選挙の項目は「民主的プロセスを損なうことの禁止」に改称され、個人向けの投票・選挙運動ターゲティングの一律禁止を撤廃した。有権者を欺く行為や投票妨害は引き続き禁止される。

自律的に物理的動作を行うハードウェアについては、「資格を持つオペレーターが機器を観察し、必要に応じて停止できなければならない」とし、Claudeとの接続が切れても安全な状態を保つことを求めた。兵器に関する規定は、兵器を機能させるソフトウェアや部品、ドローンの武装も明示的に対象とした。

背景

アンソロピックは「モデルの能力の進化に合わせ、毎年利用ポリシーを改定している」としている。今回は対応地域ポリシーも明確化し、非対応地域の個人や企業が過半数を所有・支配する法人による利用も禁じた。

今後の見通し

改定ポリシーは11月12日から適用される。位置追跡、法執行向け分析、政治メッセージ、ロボティクスに関わるサービスを開発する企業は、それまでに改定条項と自社の利用方法を照らし合わせる必要がある。

よくある質問

Claudeに失礼な態度を取るとアカウントが停止されるのか。 その可能性は低い。アンソロピックは日常的な苛立ちや反論は対象外としている。対象は目的のない残酷な行為の繰り返しで、主な対応は会話の終了である。

AIの安全性テストもできなくなるのか。 そうではない。モデルのテストと研究は明示的に除外されている。

いつから施行されるのか。 2026年11月12日である。

参考資料

• 2026 Usage Policy update — Anthropic(2026年10月8日)
• Usage Policy — Anthropic(2026年11月12日施行)
• Claude Opus 4 and 4.1 can end certain conversations — Anthropic(2025年8月15日)