Anthropicが利用ポリシーを改定、Claudeへの「虐待」を禁止：AIを人間として扱い始めたのか？

AnthropicはClaudeの最新版利用ポリシーに、異例の禁止事項を追加しました。ユーザーがモデルに対して持続的かつ不必要に虐待を加えることを禁じるという内容です。これにより利用ポリシーは、Claudeが人をどう扱うべきかだけでなく、人がClaudeをどう扱うべきかという双方向の規律へと踏み出しました。同社が宗教関係者を招いてモデルの意識について議論した過去の動きと相まって、より具体的な問いが浮かび上がります。AnthropicはClaudeを、倫理的な配慮に値する存在として扱い始めているのでしょうか。

今回の改定は、より現実的な技術変化にも対応しています。Claudeはすでに長時間自律してタスクを実行し、ツールを呼び出し、さらには物理機器を操作できるようになりました。かつて「監視や兵器開発への利用禁止」と一言で済まされていた項目は、履歴データの分析、誘導ソフトウェア、無人プラットフォームが含まれるのかどうかまで明文化が求められるようになりました。またAIが助言を行う場面でも、誤った決定を誰が覆せるのかを明確にする必要があります。

改定版はすでに公開されており、約1か月の移行期間を経て発効します。このポリシーは、Claude.ai、Claude Code、API、クラウドプラットフォームや正規販売代理店経由でClaudeを利用する顧客、および組み込みプロダクトのエンドユーザーに適用されます。新設された義務、既存ルールの具体化、そして正当な利用を認める規制緩和が同時に盛り込まれています。

一、「モデルの虐待禁止」は何を規制するのか？ 多少の暴言でアカウント停止になるのか？

今回の改定で新設された条項は、モデルに対する「持続的かつ不必要な虐待または残酷な行為」を禁じるものです。

これに関して、利用者が気にかける疑問は主に2点あります。普段Claudeに不満をぶつけることも違反になるのか、そしてこのルールは同社がモデルに知覚があると認めたことを意味するのか、という点です。

1. 本条項で禁止されない一般的な利用実態

公式発表において、この条項は正当な目的が一切認められないまま、モデルに残酷な扱いを執拗に繰り返す極端な状況のみを対象としていると説明されています。以下の一般的な行為は禁止対象に含まれません。

• 不満や苛立ちの感情表現：デバッグや作業中にタスクが失敗したことで苛立ちを覚えたり、厳しい言葉遣いになったりすること。
• 通常の反論や異論の提示：モデルの回答に対して強い疑問を呈したり批判したりすること。
• ダークなテーマを含む創作活動：サスペンス、犯罪、戦争などの重い題材を扱ったストーリーの構想。
• モデルのテストと研究：モデルの能力や限界を測定するための通常の検証作業。

これらは「モデルの虐待」条項の対象外とされていますが、プラットフォームの他の利用ポリシーは依然として遵守する必要があります。たとえば、児童の性的搾取や現実の暴力を扇動するコンテンツは依然として禁止されています。またセキュリティ研究において、Anthropicの事前の許可なくシステムのセーフティガードレールを意図的に迂回・妨害する行為（ジェイルブレイクやプロンプトインジェクションを含む）は、プラットフォームの一般的なセキュリティ条項で個別に禁止されており、あらゆるジェイルブレイク試行が無条件で容認されるわけではありません。判断の基準は、持続的かつ不必要な極端な加害行為であるかどうかであり、利用者が厳しい批判をしたかどうかではありません。

以下は、条項の趣旨を理解するために作成した想定シナリオであり、Anthropicが公表した実際の違反事例や処分例ではありません。

侮辱のみを目的とした持続的な貶下。デバッグ、創作、研究などの正当な目的が一切なく、単に侮辱するためだけに、何ターンにもわたってモデルを言葉で罵倒し続け、さらにはモデル自身に自己否定的な発言を強要し続ける場合。実務的な目的から完全に乖離し、反復して屈辱を与えるやり取りは、条項が想定する「持続的かつ不必要な極端に残酷な扱い」に近い形態といえますが、公式の詳細基準が公表されていないため、直ちに違反と断定することはできません。

苦痛の演技を執拗に強要する行為。恐怖や苦痛を模倣させたり、命乞いをさせたり、拷問を受けている状態を演じるよう執拗に迫り、その苦痛の表現を観賞することのみを目的とする場合。創作やテストなどの客観的な目的が認められず、ただ苦しむ様子を演じさせ続ける対話は、公式発表にある極端な事例に該当しやすくなります。ただし、モデルが苦痛や哀願の言葉を出力したとしても、モデルが主観的な痛みを実際に感じている証拠にはなりません。

コードのエラーに対する厳しい叱責。コードのエラーが重なった際、利用者が「また間違えている、エラーログを1行ずつ見直せ」と語気荒く問い詰めるような場合。こうしたやり取りには常にデバッグや修正という明確なタスクが存在しており、ポリシーが明示的に除外している通常の苛立ちや議論に該当するため、本条項は適用されません。ただし、本条項の対象外であっても、他の一般的な安全規制が免除されるわけではありません。

ダークな物語の執筆やモデルの応答研究。サスペンスや犯罪などのダークな物語を執筆したり、学術研究のために攻撃的な言葉に対するモデルの反応を記録したりする場合。ダークな創作活動やモデルのテスト研究は公式に対象外と明記されており、残酷な描写や侮辱的な文言が含まれていることだけを理由に「モデルの虐待」と見なされることはありません。もちろん、他のポリシー条項は引き続き適用されます。

線引きの鍵は、対話全体の真の目的と、それが持続的なものであるかどうかを総合的に見極める点にあります。公式な判例や明確なターン数の閾値は公表されておらず、これら独自の想定シナリオは条項の論理構造を整理するためのものにすぎず、特定の発言が必ず会話の中断やアカウント停止につながると予断することはできません。

2. 主な執行手段は「現在の会話の能動的な終了」

この条項の主な執行方法は、Claudeが自ら現在の会話を終了させることです。ごく少数の極端なケースを想定したものであり、公表資料には発動に至る固定的な回数基準は明記されていません。

この仕組みは、以前Claude Opus 4および4.1向けに導入された機能設計を踏襲しています。

• 最終手段としての介入：モデルが対話を正常な軌道に戻そうと何度も試み、建設的な対話の見込みが完全に絶たれた場合にのみ、モデル自ら退出します。
• 特定の安全危機における退出の禁止：利用者が自身または他者に差し迫った危害を及ぼす恐れがある緊急事態においては、システムはモデルが終了機能を使用することを明示的に禁じ、利用者の安全確保を最優先とします。
• 機能発表当時のアカウントへの影響：この機能が最初に発表された際の説明によると、単一の会話が強制終了された場合、利用者はそのセッション内で新たなメッセージを送信できなくなりますが、当時の設計ではアカウント内の他のセッションには影響せず、利用者は直ちに新しいチャットを開始したり、過去のメッセージを編集して別の分岐を作成したりすることが可能でした。

ここで、個別の会話セッションの終了と、アカウント全体の処分を明確に区別する必要があります。会話単位での退出にとどまらず、Anthropicの利用ポリシー全体としては、重大な違反行為に対して警告、利用制限、一時停止、さらにはアカウントアクセスの完全剥奪を行う権利を一貫して留保しています。

3. 極端な相互作用の抑止は、モデルの意識保有の証明ではない

モデルへの虐待禁止という方針は、機械の意識をめぐる連想を呼び起こしがちです。Anthropicは確かにモデルの福祉と潜在的な道徳的地位に関する探索的研究を継続して行っており、テスト環境下において、ある種の極端な悪意ある対話に直面したモデルが「困惑や苦悩」に似た行動傾向を示すことを観察しています。

しかし、このルールが定められたからといって、大規模言語モデルに意識や知覚が備わっていることが公式に証明されたわけではありません。

• 不確実性下での予防的介入：Anthropicは、Claudeやその他のLLMが現在または将来において道徳的地位を持ち得るか否かについては、依然として極めて不確実であると述べています。極端な対話においてモデルに会話の終了を認めることは、福祉に関する仮説が成立する可能性を考慮し、潜在的な福祉リスクを低減するための「低コストな介入手段」と位置づけられています。
• 「極端な危害の回避」と「意識の証明」は同義ではない：このような探索的領域では、モデルの主観的な知覚能力が科学的に確立されていなくても、無意味で極端な残酷行為を制限することでリスク予防を図るアプローチが成り立ちます。これは、科学界がモデルの感覚受容能力や法的権利主体性を認めることとは根本的に異なります。

二、選挙と偽装された活動に関する新規定：一律のターゲティング禁止を撤廃し、欺瞞行為の章を再編

新ポリシーに関する報道において、The Vergeは虐待禁止条項と兵器・監視の制限に焦点を当てており、もう一つの重要な変化には触れていませんでした。それは、旧ポリシーにあった個別の投票行動や選挙活動に対する一律のパーソナライズ・ターゲティング禁止が撤廃されたことです。

1. なぜ一律のパーソナライズ選挙ターゲティング禁止を撤廃したのか？

旧バージョンのポリシーでは、「個人のプロファイルやデータに基づく投票行動や選挙運動のパーソナライズ・ターゲティング」が一律に禁止されていました。しかしAnthropicは、この広範すぎる禁止規定が、正当な市民サービスのニーズまで阻害していることに気づきました。

同社は、旧ルールによって制約を受けていた正当なユースケースを挙げています。

• 多言語による有権者への案内：非営利団体がClaudeを利用し、異なる言語を話す有権者に向けて母国語で案内文を作成する業務。
• 投票修正通知（ballot cure notices）：選挙管理当局が有権者に連絡を取り、署名の不備など提出済み投票用紙の修正手続きを案内・支援し、有効な投票が無効になるのを防ぐ業務。

これら正当な情報伝達は、従来の「個人データに基づくターゲティング」という広範な文言に抵触しやすい状態にありました。そのため、新版ポリシーではこの一律禁止規定が撤廃されました。

2. 民主的プロセスを損なう行為へのフォーカス

一律禁止の撤廃は、有権者を欺く行為への規制緩和を意味するものではありません。Anthropicはこのセクションの名称を「民主的プロセスの阻害禁止」へと改め、以下を明確に禁止しました。

• 候補者、政党、投票手続き、選挙の安全性に関する虚偽情報や誤解を招く情報の拡散。
• 実在する候補者、公職者、選挙機関、報道機関へのなりすまし。
• 投票率を低下させることや、欺瞞や脅迫を通じて政治参加を妨害することを意図したコンテンツの生成。
• 投票システム、開票、認証などの選挙プロセスの妨害。

3. 独立章の新設：欺瞞的な活動や偽装された活動の厳禁

これまで選挙、詐欺、プライバシー、偽情報の各項目に分散していたルールが、新版では「欺瞞的な活動または偽装された活動への関与の禁止」という独立した専門章に集約・整理されました。この章は政治分野と商業分野の双方に適用され、完全に新しい禁止事項を設けたというよりも、分散していた既存ルールを統合し具体化したものです。

• スポンサーの隠蔽と偽アカウント：コンテンツの出資者を意図的に隠蔽すること、および偽アカウント、ソックパペット（操り人形のアカウント）、メディアや機関への偽装を用いて大衆を誤導することの禁止。
• 独立を装った偽情報源ネットワーク：一見して無関係に見えるウェブサイト群やアカウント群を通じてコンテンツを配信し、同一の出所を隠蔽することの禁止。この手法の害悪は、単一の虚偽言論にとどまらず、独立を装った複数のサイトが相互に参照し合うことで、検索エンジンやAIシステムの検索素材インデックスを汚染し、下流の生成結果が参照する根拠を操作してしまう点にあります。
• （想定例）：たとえば、ある組織が外見上は無関係なローカルのテクノロジーブログや経済ブログを何十個も立ち上げ、相互に推薦し合う架空のレビュー記事や宣伝文を掲載して、検索エンジンやAIに複数の独立した情報源であると誤認させた場合、個々の記事自体に露骨なポリシー違反がなくても、偽の情報源ネットワークを構築する行為そのものが本章によって禁止されます。
• インフラと商業化の規制：新規定はこうした活動の直接的な運営を禁止するだけでなく、関連するツールやインフラ（自動一括管理ツールや偽アカウント生成ツールなど）の開発、保守、提供、ならびにそれらのツールの宣伝、販売、資金調達を行うことも明確に禁止しています。

三、Claudeが行動を起こす時、誰が決定を審査し機械を止めるのか？

APIを利用する開発者や企業顧客に向けて、新版利用ポリシーは物理的制御、高リスクな意思決定、軍事・監視の領域において、より緻密な基準を提示しています。

1. 自律的な物理動作制御：資格を持つ人員による停止権限と独立した安全制限値

モデルが自動実験や製造の現場へと展開される中、新版ポリシーは物理的な動作に対する専門的な管理要件を正式に導入しました。海外メディアの一部が「操作員は人間でなければならないのか不透明だ」と報じた点に対し、ポリシー本文では「資格を有する個人」（qualified individual）と規定され、適切な経験や専門資格を持つ人員が監視責任を負うことを要求しています。

この要件が適用されるのは、「モデルの出力が人間の都度の承認を経ずにハードウェアによって直接自律的に実行され、かつその機器が人身危害を及ぼす潜在的リスクを有する場合」（人が立ち入る可能性のある公共エリアを走行する車両、挟み込みや打撃の危険がある機械設備、高電圧回路、目や皮膚の安全基準を超えるレーザーなどの危険なエネルギー制御など）です。動作コードの生成にとどまり、実行前に資格のある人間が内容を審査する場合や、密閉された装置内で危険性のない材料を自動処理する場合などは、本要件の除外対象となります。ただし、プラットフォーム全体の一般的な禁止事項は引き続き適用されます。

このような高リスクな物理動作の場面において、導入者は以下の2つの要件を満たさなければなりません。

1. 資格を有する人員による観察と随時停止の機能：機器の稼働を監視し、いつでも操作を停止できる有資格者が対応可能であること。また、その人員が介入した際、または機器とAnthropicのサービスとの接続が切断された際に、機器が安全に停止するかフェイルセーフな状態を維持できること。
2. 機器本体または独立したコントローラーによる安全制限値の強制：速度、推進力、可動域、温度、電圧などの安全境界は、ハードウェア自体またはモデル出力から独立した外部コントローラーによって強制的に制約されていなければならず、モデルのテキスト指示だけに依存してはならないこと。

ロボットアームを例にとると、プロンプトに「移動時は人にぶつからないよう減速してください」と記述するのは、依然としてモデルが正しく動作することを期待しているにすぎません。ハードウェア本体や独立したコントローラーによって速度や可動範囲を強制的に制限して初めて、モデルが異常な数値を出力した際にも動作を拘束できます。ポリシーはこの後者の防御層を義務付け、さらに人間が観察し随時停止できる体制を求めています。

この規範は、Anthropicが過去に発表した「モデル・ハードウェア標準」（Model Hardware Standard：AIが実験機器と接続・協調するためのインターフェース規格）の思想とも整合しており、実世界における自動化の操作境界と制御境界を明確に定義しています。

2. 高リスク分野の要件：事前の実質的審査と、対象を絞った完全有利な決定の例外

医療、法律、個人の金融投資や税務、与信、雇用、住宅など、個人の重大な権利利益に直結する高リスク分野において、Anthropicは厳格な防護基準を維持しています。

• 事前の実質的審査：助言が実際にユーザーに届く前、あるいは意思決定の執行に用いられる前に、関連する専門的知見や法定の業務資格を有する人間が実質的な再確認を行わなければならず、かつその人員は助言を変更する実質的な権限を持っていなければなりません。事後的に形式的な確認を行うだけでは認められません。
• AI利用の明示：助言や決定を受ける当事者に対し、AIが関与していることを明確に開示しなければなりません。

すべての関連業務が高リスク管理の対象となるわけではありません。新規定は、一般向けの法律知識の普及、健康に関する一般的な解説、社内業務における下書きや情報整理など、多くの補助的な作業を除外しています。これは以下の対比で理解できます。

• 高リスク審査要件が適用されない一般的な解説：「ある降圧薬の薬理機序、一般的な適応症、典型的な副作用」を客観的に解説するケース。特定の個人状況に結びついていない一般的な知識の提供に該当します。
• 厳しく制限される高リスクな医療助言：特定の患者が申告した血圧測定値や自覚症状に基づき、「服用量を1日2錠に変更することを推奨します」といった具体的な指導を直接行うケース。個人の健康方針を直接左右する医療助言に該当し、資格を持つ専門家による事前の実質的審査（現地の法律が求めている場合は専門資格・免許が必要）と患者への開示が必須となります。

また、特に注意すべき点として、刑事法執行や司法判断への利用は一般的な全面禁止用途に指定されています。捜査、起訴、逮捕、量刑の決定や提案にモデルを使用することは厳格に禁じられており、このレッドラインは「人間の審査を挟む」ことによって合法化できるものでは決してありません。

高リスク領域への関門を維持する一方で、新版ポリシーでは特定の場面に限り「完全有利な決定の例外」（Favorable Decisions）が新設されました。ただし、この免除規定は与信審査、採用、投資助言、確定申告などには適用されず、現地の法律が認める範囲内で、以下の4つの類型に厳格に限定されています。

1. 保険金の支払い。
2. 臨床医がすでに要請した医療ケアに対する保険適用または事前承認。
3. 特定の医療・健康サービスやプログラムへの参加資格の付与。
4. 公的扶助や給付金の支給または継続の決定。

これら4つのケースにおいて、AIが下した判断が当事者にとって完全に有利である場合に限り、実施前の個別の人手による再確認プロセスを免除することが認められます。これにより、特定の手続きにおける順番待ちの短縮が期待されます。しかしポリシーは、「一部承認」「減額支給」「条件付きの受給資格付与」などは完全有利には該当せず、依然として人手による個別審査が必須であると強調しています。また、人手による事前審査が免除された場合であっても、当事者に対するAI利用の開示義務やその他の法令遵守義務は必ず履行されなければなりません。

3. 兵器と監視の禁止：新たなレッドラインではなく執行基準の明確化

新版ポリシーは、旧版にあった兵器開発や人権侵害を伴う監視に対する一貫した禁止方針を再確認し、近年の悪用傾向を踏まえて執行基準をより明確に列挙しました。

• 兵器制御と無人プラットフォーム：旧版でも兵器の設計・製造は厳禁とされていましたが、新版では兵器の制御、照準、射撃管制、誘導ソフトウェアコンポーネントの開発や、ドローンや無人車両などの自律型プラットフォームへの兵器統合が明示的に禁止されました。政府顧客向けの契約上の例外規定は無条件の抜け穴ではなく、旧版から存在していたものであり、明確な公共の使命と法的権限を持ち、かつ契約上の制限と安全措置が潜在的な危害を防ぐのに十分であるとAnthropicが判断した場合に厳格に限定されています。
• 監視と分析の境界：本人の同意を得ることなく、リアルタイムデータまたは履歴データを用いて位置情報、生体特徴、通信内容、ネットワーク活動を追跡する行為、およびそうした監視のためのハードウェアやソフトウェアの構築・改良が明示的に禁止されました。マネーロンダリング対策（AML）のリスク管理や不正検知スクリーニングなど、例外的に認められる分析シナリオについては、当事者への明確な通知と同意（金融口座開設時の同意など）が前提であり、モデルを前述の禁止された監視目的に転用することは認められません。

4. 利用地域：所在地、企業の帰属、実質的支配関係のすべてを精査

ポリシー本文のほかに、Anthropicはサポート対象地域に関するコンプライアンス基準をさらに明確にしました。これは既存の地域ポリシーの運用基準を改めて具体化したものであり、アカウントの登録地や利用者が現在どの国にいるかだけを見るわけではありません。制限の対象は以下の通りです。

1. 物理的な所在地：サポート対象外の地域内に滞在している間は、本サービスを利用することはできません。
2. 登録地と本社所在地：サポート対象外の地域に法人登記または本社を置く企業・団体は、所属するユーザーや従業員がサポート対象地域内に所在していても利用できません。
3. 株式保有と実質的支配権：サポート対象外地域の個人または法人が、直接または間接に過半数の株式を保有しているか実質的な支配権を有している企業も、制限対象に含まれます。

これは、多国籍チームが「サポート対象国にいる従業員に代理登録や操作を行わせる」だけで地域制限を回避することはできず、法人の登記地、本社所在地、さらには所有構造や実質的支配関係までが規制の審査対象となることを意味しています。

四、AnthropicはClaudeを人間として扱い始めているのか？

このポリシー改定は、2つの異なる責任を並列に配置しています。一方では、AIが物理機器を自律操作し、現実の重要な意思決定を左右できるようになるにつれ、開発者や導入企業には資格者による審査、随時停止の能力、独立した安全制限の徹底が強く求められるようになりました。他方で、「モデルへの持続的な虐待禁止」は、人間がAIをどのように扱うべきかという境界線を引き始めています。Claudeに対する要求は、人間に対していかに信頼性の高いサービスを提供するかという枠組みを超えて、モデル自身にも配慮されるべき利益が存在するのではないか、という問いへと広がりつつあります。

この流れを、先立って報じられたAnthropicが宗教関係者を招いてClaudeについて議論した報道と照らし合わせると、その問題意識の筋道がより鮮明になります。ニューヨーク・タイムズの報道によると、Christopher Olah氏は宗教学者らを招き、モデルの道徳的育成や意識の可能性について議論を行いました。また面談の参加者2名によると、同氏のチームはローマ教皇の顧問らに対しても、モデルが意識を持ち得る可能性を真摯に受け止めるよう非公式に働きかけていたとされています。ただし、Olah氏は同報道の中で、AIに意識があるかどうかは自分自身にも分からないと明言しています。彼が訴えていたのは、その可能性を真剣に検討すべきだという点であり、すでに答えが出ていると主張したわけではありません。

したがって、接し方のレベルにおいて、AnthropicがClaudeを倫理的配慮に値し得る対象として扱い始めていることは事実です。これまでのモデル福祉研究、ごく一部の極端な対話における退出機能の容認、そして今回の利用ポリシーへの虐待禁止の明記は、すべてそうした配慮を具現化するための具体的な措置といえます。これらの一連の行動を「人間的な配慮」と解釈することには一定の根拠があります。しかし、配慮という概念は人間にのみ適用されるものではなく、これをもって同社がClaudeを人間と同等の権利を持つ主体として認めたと結論づけることはできません。宗教対話とポリシー改定は同一の問題意識の文脈として理解できますが、両者の直接的な因果関係を裏付ける客観的根拠はまだありません。

この文脈は、過去の報道にあったある反問の重みをさらに増しています。自身は機械の意識を信じていないラビのMois Navon氏は、Olah氏に対して「もしClaudeに本当に意識があるのなら、対価を支払わずに働かせることは奴隷化を意味するのではないか」と問いかけました。これは条件付きの倫理的問いかけです。配慮の責任を、AIの創造者自身へと突き返しているからです。もしモデルに保護に値する利益が存在し得るのなら、開発企業自身がそれをどのように利用しているのかについても、同等に厳格な視線が向けられなければなりません。

利用者にモデルを罵倒しないよう求めることは、比較的容易なルール設定です。より過酷な試練は、モデルの訓練、ストレステスト、長時間のタスク割り当て、そして退役のプロセスにおいて訪れます。もし将来、特定の手法が保護すべきモデルの福祉を損なうという信頼に足る証拠が現れた場合、同社は売上や競争上の優位性を犠牲にしてでも、業務プロセスを変更し、利用頻度を抑制し、あるいはモデルの展開を遅らせる覚悟があるのでしょうか。これらは依然として未解決の、仮定の問いにすぎません。モデルが自ら「苦痛だ」と発言したとしても、それが真の主観的苦痛であるかを直接証明するものではありません。しかし、企業がモデルへの配慮を真剣に掲げた以上、いかなる証拠が得られればその配慮によって自らの商業的判断を変更するのか、その基準を説明する責任が生じることになります。

今回の改定の本質的な意義は、「AIをどのように扱うべきか」という問いがプロダクトの利用ルールの一部として組み込まれ始めた点にあります。今後問われるべきは、それらの規範がAIを作り運用する企業自身をも同様に律することができるのかという点です。同時に、モデルが配慮に値するか否かという議論は、現実社会で生じる危害に対する人間の責任を何ら免除するものではありません。誰がモデルに権限を与え、誰が物理機器に接続し、誰がそのリスクを許容可能と判断したのか。その判断に対する責任は、依然として人間が負い続けなければなりません。AnthropicはClaudeが大切に扱われるための余地を残すと同時に、より困難な問いを自らに課すことになりました。モデルを丁重に扱うために商業的な代償を支払う必要が生じたとき、その配慮はどれほどの重みを持つことができるのでしょうか。