独立評価者がAnthropic内で業務を開始

2026年9月18日、AnthropicはAccentureのFaculty AI部門との提携を発表し、独立評価者を社内に組み込むことになりました。外部監査人とは異なり、組み込み評価者は従業員レベルのアクセス権を持ち、トレーニング中のモデルを監視し、展開の決定を追跡し、内部から安全性のコミットメントを検証します。AnthropicとAccentureはそれぞれ、今後5年間で少なくとも10億ドルを投資する計画です。

2026年9月18日より、独立評価者はAnthropicの社内で業務を行います。この違いは重要です。外部監査人はAIシステムを事後にレビューします。組み込み評価者は、トレーニング中にモデルが形成される様子を監視し、それらのモデルがどのように構築され、展開されるかに関する決定を追跡し、従業員と直接話します。その立場から、安全性のコミットメントが守られていることを検証し、その結果を一般に報告することができます。

最初のパートナーは、Accentureの専門AI部門であるFacultyです。Facultyの業務は、Claudeモデルの評価とレッドチームテスト、アライメント評価の実施、モデルのセーフガードテストをカバーします。Accentureは、企業や政府が多くの業界でAIを展開するのを支援しており、その実世界の展開経験が、安全性評価へのアプローチを形成しています。両組織は、今後5年間でこの分野の能力構築にそれぞれ少なくとも10億ドルを投資する計画です。

組み込み評価は新しいものであり、まだ基準は存在しません。組み込み評価者がどのような情報にアクセスすべきか、どのように調査結果を報告すべきか、誰がその作業に資金を提供すべきかについて、現在合意されたルールはありません。Anthropicは、長期的なプール型または政府の資金調達モデルが開発されるまでの間、Accentureの作業に直接資金を提供しています。これは、6月のAnthropicのAdvanced AI Frameworkで求められていたものです。METRやその他の非営利評価者も、独自の資金で並行して試験運用されています。このパートナーシップは非独占的であり、Anthropicは追加の評価者と協力する予定であり、Accentureは他のAI開発者と協力する可能性があります。

Claudeを使用する企業チームにとって、これは説明責任構造が検証可能になったことを意味します。AnthropicはClaudeが安全であると主張できますが、今や従業員レベルのアクセス権を持つ独立した組織がその主張を検証できます。目標は、共有された基準で機能する評価者のエコシステムです。これは、モデルの合否を判断する単一の監査ではなく、フロンティアAIの構築方法に組み込まれた継続的な監視です。

主なポイント：組み込み評価者は従業員レベルのアクセス権を持ち、トレーニングを監視し、決定を追跡し、スタッフと話します。Faculty（AccentureのAI部門）は、レッドチームテスト、アライメント評価、セーフガードテストをカバーします。両組織はそれぞれ5年間で少なくとも10億ドルを計画しています。組み込み評価の基準はまだ存在せず、Anthropicは長期的なモデルが開発されるまでの間、Accentureに直接資金を提供しています。このパートナーシップは非独占的であり、今後さらに多くの評価者が発表される予定です。