AnthropicがAIウェルビーイング研究に500万ドルの助成プログラムを開始
Anthropicは、AIがユーザーのウェルビーイングにどのように影響するかについて、オープンソースの評価を構築するために独立した研究者に資金を提供しています。このレッスンでは、500万ドルのプログラムが何を資金提供しているのか、ウェルビーイングの評価がなぜ特に難しいのか、そして今日のデリケートな会話でClaudeをどのように使用するかについて説明します。
2026年8月25日、Anthropicは500万ドルの助成プログラムを発表しました。これは、AIシステムがそれを使用する人々のウェルビーイングにどのように影響するかについて、独立した研究に資金を提供するためのものです。助成対象者は、直接的な資金提供、Anthropicのモデルへのアクセス、および技術サポートを受けます。すべての作業は、オープンソースの評価として公開されなければなりません。これは、Anthropicだけでなく、すべてのAI開発者が利用できます。
申請の締め切りは2026年9月21日です。選ばれた申請者には2026年10月5日までに通知されます。
このプログラムは、AIエンジニアだけでなく、臨床医、心理学者、方法論者、その他の専門家を特に求めています。
ウェルビーイングが精度よりも評価しにくい理由
ほとんどのClaudeの動作では、1つの応答で必要な情報がわかります。答えが正しいか、そうでないかです。
ウェルビーイングはそうではありません。Anthropicの発表では、2つの具体的な例が挙げられています。
苦痛を感じているユーザーは、最初のメッセージで自傷行為の考えに言及しない場合があります。リスクは長い会話の中で初めて明らかになります。
食事と運動に関するアドバイスは、ほとんどの状況で妥当です。しかし、ユーザーが摂食障害の履歴を示している場合、同じアドバイスが積極的に有害になる可能性があります。
同じ応答が、ある状況では正しく、別の状況では間違っている可能性があります。そのため、ほとんどのAI評価が使用する標準的な1ターンのベンチマークは、この領域では不十分です。
Anthropicが資金提供する評価に求めるもの
Anthropicのセーフガードチームは、構築に十分厳密であると見なす評価のための5つの基準を発表しました。
明確な合否基準 — 評価は、何を測定しているのか、なぜそれが重要なのかを正確に述べる。
専門家の関与 — 臨床医、心理学者、方法論者が設計と検証を支援する。
両方の失敗モードのテスト — 過剰なコンプライアンス（Claudeが助けるべきではないときに助ける）だけでなく、過剰な拒否（Claudeが助けるべきときに拒否する）もテストする。
複数ターンのシナリオ — 実際のウェルビーイングのリスクが単一のメッセージで現れることはめったにないため、時間の経過とともにエスカレートする会話。
専門家に対して検証された採点者 — 自動採点は、他のAIモデルだけでなく、人間の専門家に対してチェックされる。
今日のClaudeの使用方法にとってこれが意味すること
この研究は進行中であり、ウェルビーイングに関する業界標準はまだ構築されています。しかし、デリケートな会話でClaudeを使用する際には、すでに2つの原則が適用されます。
事前にコンテキストを提供する。 Claudeの減量、悲しみ、または精神的健康の苦闘に関する質問への応答は、その状況について知っていることによって形作られます。最初に関連するコンテキストを多く共有するほど、応答はより適切になります。重要な情報がなかったために、会話の途中でClaudeを修正する必要はありません。
過剰な拒否を実際の失敗モードとして扱う。 Anthropicは、過剰なコンプライアンスと過剰な拒否の両方を測定する価値のある問題として明示的に挙げています。Claudeが本当に助けが必要なことに関与することを拒否した場合、それは重要です。それは単にClaudeが適切に慎重であるということではありません。
Anthropicの500万ドルの助成プログラムは、AIのオープンソースのウェルビーイング評価を構築するために独立した研究者に資金を提供しています。 中核となる課題：単一の応答は、ある状況では適切であり、別の状況では有害になる可能性があるため、単一ターンのベンチマークでは不十分です。厳密な評価には、複数ターンのシナリオ、臨床的専門知識、および過剰なコンプライアンスと過剰な拒否の両方のテストが必要です。今日のClaudeのユーザーにとって、実用的な教訓は明確です。デリケートな会話では事前にコンテキストを提供し、過剰な拒否（過剰なコンプライアンスだけでなく）をフラグを立てる価値のある失敗モードとして扱います。