AnthropicがAccentureと提携、AIの安全性評価に外部専門家を内部導入
結論
AnthropicはAccentureと提携し、最先端AIの独立した評価を行う「埋め込み型評価（embedded evaluation）」を開始します。両社は今後5年間で、この分野の能力構築にそれぞれ10億ドル以上を投資する計画です。
この記事の要点
| 発表日 | 2026/09/18 |
|---|---|
| 提供開始 | 2026/09/18 |
| 製品 | Anthropic AI Models |
| 一次ソース |
AI安全性評価の新たな取り組み
Anthropicは、最先端AI（Frontier AI）の独立した評価を行うため、Accentureと提携することを発表しました。これは、開発プロセス内に評価者を組み込む「埋め込み型評価（embedded evaluation）」を実現するための重要なステップです。
従来の外部評価者とは異なり、埋め込み型評価者はAI開発企業内部で、従業員と同等のアクセス権を持って活動します。モデルのトレーニング過程を監視し、構築や展開に関する決定プロセスを追跡し、従業員と直接対話することが可能になります。これにより、企業の安全性への取り組みが検証可能になり、リスクや盲点の特定、インシデントの報告といった役割を担います。
提携の内容と投資規模
今回の提携は、AccentureのAI専門事業部門であるFacultyが主導します。具体的な活動内容は以下の通りです。
- モデルの評価およびレッドチーミング
- アライメント（調整）の評価
- モデルのセーフガード（安全策）のテスト
AnthropicとAccentureは、今後5年間でこの分野の能力構築のために、それぞれ少なくとも10億ドルを投資する見込みです。なお、この提携は非独占的なものであり、Anthropicは今後数週間以内に他の評価者とも連携していく予定です。
