독립 평가자들이 이제 Anthropic 내부에서 일합니다

2026년 9월 18일, Anthropic은 Accenture의 Faculty AI 부서와 협력하여 독립 평가자들을 회사 내부에 배치한다고 발표했습니다. 외부 감사자와 달리, 내장된 평가자들은 직원 수준의 접근 권한을 얻어 훈련 중인 모델을 관찰하고, 배포 결정을 추적하며, 내부에서 안전 약속을 확인합니다. Anthropic과 Accenture는 각각 5년 동안 최소 10억 달러를 투자할 계획입니다.

2026년 9월 18일부터 독립 평가자들은 Anthropic 내부에서 일하며, 외부에서 일하지 않습니다. 이 차이는 중요합니다. 외부 감사자는 사후에 AI 시스템을 검토합니다. 내장된 평가자들은 훈련 중에 모델이 형성되는 과정을 지켜보고, 모델이 구축되고 배포되는 방식에 대한 결정을 따르며, 직원들과 직접 대화합니다. 이러한 위치에서 그들은 안전 약속이 지켜지고 있는지 확인할 수 있으며, 발견한 내용을 대중에게 보고할 수 있습니다.

첫 번째 파트너는 Accenture의 전문 AI 부서인 Faculty입니다. Faculty의 업무는 Claude 모델 평가 및 레드 팀 구성, 정렬 평가 수행, 모델 안전 장치 테스트를 포함합니다. Accenture는 기업과 정부가 다양한 산업에 AI를 배포하도록 돕습니다. 이러한 실제 배포 경험은 안전 평가 접근 방식에 영향을 미칩니다. 두 조직은 이 분야의 역량을 구축하기 위해 향후 5년 동안 각각 최소 10억 달러를 투자할 계획입니다.

내장된 평가는 새로운 것이며, 아직 표준이 존재하지 않습니다. 현재 내장된 평가자가 어떤 정보에 접근해야 하는지, 발견 사항을 어떻게 보고해야 하는지, 누가 작업을 지원해야 하는지에 대한 합의된 규칙은 없습니다. Anthropic은 6월에 발표된 Anthropic의 고급 AI 프레임워크에서 요구한 바와 같이, 장기적인 공동 또는 정부 자금 지원 모델이 개발되는 동안 현재 Accenture의 작업을 직접 지원하고 있습니다. METR 및 기타 비영리 평가자들도 자체 자금으로 병행하여 시범 운영되고 있습니다. 이 파트너십은 비독점적입니다. Anthropic은 추가 평가자들과 협력할 계획이며, Accenture는 다른 AI 개발자들과 협력할 수 있습니다.

Claude를 사용하는 기업 팀에게 이것은 검증 가능한 책임 구조입니다. Anthropic은 Claude가 안전하다고 말할 수 있습니다. 이제 직원 수준의 접근 권한을 가진 독립적인 조직이 그 주장을 확인할 수 있습니다. 목표는 공유된 표준을 가지고 일하는 평가자 생태계입니다. 즉, 모델의 통과 또는 실패를 결정하는 단일 감사가 아니라, 최첨단 AI가 구축되는 방식에 내장된 지속적인 감독입니다.

주요 내용: 내장된 평가자들은 직원 수준의 접근 권한을 얻습니다. 그들은 훈련을 관찰하고, 결정을 따르며, 직원들과 대화합니다. Faculty(Accenture의 AI 부서)는 레드 팀 구성, 정렬 평가 및 안전 장치 테스트를 담당합니다. 두 조직은 5년 동안 각각 최소 10억 달러를 투자할 계획입니다. 내장된 평가에 대한 표준은 아직 존재하지 않습니다. Anthropic은 장기적인 모델이 개발되는 동안 Accenture를 직접 지원하고 있습니다. 이 파트너십은 비독점적이며, 더 많은 평가자들이 발표될 예정입니다.