Anthropic은 외부 감사관이 작업을 확인하도록 허용합니다: 10월 15일에 무엇이 변경되었습니까?

Anthropic은 비영리 AI 평가 기관인 METR 팀에 직원과 유사한 접근 권한을 부여하여 위험 관행을 검토하고 Anthropic이 거부할 수 없는 결과를 게시하도록 했습니다. 이는 Claude의 안전 주장을 얼마나 신뢰할 수 있는지에 대한 의미입니다.

2026년 10월 15일, Anthropic은 프론티어 AI 모델을 평가하는 비영리 단체인 METR의 직원 6명에게 내부 도구 및 시스템에 대한 "직원과 유사한 접근 권한"을 부여했다고 발표했습니다. 이제 METR은 Anthropic의 위험 수준, 사건 및 관행에 대한 자체 분석을 게시할 수 있으며, Anthropic은 게시를 거부할 수 없습니다.

이는 Claude를 사용하는 방식에 중요합니다. Anthropic이 안전 주장을 할 때, 이제 외부 당사자가 이를 뒷받침하는지 확인할 수 있는 방법이 생겼습니다. 이 단원은 해당 확인을 어디서 찾을 수 있는지, 그리고 실제로 무엇을 다루는지에 대한 것입니다.

접근에는 제한이 있습니다. Anthropic은 여전히 METR에 소수의 범주(고객 정보, 변호사-고객 특권 자료 또는 모델 아키텍처 세부 정보)를 수정하도록 요구할 수 있습니다. 그러나 METR은 수정에 동의하지 않는다고 공개적으로 말할 수 있으며, 수정된 내용을 공개할 수는 없습니다.

Anthropic은 이미 진행 중인 다른 두 평가 기관도 지명했습니다. SecureBio는 이전 보고서에 대한 파일럿 검토를 이미 발표한 후 Anthropic의 8월 위험 보고서의 화학 및 생물학 무기 장을 검토하고 있습니다. Accenture와 Faculty는 모델 레드팀 구성 및 안전 장치 테스트를 포함하는 광범위한 파트너십을 위해 노력하고 있습니다. Anthropic은 평가 기관을 위한 세 가지 접근 계층(제한적이고 승인된, 승인 없이 더 광범위한, METR의 "직원과 유사한" 계층)을 설명했으며, Hugging Face를 포함한 다른 기관들과 초기 논의 중이라고 밝혔습니다.

이것이 당신에게 유용한 이유: 상사, 고객 또는 규정 준수 팀에 Claude의 안전 태세를 인용하는 경우, "Anthropic이 그렇게 말합니다"는 "Anthropic이 그렇게 말하고, Anthropic에 지분이 없는 독립 비영리 단체인 METR이 Anthropic이 차단할 수 없는 결과를 게시할 수 있습니다"보다 약한 주장입니다. 회사의 자체 주장과 검증된 주장의 차이를 아는 것은 AI 안전이든 공급업체의 제품 사양이든 Claude에게 적용하도록 요청할 수 있는 기술입니다.

출시된 내용: Anthropic은 METR에 위험 관행을 검토할 수 있는 직원과 유사한 접근 권한을 부여했으며, Anthropic이 거부할 수 없는 게시 권한을 부여했습니다(제한된 수정 범주만 해당). SecureBio 및 Accenture/Faculty는 초기 단계의 평가자 파트너십입니다. 활용 방법: 안전 또는 기능 주장이 결정에 중요한 경우, 자체 보고된 것인지 독립적으로 확인된 것인지 질문하고 확인자를 명시하십시오.