Anthropic의 공개 가중치 모델에 대한 입장 설명
2026년 7월 27일, Anthropic CEO Dario Amodei는 널리 오보된 주장을 명확히 했습니다. Anthropic은 공개 가중치 모델의 금지를 옹호한 적이 없습니다. 이 수업을 마친 후에는 Claude를 사용하여 AI 정책을 정확하게 조사하고, 브리핑하고, 분석할 수 있으며, 잘못된 특성화를 반복하지 않을 수 있습니다.
Anthropic은 공개 가중치 모델의 금지를 옹호한 적이 없습니다. 2026년 7월 27일, CEO Dario Amodei는 Anthropic의 입장에 대한 광범위한 오해를 바로잡는 게시물을 발표했습니다. 이 수업을 마친 후에는 Claude를 사용하여 복잡한 AI 정책에 대해 정확하게 조사하고 다른 사람들에게 브리핑할 수 있으며, 게시물을 촉발한 오해를 반복하지 않을 수 있습니다.
게시물이 실제로 말하는 내용
Amodei는 직접적으로 말합니다. 위험한 기능이 없는 공개 가중치 모델은 "공공재"입니다. 실행하는 데 필요한 컴퓨팅 외에는 비용이 들지 않으며 기업, 개발자 및 연구원에게 이점을 제공합니다. 그는 보호주의적 금지가 Anthropic의 실제 우려 사항을 해결하지 못할 것이라고 주장합니다.
Anthropic이 실제로 가지고 있는 두 가지 우려 사항
주요 우려 사항: 권위주의 정부(가장 명확하고 유능한 위협으로 CCP가 지목됨)가 미국보다 강력한 AI를 구축하고 이를 군사적 우위 또는 대규모 감시에 사용하는 것입니다. 모델이 공개 가중치를 가지고 있는지 여부는 이 위험과 무관합니다. 가장 위험한 모델은 비밀리에 훈련되어 인민해방군에게만 전달되는 모델일 수 있습니다.
보조 우려 사항: 사이버 공격 또는 생물학적 공격에 오용되는 강력한 모델. 공개 가중치 모델은 여기에서 더 높은 위험을 수반합니다. 안전 장치를 적용하기 어렵고, 공개된 가중치는 철회할 수 없습니다. 그러나 미국 기업의 사용을 금지하는 것은 아무런 효과가 없습니다. 악의적인 행위자는 합법적인 미국 기업이 아니기 때문입니다.
Anthropic이 지지하는 세 가지 조치
칩 수출 통제: 강력한 칩 및 칩 제조 장비에 대한 접근을 거부합니다. 미국 칩이 없으면 스케일링 법칙으로 인해 중국은 최첨단 모델을 훈련할 수 없습니다. 이는 주요 위협을 직접적으로 차단합니다.
산업 규모의 증류 중단: 증류는 국가가 훨씬 적은 칩으로 거의 최첨단 모델을 구축할 수 있게 하여 수출 통제를 부분적으로 회피합니다. 공개 가중치 금지가 아닌 표적 정책이 올바른 해결책입니다.
의무적인 안전 테스트: 충분히 유능한 모든 모델(공개 및 비공개, 출신 국가에 관계없이)은 출시 전에 사이버, 생물학적 및 정렬 위험에 대해 테스트되어야 합니다. 스타트업 및 학계의 덜 유능한 모델은 면제됩니다.
Anthropic이 공개 서한과 다른 점
Amodei는 공개 가중치가 AI 접근성을 확대하고 경쟁을 강화하며 사용자에게 통제권을 부여한다는 점에 동의합니다. 그러나 그는 많은 기술 기업이 서명한 서한의 두 가지 특정 주장을 거부합니다.
공개 가중치 모델이 반드시 안전 장치 개발을 더 쉽게 만든다는 주장.
기능에 대한 광범위한 접근이 반드시 공격자보다 방어자에게 더 도움이 된다는 주장.
그는 특히 생물학에 대해 우려합니다. 충분히 유능한 모델은 널리 사용 가능한 재료를 사용하여 팬데믹 수준의 생물학 무기를 빠르게 합성할 수 있게 할 수 있지만, 그러한 에이전트에 대한 방어는 Operation Warp Speed가 보여주듯이 수년간의 운영 작업입니다. 이러한 질문은 사전에 가정하는 것이 아니라 엄격한 출시 전 테스트를 통해 답변되어야 합니다.
지금 할 수 있는 일
Claude를 사용하여 Anthropic의 정책 입장을 정확하게 요약합니다. 공개 가중치 금지 없음, 칩 수출 통제 찬성, 증류 단속 찬성, 유능한 모델에 대한 의무적인 안전 테스트 찬성.
뉴스 또는 팀 Slack에서 잘못된 특성화를 발견하고 Claude를 사용하여 빠르고 정확한 수정안을 작성합니다.
Claude에게 특정 AI 정책 제안을 분석하도록 요청할 때 세 가지 조치 프레임워크를 적용합니다.