Anthropic, AI 정책에 4천만 달러 투자: AI 안전장치 구축에 박차
2026년 7월 21일, Anthropic은 Public First Action에 2천만 달러를 추가 기부하여 총 지원액을 4천만 달러로 늘렸습니다. 이 수업을 마친 후, Claude를 사용하여 AI 정책 입장을 설명하고, 모든 청중을 위한 거버넌스 프레임워크를 번역하며, 조직이 AI 규제에 대한 자체 입장을 숙고하는 데 도움을 받을 수 있습니다.
Anthropic은 2026년 7월 21일 Public First Action에 2천만 달러를 추가 기부하여 총 지원액을 4천만 달러로 늘렸습니다. Public First Action은 AI에 대해 대중을 교육하고 AI 안전장치에 대한 초당적 지지를 구축하는 비당파적 조직입니다. 공화당, 민주당, 무소속과 협력합니다. 두 기부금 모두 공공 교육 및 정책 업무에만 사용되며, 연방, 주 또는 지방 선거에 출마하는 후보자를 후원할 수 없습니다.
첫 2천만 달러는 2026년 2월에 기부되었습니다. 두 번째 기부는 Anthropic이 "이러한 정책의 필요성이 더욱 강력해진" 시기라고 설명하는 기간 이후에 이루어졌습니다.
Anthropic의 긴급성은 한 가지 구체적인 예에 집중됩니다. Claude Mythos Preview는 모든 주요 운영 체제 및 브라우저를 포함하여 수천 개의 심각한 소프트웨어 취약점을 발견했습니다. Anthropic은 Mythos Preview를 공개적으로 출시하는 대신, Project Glasswing을 통해 제한된 사이버 방어자들에게만 제공하여, 신뢰할 수 있는 행위자들이 다른 누구도 악용하기 전에 약점을 찾아 수정할 수 있도록 했습니다.
그 의미는 직접적입니다. 잘못된 손에 들어간 그러한 능력을 가진 모델은 병원, 에너지 그리드 및 기타 중요 인프라를 위협할 수 있습니다. Anthropic은 모델이 더욱 강력해지기 전에 정부가 지금부터 감독 역량을 구축하기 시작해야 한다고 주장합니다.
Anthropic의 고급 AI 프레임워크(회사는 이를 현재까지 어떤 선도적인 연구소나 정책 입안자로부터 나온 가장 강력한 정책 제안이라고 부릅니다)는 현재 필요한 최소한의 안전장치라고 말하는 내용을 제시합니다. 이 프레임워크는 다음을 요구합니다.
정부가 기업의 안전 주장을 단순히 수용하는 것이 아니라 검증할 수 있어야 함
안전하지 않은 관행에 대한 민사 처벌
재앙적인 위험을 초래하는 모델의 배포를 늦추거나 차단할 권한
가장 위험한 모델에 대한 의무적인 독립 평가
선도적인 AI 연구소의 강력한 보안 프로그램
고급 칩 및 반도체 제조 장비에 대한 수출 통제
불법적인 모델 접근 및 증류 공격(적들이 선도적인 모델의 기능을 복사할 수 있도록 하는 기술)을 막기 위한 조치
지정학적 차원에서 Anthropic은 2028: 글로벌 AI 리더십을 위한 두 가지 시나리오라는 문서를 발표하여 미국의 현재 AI 리더십이 실재하지만 취약한 이유를 설명했습니다.
Claude는 AI 정책 콘텐츠 작업(프레임워크 설명, 전문 용어 번역, 경쟁 입장 매핑 또는 특정 청중을 위한 커뮤니케이션 초안 작성)에 매우 적합합니다. 정책 주제에 대한 가장 효과적인 프롬프트는 세 가지를 지정합니다. 즉, 청중, 목적, 그리고 범위에서 벗어나는 모든 주제입니다.
"AI 규제 설명"은 일반적인 요약을 생성합니다. "기술 배경이 없는 시의회 의원을 위해 AI 회사가 정부 감독을 추진하는 이유를 두 단락으로 설명"은 실제로 사용할 수 있는 것을 생성합니다. 제약은 업그레이드입니다.
세 가지 핵심 사항:
Anthropic이 Public First Action에 총 4천만 달러를 약속한 것은 정책 역량이 AI 역량에 비해 시급히 뒤처져 있다는 판단을 반영합니다. Claude Mythos Preview가 모든 주요 OS 및 브라우저에서 중요한 취약점을 발견한 것이 그 증거입니다.
Anthropic의 고급 AI 프레임워크는 회사의 가장 상세한 공개 정책 입장입니다. Claude가 AI 거버넌스 논의를 준비하는 데 도움을 줄 때 유용한 참고 자료입니다.
정책 및 거버넌스 작업을 위해 Claude에게 청중 + 목적 + 제외 사항을 포함하여 프롬프트를 제공하십시오. 일반적인 프롬프트는 일반적인 답변을 반환합니다. 제약이 출력을 유용하게 만드는 요소입니다.