Anthropic mengizinkan auditor eksternal memeriksa pekerjaannya: apa yang berubah 15 Oktober
Anthropic memberikan tim dari METR, evaluator AI nirlaba, akses seperti karyawan untuk meninjau praktik risikonya dan mempublikasikan temuan yang tidak dapat diveto Anthropic. Inilah artinya bagi seberapa besar Anda dapat mempercayai klaim keamanan Claude.
Pada 15 Oktober 2026, Anthropic mengumumkan telah memberikan enam karyawan dari METR — sebuah organisasi nirlaba yang mengevaluasi model AI perbatasan — "akses seperti karyawan" ke alat dan sistem internalnya. METR sekarang dapat mempublikasikan analisisnya sendiri tentang tingkat risiko, insiden, dan praktik Anthropic. Anthropic tidak dapat memveto publikasi.
Ini penting untuk cara Anda menggunakan Claude: ketika Anthropic membuat klaim keamanan, Anda sekarang memiliki cara untuk memeriksa apakah pihak luar mendukungnya. Pelajaran ini adalah tentang di mana menemukan pemeriksaan itu dan apa yang sebenarnya dicakupnya.
Akses tersebut memiliki batasan. Anthropic masih dapat meminta METR untuk menyunting sejumlah kecil kategori: informasi tentang pelanggan, materi yang dilindungi oleh hak istimewa pengacara-klien, atau detail arsitektur model. Tetapi METR bebas untuk mengatakan secara publik bahwa mereka tidak setuju dengan penyuntingan — mereka hanya tidak dapat mengungkapkan apa yang disunting.
Anthropic juga menyebutkan dua evaluator lain yang sudah beroperasi. SecureBio sedang meninjau bab senjata kimia dan biologi dari Laporan Risiko Agustus Anthropic, setelah sebelumnya mempublikasikan tinjauan percontohan dari yang sebelumnya. Accenture dan Faculty sedang berupaya menuju kemitraan yang lebih luas yang mencakup model red-teaming dan pengujian pengamanan. Anthropic menggambarkan tiga tingkatan akses untuk evaluator — sempit dan disetujui, lebih luas tanpa persetujuan yang diperlukan, dan tingkatan "seperti karyawan" METR — dan mengatakan sedang dalam pembicaraan awal dengan pihak lain, termasuk Hugging Face.
Mengapa ini berguna bagi Anda: jika Anda mengutip postur keamanan Claude kepada atasan, klien, atau tim kepatuhan, "Anthropic mengatakan demikian" adalah klaim yang lebih lemah daripada "Anthropic mengatakan demikian, dan METR — sebuah organisasi nirlaba independen tanpa ekuitas di Anthropic — dapat mempublikasikan temuan yang tidak dapat diblokir Anthropic." Mengetahui perbedaan antara klaim perusahaan sendiri dan klaim yang diverifikasi adalah keterampilan yang dapat Anda minta bantuan Claude untuk menerapkannya, apakah topiknya adalah keamanan AI atau spesifikasi produk vendor.
Apa yang dikirim: Anthropic memberikan METR akses seperti karyawan untuk meninjau praktik risikonya, dengan hak publikasi yang tidak dapat diveto Anthropic (hanya kategori penyuntingan sempit). SecureBio dan Accenture/Faculty adalah kemitraan evaluator tahap awal. Apa yang harus dilakukan dengannya: ketika klaim keamanan atau kemampuan penting untuk keputusan Anda, tanyakan apakah itu dilaporkan sendiri atau diperiksa secara independen — dan sebutkan pemeriksanya.