Anthropic permet à des auditeurs externes de vérifier son travail : ce qui a changé le 15 octobre
Anthropic a donné à une équipe de METR, un évaluateur d'IA à but non lucratif, un accès similaire à celui des employés pour examiner ses pratiques en matière de risques et publier des conclusions qu'Anthropic ne peut pas opposer son veto. Voici ce que cela signifie pour la confiance que vous pouvez accorder aux affirmations de Claude en matière de sécurité.
Le 15 octobre 2026, Anthropic a annoncé avoir donné à six employés de METR — une organisation à but non lucratif qui évalue les modèles d'IA de pointe — un "accès similaire à celui des employés" à ses outils et systèmes internes. METR peut désormais publier sa propre analyse des niveaux de risque, des incidents et des pratiques d'Anthropic. Anthropic ne peut pas opposer son veto à la publication.
Ceci est important pour la façon dont vous utilisez Claude : lorsqu'Anthropic fait une déclaration de sécurité, vous avez maintenant un moyen de vérifier si une partie externe la confirme. Cette leçon porte sur l'endroit où trouver cette vérification et ce qu'elle couvre réellement.
L'accès a des limites. Anthropic peut toujours exiger de METR qu'il rédige un petit nombre de catégories : informations sur les clients, documents protégés par le secret professionnel de l'avocat, ou détails sur l'architecture du modèle. Mais METR est libre de déclarer publiquement qu'il est en désaccord avec une rédaction — il ne peut simplement pas révéler ce qui a été rédigé.
Anthropic a également nommé deux autres évaluateurs déjà en action. SecureBio examine le chapitre sur les armes chimiques et biologiques du rapport de risque d'août d'Anthropic, après avoir déjà publié un examen pilote du précédent. Accenture et Faculty travaillent à un partenariat plus large qui inclut des modèles de "red-teaming" et des tests de garanties. Anthropic a décrit trois niveaux d'accès pour les évaluateurs — étroit et soumis à approbation, plus large sans approbation nécessaire, et le niveau "similaire à celui des employés" de METR — et a déclaré être en pourparlers préliminaires avec d'autres, y compris Hugging Face.
Pourquoi cela vous est utile : si vous citez la posture de sécurité de Claude à un patron, un client ou une équipe de conformité, "Anthropic le dit" est une affirmation plus faible que "Anthropic le dit, et METR — une organisation indépendante à but non lucratif sans participation dans Anthropic — peut publier des conclusions qu'Anthropic ne peut pas bloquer." Connaître la différence entre l'affirmation d'une entreprise et une affirmation vérifiée est une compétence que vous pouvez demander à Claude de vous aider à appliquer, que le sujet soit la sécurité de l'IA ou la spécification d'un produit d'un fournisseur.
Ce qui a été livré : Anthropic a donné à METR un accès similaire à celui des employés pour examiner ses pratiques en matière de risques, avec des droits de publication auxquels Anthropic ne peut pas opposer son veto (catégories de rédaction étroites uniquement). SecureBio et Accenture/Faculty sont des partenariats d'évaluation à un stade plus précoce. Ce qu'il faut en faire : lorsqu'une affirmation de sécurité ou de capacité est importante pour votre décision, demandez si elle est auto-déclarée ou vérifiée de manière indépendante — et nommez le vérificateur.