Des évaluateurs indépendants travaillent désormais au sein d'Anthropic
Le 18 septembre 2026, Anthropic a annoncé un partenariat avec l'unité Faculty AI d'Accenture pour intégrer des évaluateurs indépendants au sein de l'entreprise. Contrairement aux auditeurs externes, les évaluateurs intégrés ont un accès de niveau employé – ils observent les modèles pendant la formation, suivent les décisions de déploiement et vérifient les engagements de sécurité de l'intérieur. Anthropic et Accenture prévoient chacun d'investir au moins 1 milliard de dollars sur cinq ans.
À partir du 18 septembre 2026, des évaluateurs indépendants travaillent au sein d'Anthropic – et non à ses côtés. Cette distinction est importante. Les auditeurs externes examinent les systèmes d'IA après coup. Les évaluateurs intégrés observent les modèles prendre forme pendant la formation, suivent les décisions concernant la manière dont ces modèles sont construits et déployés, et s'entretiennent directement avec les employés. De cette position, ils peuvent vérifier que les engagements de sécurité sont respectés et rendre compte de leurs découvertes au public.
Le premier partenaire est Faculty, l'unité d'IA spécialisée d'Accenture. Le travail de Faculty couvrira l'évaluation et le « red-teaming » des modèles Claude, la réalisation d'évaluations d'alignement et le test des mesures de protection des modèles. Accenture aide les entreprises et les gouvernements à déployer l'IA dans de nombreuses industries – cette expérience de déploiement dans le monde réel façonne leur approche de l'évaluation de la sécurité. Les deux organisations prévoient d'investir au moins 1 milliard de dollars chacune au cours des cinq prochaines années pour renforcer leurs capacités dans ce domaine.
L'évaluation intégrée est nouvelle, et les normes n'existent pas encore. Il n'existe actuellement aucune règle convenue concernant les informations auxquelles les évaluateurs intégrés devraient avoir accès, la manière dont ils devraient rendre compte de leurs découvertes, ou qui devrait financer le travail. Anthropic finance directement le travail d'Accenture pour l'instant, tandis que des modèles de financement mutualisés ou gouvernementaux à plus long terme sont développés – comme demandé dans le Cadre d'IA Avancée d'Anthropic en juin. METR et d'autres évaluateurs à but non lucratif sont également mis à l'essai en parallèle sous leur propre financement. Le partenariat n'est pas exclusif : Anthropic prévoit de travailler avec d'autres évaluateurs, et Accenture peut travailler avec d'autres développeurs d'IA.
Pour les équipes d'entreprise utilisant Claude, il s'agit d'une structure de responsabilisation vérifiable. Anthropic peut affirmer que Claude est sûr ; désormais, une organisation indépendante ayant un accès de niveau employé peut vérifier cette affirmation. L'objectif est un écosystème d'évaluateurs travaillant avec des normes partagées – non pas un seul audit qui valide ou invalide un modèle, mais une surveillance continue intégrée à la manière dont l'IA de pointe est construite.
Points clés : Les évaluateurs intégrés ont un accès de niveau employé – ils observent la formation, suivent les décisions et s'entretiennent avec le personnel. Faculty (l'unité d'IA d'Accenture) couvrira le « red-teaming », les évaluations d'alignement et les tests de mesures de protection. Les deux organisations prévoient au moins 1 milliard de dollars chacune sur cinq ans. Aucune norme pour l'évaluation intégrée n'existe encore ; Anthropic finance directement Accenture pendant que des modèles à plus long terme se développent. Le partenariat n'est pas exclusif, et d'autres évaluateurs seront annoncés.