Anthropic laat externe auditors zijn werk controleren: wat veranderde er op 15 oktober
Anthropic gaf een team van METR, een non-profit AI-evaluator, werknemer-achtige toegang om zijn risicopraktijken te beoordelen en bevindingen te publiceren die Anthropic niet kan tegenhouden. Dit betekent het voor hoeveel u de veiligheidsclaims van Claude kunt vertrouwen.
Op 15 oktober 2026 kondigde Anthropic aan dat het zes werknemers van METR – een non-profit die geavanceerde AI-modellen evalueert – "werknemer-achtige toegang" heeft gegeven tot zijn interne tools en systemen. METR kan nu zijn eigen analyse van Anthropic's risiconiveaus, incidenten en praktijken publiceren. Anthropic kan publicatie niet tegenhouden.
Dit is belangrijk voor hoe u Claude gebruikt: wanneer Anthropic een veiligheidsclaim maakt, heeft u nu een manier om te controleren of een externe partij deze ondersteunt. Deze les gaat over waar u die controle kunt vinden en wat deze precies omvat.
De toegang heeft grenzen. Anthropic kan METR nog steeds verplichten om een klein aantal categorieën te redigeren: informatie over klanten, materiaal dat onder het advocaat-cliëntprivilege valt, of details over de modelarchitectuur. Maar METR is vrij om publiekelijk te zeggen dat het het niet eens is met een redactie – het kan alleen niet onthullen wat er is geredigeerd.
Anthropic noemde ook twee andere evaluatoren die al bezig zijn. SecureBio beoordeelt het hoofdstuk over chemische en biologische wapens van Anthropic's augustusrisicorapport, na al een pilotbeoordeling van de vorige te hebben gepubliceerd. Accenture en Faculty werken aan een bredere samenwerking die het red-teaming van modellen en het testen van veiligheidsmaatregelen omvat. Anthropic beschreef drie toegangsniveaus voor evaluatoren – beperkt en met goedkeuring, breder zonder goedkeuring nodig, en METR's "werknemer-achtige" niveau – en zei dat het in vroege gesprekken is met anderen, waaronder Hugging Face.
Waarom dit nuttig voor u is: als u Claude's veiligheidspositie citeert aan een baas, een klant of een compliance-team, is "Anthropic zegt het" een zwakkere claim dan "Anthropic zegt het, en METR – een onafhankelijke non-profit zonder aandelen in Anthropic – kan bevindingen publiceren die Anthropic niet kan blokkeren." Het kennen van het verschil tussen een eigen claim van een bedrijf en een geverifieerde claim is een vaardigheid die u Claude kunt vragen u te helpen toepassen, of het nu gaat om AI-veiligheid of de productspecificaties van een leverancier.
Wat is er geleverd: Anthropic gaf METR werknemer-achtige toegang om zijn risicopraktijken te beoordelen, met publicatierechten die Anthropic niet kan tegenhouden (alleen beperkte redactiecategorieën). SecureBio en Accenture/Faculty zijn evaluatiepartnerschappen in een vroeger stadium. Wat u ermee moet doen: wanneer een veiligheids- of capaciteitsclaim belangrijk is voor uw beslissing, vraag dan of deze zelf gerapporteerd of onafhankelijk gecontroleerd is – en noem de controleur.