Anthropic lässt externe Prüfer seine Arbeit überprüfen: Was sich am 15. Oktober geändert hat
Anthropic hat einem Team von METR, einem gemeinnützigen KI-Evaluator, mitarbeiterähnlichen Zugang gewährt, um seine Risikopraktiken zu überprüfen und Ergebnisse zu veröffentlichen, die Anthropic nicht ablehnen kann. Hier erfahren Sie, was das für das Vertrauen in Claudes Sicherheitsaussagen bedeutet.
Am 15. Oktober 2026 gab Anthropic bekannt, dass es sechs Mitarbeitern von METR – einer gemeinnützigen Organisation, die führende KI-Modelle bewertet – „mitarbeiterähnlichen Zugang“ zu seinen internen Tools und Systemen gewährt hat. METR kann nun seine eigene Analyse der Risikostufen, Vorfälle und Praktiken von Anthropic veröffentlichen. Anthropic kann die Veröffentlichung nicht ablehnen.
Dies ist wichtig für die Art und Weise, wie Sie Claude verwenden: Wenn Anthropic eine Sicherheitsaussage macht, haben Sie jetzt eine Möglichkeit zu überprüfen, ob eine externe Partei diese unterstützt. Diese Lektion handelt davon, wo Sie diese Überprüfung finden und was sie tatsächlich abdeckt.
Der Zugang hat Grenzen. Anthropic kann METR weiterhin dazu verpflichten, eine kleine Anzahl von Kategorien zu schwärzen: Informationen über Kunden, Anwaltsgeheimnisse oder Details zur Modellarchitektur. Aber METR steht es frei, öffentlich zu sagen, dass es mit einer Schwärzung nicht einverstanden ist – es kann nur nicht offenlegen, was geschwärzt wurde.
Anthropic nannte auch zwei weitere Evaluatoren, die bereits im Einsatz sind. SecureBio überprüft das Kapitel über chemische und biologische Waffen in Anthropic's August Risk Report, nachdem es bereits eine Pilotüberprüfung des vorherigen veröffentlicht hat. Accenture und Faculty arbeiten an einer breiteren Partnerschaft, die das Red-Teaming von Modellen und das Testen von Schutzmaßnahmen umfasst. Anthropic beschrieb drei Zugangsstufen für Evaluatoren – eng und genehmigungspflichtig, breiter ohne Genehmigung und METRs „mitarbeiterähnliche“ Stufe – und sagte, es befinde sich in frühen Gesprächen mit anderen, einschließlich Hugging Face.
Warum das für Sie nützlich ist: Wenn Sie die Sicherheitsposition von Claude gegenüber einem Chef, einem Kunden oder einem Compliance-Team zitieren, ist „Anthropic sagt das“ eine schwächere Aussage als „Anthropic sagt das, und METR – eine unabhängige gemeinnützige Organisation ohne Beteiligung an Anthropic – kann Ergebnisse veröffentlichen, die Anthropic nicht blockieren kann.“ Den Unterschied zwischen der eigenen Behauptung eines Unternehmens und einer verifizierten Behauptung zu kennen, ist eine Fähigkeit, bei deren Anwendung Sie Claude um Hilfe bitten können, sei es beim Thema KI-Sicherheit oder bei der Produktspezifikation eines Anbieters.
Was veröffentlicht wurde: Anthropic gewährte METR mitarbeiterähnlichen Zugang zur Überprüfung seiner Risikopraktiken, mit Veröffentlichungsrechten, die Anthropic nicht ablehnen kann (nur enge Schwärzungskategorien). SecureBio und Accenture/Faculty sind Evaluator-Partnerschaften in einem früheren Stadium. Was Sie damit tun können: Wenn eine Sicherheits- oder Fähigkeitsaussage für Ihre Entscheidung wichtig ist, fragen Sie, ob sie selbst gemeldet oder unabhängig überprüft wurde – und nennen Sie den Prüfer.