Unabhängige Gutachter arbeiten jetzt innerhalb von Anthropic
Am 18. September 2026 gab Anthropic eine Partnerschaft mit der Faculty AI-Einheit von Accenture bekannt, um unabhängige Gutachter in das Unternehmen zu integrieren. Im Gegensatz zu externen Prüfern erhalten eingebettete Gutachter Zugang auf Mitarbeiterebene – sie beobachten Modelle während des Trainings, verfolgen Bereitstellungsentscheidungen und überprüfen Sicherheitszusagen von innen heraus. Anthropic und Accenture planen jeweils, über fünf Jahre mindestens 1 Milliarde US-Dollar zu investieren.
Ab dem 18. September 2026 arbeiten unabhängige Gutachter innerhalb von Anthropic – nicht daneben. Dieser Unterschied ist wichtig. Externe Prüfer überprüfen KI-Systeme nachträglich. Eingebettete Gutachter beobachten, wie Modelle während des Trainings Gestalt annehmen, verfolgen die Entscheidungen darüber, wie diese Modelle gebaut und bereitgestellt werden, und sprechen direkt mit den Mitarbeitern. Aus dieser Position können sie überprüfen, ob Sicherheitszusagen eingehalten werden, und ihre Ergebnisse der Öffentlichkeit berichten.
Der erste Partner ist Faculty, die spezialisierte KI-Einheit von Accenture. Die Arbeit von Faculty umfasst die Bewertung und das Red-Teaming von Claude-Modellen, die Durchführung von Ausrichtungsbewertungen und das Testen von Modellsicherheitsvorkehrungen. Accenture hilft Unternehmen und Regierungen, KI in vielen Branchen einzusetzen – diese reale Bereitstellungserfahrung prägt ihren Ansatz zur Sicherheitsbewertung. Beide Organisationen planen, in den nächsten fünf Jahren jeweils mindestens 1 Milliarde US-Dollar in den Aufbau von Kapazitäten in diesem Bereich zu investieren.
Eingebettete Bewertung ist neu, und die Standards existieren noch nicht. Es gibt derzeit keine vereinbarten Regeln dafür, auf welche Informationen eingebettete Gutachter zugreifen sollten, wie sie Ergebnisse melden sollten oder wer die Arbeit finanzieren sollte. Anthropic finanziert die Arbeit von Accenture vorerst direkt, während längerfristige gebündelte oder staatliche Finanzierungsmodelle entwickelt werden – wie im Advanced AI Framework von Anthropic im Juni gefordert. METR und andere gemeinnützige Gutachter werden ebenfalls parallel unter eigener Finanzierung pilotiert. Die Partnerschaft ist nicht exklusiv: Anthropic plant, mit zusätzlichen Gutachtern zusammenzuarbeiten, und Accenture kann mit anderen KI-Entwicklern zusammenarbeiten.
Für Unternehmensteams, die Claude verwenden, ist dies die überprüfbare Rechenschaftsstruktur. Anthropic kann behaupten, dass Claude sicher ist; jetzt kann eine unabhängige Organisation mit Zugang auf Mitarbeiterebene diese Behauptung überprüfen. Das Ziel ist ein Ökosystem von Gutachtern, die mit gemeinsamen Standards arbeiten – keine einzelne Prüfung, die ein Modell besteht oder nicht besteht, sondern eine fortlaufende Aufsicht, die in die Art und Weise eingebettet ist, wie Frontier AI gebaut wird.
Wichtige Erkenntnisse: Eingebettete Gutachter erhalten Zugang auf Mitarbeiterebene – sie beobachten das Training, verfolgen Entscheidungen und sprechen mit den Mitarbeitern. Faculty (Accenture's KI-Einheit) wird Red-Teaming, Ausrichtungsbewertungen und Sicherheitstests abdecken. Beide Organisationen planen jeweils mindestens 1 Milliarde US-Dollar über fünf Jahre. Es gibt noch keine Standards für eingebettete Bewertungen; Anthropic finanziert Accenture direkt, während längerfristige Modelle entwickelt werden. Die Partnerschaft ist nicht exklusiv, und weitere Gutachter werden bekannt gegeben.