स्वतंत्र मूल्यांकनकर्ता अब एंथ्रोपिक के भीतर काम करते हैं

18 सितंबर, 2026 को, एंथ्रोपिक ने कंपनी के भीतर स्वतंत्र मूल्यांकनकर्ताओं को शामिल करने के लिए एक्सेंचर की फैकल्टी एआई इकाई के साथ साझेदारी की घोषणा की। बाहरी लेखा परीक्षकों के विपरीत, एम्बेडेड मूल्यांकनकर्ताओं को कर्मचारी-स्तर तक पहुंच मिलती है - प्रशिक्षण के दौरान मॉडल देखना, परिनियोजन निर्णयों को ट्रैक करना और अंदर से सुरक्षा प्रतिबद्धताओं को सत्यापित करना। एंथ्रोपिक और एक्सेंचर प्रत्येक अगले पांच वर्षों में कम से कम $1 बिलियन का निवेश करने की योजना बना रहे हैं।

18 सितंबर, 2026 से, स्वतंत्र मूल्यांकनकर्ता एंथ्रोपिक के भीतर काम करते हैं - इसके साथ नहीं। यह अंतर मायने रखता है। बाहरी लेखा परीक्षक एआई सिस्टम की बाद में समीक्षा करते हैं। एम्बेडेड मूल्यांकनकर्ता प्रशिक्षण के दौरान मॉडल को आकार लेते हुए देखते हैं, उन निर्णयों का पालन करते हैं कि उन मॉडलों का निर्माण और परिनियोजन कैसे किया जाता है, और सीधे कर्मचारियों से बात करते हैं। उस स्थिति से, वे सत्यापित कर सकते हैं कि सुरक्षा प्रतिबद्धताओं को रखा जा रहा है और जो कुछ भी उन्हें मिलता है उसे जनता को रिपोर्ट कर सकते हैं।

पहला भागीदार फैकल्टी है, एक्सेंचर की विशेषज्ञ एआई इकाई। फैकल्टी का काम क्लाउड मॉडल का मूल्यांकन और रेड-टीमेंग, संरेखण आकलन करना और मॉडल सुरक्षा उपायों का परीक्षण करना शामिल होगा। एक्सेंचर उद्यमों और सरकारों को कई उद्योगों में एआई तैनात करने में मदद करता है - वह वास्तविक दुनिया की परिनियोजन अनुभव यह आकार देता है कि वे सुरक्षा मूल्यांकन के लिए कैसे दृष्टिकोण करते हैं। दोनों संगठन इस क्षेत्र में क्षमता निर्माण के लिए अगले पांच वर्षों में प्रत्येक कम से कम $1 बिलियन का निवेश करने की योजना बना रहे हैं।

एम्बेडेड मूल्यांकन नया है, और मानक अभी तक मौजूद नहीं हैं। वर्तमान में इस बात के लिए कोई सहमत नियम नहीं हैं कि एम्बेडेड मूल्यांकनकर्ताओं को किस जानकारी तक पहुंच होनी चाहिए, उन्हें निष्कर्षों की रिपोर्ट कैसे करनी चाहिए, या काम को कौन वित्तपोषित करेगा। एंथ्रोपिक फिलहाल एक्सेंचर के काम को सीधे वित्तपोषित कर रहा है, जबकि लंबी अवधि के पूल या सरकारी वित्तपोषण मॉडल विकसित किए जा रहे हैं - जैसा कि जून में एंथ्रोपिक के उन्नत एआई फ्रेमवर्क में कहा गया है। METR और अन्य गैर-लाभकारी मूल्यांकनकर्ताओं को भी उनके अपने वित्तपोषण के तहत समानांतर रूप से पायलट किया जा रहा है। साझेदारी गैर-अनन्य है: एंथ्रोपिक अतिरिक्त मूल्यांकनकर्ताओं के साथ काम करने की योजना बना रहा है, और एक्सेंचर अन्य एआई डेवलपर्स के साथ काम कर सकता है।

क्लाउड का उपयोग करने वाली उद्यम टीमों के लिए, यह जवाबदेही संरचना जांच योग्य बनाई गई है। एंथ्रोपिक कह सकता है कि क्लाउड सुरक्षित है; अब कर्मचारी-स्तर तक पहुंच वाला एक स्वतंत्र संगठन उस दावे को सत्यापित कर सकता है। लक्ष्य साझा मानकों के साथ काम करने वाले मूल्यांकनकर्ताओं का एक पारिस्थितिकी तंत्र है - एक एकल ऑडिट नहीं जो एक मॉडल को पास या फेल करता है, बल्कि सीमांत एआई के निर्माण के तरीके में एम्बेडेड चल रही निगरानी।

मुख्य बातें: एम्बेडेड मूल्यांकनकर्ताओं को कर्मचारी-स्तर तक पहुंच मिलती है - वे प्रशिक्षण देखते हैं, निर्णयों का पालन करते हैं और कर्मचारियों से बात करते हैं। फैकल्टी (एक्सेंचर की एआई इकाई) रेड-टीमेंग, संरेखण आकलन और सुरक्षा उपाय परीक्षण को कवर करेगी। दोनों संगठन अगले पांच वर्षों में प्रत्येक कम से कम $1 बिलियन की योजना बना रहे हैं। एम्बेडेड मूल्यांकन के लिए कोई मानक अभी तक मौजूद नहीं हैं; एंथ्रोपिक एक्सेंचर को सीधे वित्तपोषित कर रहा है जबकि लंबी अवधि के मॉडल विकसित होते हैं। साझेदारी गैर-अनन्य है, और अधिक मूल्यांकनकर्ताओं की घोषणा की जाएगी।