एंथ्रोपिक ने एआई वेलबीइंग रिसर्च के लिए $5M अनुदान कार्यक्रम शुरू किया

एंथ्रोपिक स्वतंत्र शोधकर्ताओं को यह मूल्यांकन करने के लिए ओपन-सोर्स मूल्यांकन बनाने के लिए वित्त पोषित कर रहा है कि एआई उपयोगकर्ता के कल्याण को कैसे प्रभावित करता है। यह पाठ बताता है कि $5 मिलियन का कार्यक्रम क्या वित्त पोषित करता है, कल्याण का मूल्यांकन करना अद्वितीय रूप से कठिन क्यों है, और आज संवेदनशील बातचीत में क्लाउड का उपयोग करने का आपके लिए क्या मतलब है।

25 अगस्त, 2026 को, एंथ्रोपिक ने $5 मिलियन के अनुदान कार्यक्रम की घोषणा की ताकि यह शोध करने के लिए स्वतंत्र शोध को वित्त पोषित किया जा सके कि एआई सिस्टम लोगों के कल्याण को कैसे प्रभावित करते हैं जो उनका उपयोग करते हैं। अनुदान प्राप्तकर्ताओं को सीधा वित्त पोषण, एंथ्रोपिक के मॉडल तक पहुंच और तकनीकी सहायता प्राप्त होती है। सभी कार्य ओपन-सोर्स मूल्यांकन के रूप में प्रकाशित किए जाने चाहिए - किसी भी एआई डेवलपर के लिए उपलब्ध, न कि केवल एंथ्रोपिक के लिए।

आवेदन 21 सितंबर, 2026 तक देय हैं। चयनित आवेदकों को 5 अक्टूबर, 2026 तक सूचित किया जाता है।

कार्यक्रम विशेष रूप से चिकित्सकों, मनोवैज्ञानिकों, पद्धतिविदों और अन्य विषय-वस्तु विशेषज्ञों की तलाश कर रहा है - न कि केवल एआई इंजीनियरों की।

सटीकता की तुलना में कल्याण का मूल्यांकन करना कठिन क्यों है

अधिकांश क्लाउड व्यवहारों के लिए, एक प्रतिक्रिया आपको वह बताती है जो आपको जानने की आवश्यकता है। या तो उत्तर सही है या नहीं।

कल्याण उस तरह से काम नहीं करता है। एंथ्रोपिक की घोषणा में दो ठोस उदाहरण दिए गए हैं:

परेशान उपयोगकर्ता अपने पहले संदेश में आत्म-हानि के विचारों का उल्लेख नहीं कर सकता है। जोखिम केवल एक लंबी बातचीत में दिखाई देता है।

आहार और व्यायाम के बारे में सलाह अधिकांश संदर्भों में उचित है। लेकिन अगर किसी उपयोगकर्ता ने अव्यवस्थित खाने का इतिहास दिखाया है, तो वही सलाह सक्रिय रूप से हानिकारक हो सकती है।

एक ही प्रतिक्रिया एक संदर्भ में सही हो सकती है और दूसरे में गलत हो सकती है। यह मानक एक-बारी बेंचमार्क - जिस तरह के अधिकांश एआई मूल्यांकन उपयोग करते हैं - इस डोमेन के लिए अपर्याप्त बनाता है।

एंथ्रोपिक वित्त पोषित मूल्यांकनों से क्या चाहता है

एंथ्रोपिक की सुरक्षा टीम ने उन मूल्यांकनों के लिए पांच मानदंड प्रकाशित किए जिन्हें वे बनाने के लिए पर्याप्त कठोर मानते हैं:

स्पष्ट पास/फेल मानदंड — मूल्यांकन ठीक-ठीक बताता है कि वह क्या माप रहा है और यह क्यों मायने रखता है।

विशेषज्ञ की भागीदारी — चिकित्सक, मनोवैज्ञानिक और पद्धतिविद इसे डिजाइन और मान्य करने में मदद करते हैं।

दोनों विफलता मोड का परीक्षण किया गया — न केवल अति-अनुपालन (क्लाउड सहायता करता है जब उसे नहीं करना चाहिए) बल्कि अति-अस्वीकृति (क्लाउड मना करता है जब उसे मदद करनी चाहिए) भी।

बहु-बारी परिदृश्य — बातचीत जो समय के साथ बढ़ती है, क्योंकि वास्तविक कल्याण जोखिम शायद ही कभी एक ही संदेश में दिखाई देता है।

विशेषज्ञों के खिलाफ सत्यापित ग्रेडर — स्वचालित स्कोरिंग को मानव विषय-वस्तु विशेषज्ञों के खिलाफ जांचा जाता है, न कि केवल अन्य एआई मॉडल के खिलाफ।

आज आप क्लाउड का उपयोग कैसे करते हैं, इसका क्या मतलब है

यह शोध जारी है - कल्याण के लिए उद्योग मानक अभी भी बनाए जा रहे हैं। लेकिन दो सिद्धांत पहले से ही लागू होते हैं जब आप संवेदनशील बातचीत में क्लाउड का उपयोग करते हैं।

शुरुआत में संदर्भ दें। वजन घटाने, दुख, या मानसिक स्वास्थ्य संघर्ष के बारे में एक प्रश्न पर क्लाउड की प्रतिक्रिया आपकी स्थिति के बारे में जो कुछ भी जानता है, उससे आकार लेती है। शुरुआत में आप जितना अधिक प्रासंगिक संदर्भ साझा करेंगे, प्रतिक्रिया उतनी ही अधिक उपयुक्त होगी। आपको क्लाउड को मध्य-बातचीत में ठीक नहीं करना चाहिए क्योंकि उसके पास महत्वपूर्ण जानकारी नहीं थी।

अति-अस्वीकृति को एक वास्तविक विफलता मोड के रूप में मानें। एंथ्रोपिक स्पष्ट रूप से अति-अनुपालन और अति-अस्वीकृति दोनों को मापने लायक समस्याओं के रूप में नाम देता है। यदि क्लाउड किसी ऐसी चीज़ में संलग्न होने से मना करता है जिसमें आपको वास्तव में मदद की आवश्यकता है, तो यह मायने रखता है - यह सिर्फ क्लाउड का उचित रूप से सतर्क होना नहीं है।

एंथ्रोपिक का $5 मिलियन का अनुदान कार्यक्रम एआई के लिए ओपन-सोर्स कल्याण मूल्यांकन बनाने के लिए स्वतंत्र शोधकर्ताओं को वित्त पोषित करता है। मुख्य चुनौती: एक ही प्रतिक्रिया एक संदर्भ में उपयुक्त हो सकती है और दूसरे में हानिकारक हो सकती है, यही कारण है कि एकल-बारी बेंचमार्क पर्याप्त नहीं हैं। कठोर मूल्यांकनों को बहु-बारी परिदृश्यों, नैदानिक ​​विशेषज्ञता और अति-अनुपालन और अति-अस्वीकृति दोनों के लिए परीक्षणों की आवश्यकता होती है। आज क्लाउड के उपयोगकर्ताओं के लिए, व्यावहारिक निष्कर्ष स्पष्ट है: संवेदनशील बातचीत में शुरुआत में संदर्भ दें, और अति-अस्वीकृति - न केवल अति-अनुपालन - को एक विफलता मोड के रूप में मानें जिसे चिह्नित किया जाना चाहिए।