ผู้ประเมินอิสระทำงานภายใน Anthropic แล้ว
เมื่อวันที่ 18 กันยายน 2026 Anthropic ได้ประกาศความร่วมมือกับหน่วยงาน Faculty AI ของ Accenture เพื่อฝังผู้ประเมินอิสระไว้ภายในบริษัท ซึ่งแตกต่างจากผู้ตรวจสอบภายนอก ผู้ประเมินที่ฝังตัวจะได้รับสิทธิ์การเข้าถึงระดับพนักงาน โดยจะเฝ้าดูโมเดลระหว่างการฝึกอบรม ติดตามการตัดสินใจในการปรับใช้ และตรวจสอบความมุ่งมั่นด้านความปลอดภัยจากภายใน Anthropic และ Accenture แต่ละรายวางแผนที่จะลงทุนอย่างน้อย 1 พันล้านดอลลาร์ในช่วงห้าปี
ตั้งแต่วันที่ 18 กันยายน 2026 ผู้ประเมินอิสระจะทำงานภายใน Anthropic ไม่ใช่แค่ทำงานร่วมกับ Anthropic ความแตกต่างนี้มีความสำคัญ ผู้ตรวจสอบภายนอกจะตรวจสอบระบบ AI หลังจากเกิดเหตุการณ์ขึ้นแล้ว ผู้ประเมินที่ฝังตัวจะเฝ้าดูโมเดลที่กำลังก่อร่างสร้างตัวระหว่างการฝึกอบรม ติดตามการตัดสินใจเกี่ยวกับวิธีการสร้างและปรับใช้โมเดลเหล่านั้น และพูดคุยโดยตรงกับพนักงาน จากตำแหน่งนั้น พวกเขาสามารถตรวจสอบได้ว่ามีการปฏิบัติตามข้อผูกพันด้านความปลอดภัยหรือไม่ และรายงานสิ่งที่พบต่อสาธารณะ
พันธมิตรรายแรกคือ Faculty ซึ่งเป็นหน่วยงาน AI ผู้เชี่ยวชาญของ Accenture งานของ Faculty จะครอบคลุมการประเมินและ red-teaming โมเดล Claude การดำเนินการประเมินการจัดตำแหน่ง และการทดสอบมาตรการป้องกันโมเดล Accenture ช่วยให้องค์กรและรัฐบาลปรับใช้ AI ในอุตสาหกรรมต่างๆ มากมาย ประสบการณ์การปรับใช้ในโลกแห่งความเป็นจริงนี้เป็นตัวกำหนดแนวทางในการประเมินความปลอดภัย ทั้งสององค์กรวางแผนที่จะลงทุนอย่างน้อย 1 พันล้านดอลลาร์สหรัฐฯ ในแต่ละปีในช่วงห้าปีข้างหน้า เพื่อสร้างขีดความสามารถในด้านนี้
การประเมินแบบฝังตัวเป็นเรื่องใหม่ และยังไม่มีมาตรฐาน ปัจจุบันยังไม่มีกฎเกณฑ์ที่ตกลงกันไว้ว่าผู้ประเมินแบบฝังตัวควรเข้าถึงข้อมูลใดบ้าง ควรรายงานผลการค้นพบอย่างไร หรือใครควรเป็นผู้ให้ทุนสนับสนุนงานนี้ Anthropic กำลังให้ทุนสนับสนุนงานของ Accenture โดยตรงในขณะนี้ ในขณะที่กำลังพัฒนารูปแบบการระดมทุนแบบรวมหรือจากรัฐบาลในระยะยาว ตามที่ระบุไว้ในกรอบงาน AI ขั้นสูงของ Anthropic ในเดือนมิถุนายน METR และผู้ประเมินที่ไม่แสวงหาผลกำไรอื่นๆ ก็กำลังได้รับการทดลองใช้งานควบคู่กันไปภายใต้การระดมทุนของตนเอง ความร่วมมือนี้ไม่ผูกขาด: Anthropic วางแผนที่จะทำงานร่วมกับผู้ประเมินเพิ่มเติม และ Accenture อาจทำงานร่วมกับนักพัฒนา AI รายอื่นๆ
สำหรับทีมองค์กรที่ใช้ Claude นี่คือโครงสร้างความรับผิดชอบที่สามารถตรวจสอบได้ Anthropic สามารถระบุได้ว่า Claude ปลอดภัย ตอนนี้องค์กรอิสระที่มีสิทธิ์เข้าถึงระดับพนักงานสามารถตรวจสอบข้อเรียกร้องนั้นได้ เป้าหมายคือระบบนิเวศของผู้ประเมินที่ทำงานร่วมกับมาตรฐานที่ใช้ร่วมกัน ไม่ใช่การตรวจสอบครั้งเดียวที่ผ่านหรือไม่ผ่านโมเดล แต่เป็นการกำกับดูแลอย่างต่อเนื่องที่ฝังอยู่ในวิธีการสร้าง AI ระดับแนวหน้า
ประเด็นสำคัญ: ผู้ประเมินที่ฝังตัวจะได้รับสิทธิ์เข้าถึงระดับพนักงาน—พวกเขาเฝ้าดูการฝึกอบรม ติดตามการตัดสินใจ และพูดคุยกับพนักงาน Faculty (หน่วยงาน AI ของ Accenture) จะครอบคลุมการ red-teaming การประเมินการจัดตำแหน่ง และการทดสอบมาตรการป้องกัน ทั้งสององค์กรวางแผนลงทุนอย่างน้อย 1 พันล้านดอลลาร์สหรัฐฯ ในแต่ละปีในช่วงห้าปี ยังไม่มีมาตรฐานสำหรับการประเมินแบบฝังตัว Anthropic กำลังให้ทุนสนับสนุน Accenture โดยตรงในขณะที่กำลังพัฒนารูปแบบระยะยาว ความร่วมมือนี้ไม่ผูกขาด และจะมีการประกาศผู้ประเมินเพิ่มเติม