คู่มือฟรี · AI Agent ที่ใช้คอมพิวเตอร์ อธิบายแบบเข้าใจง่าย
วิธีให้ AI Agent ใช้คอมพิวเตอร์ของคุณอย่างปลอดภัย
agent จะเห็นแค่สิ่งที่คุณเลือกให้มันเห็นเท่านั้น
ก่อนที่คุณจะให้ agent ที่ควบคุมคอมพิวเตอร์คลิกและพิมพ์บนหน้าจอของคุณ ให้มันมีพื้นที่ของตัวเองแทนพื้นที่ที่คุณใช้งานประจำวัน เริ่มต้นแบบง่าย ๆ ด้วยโปรไฟล์เบราว์เซอร์ที่ไม่มีข้อมูลบันทึกไว้เลย แล้วค่อยขยับไปใช้บัญชีระบบปฏิบัติการแยก virtual machine หรือ sandbox ที่ผู้ให้บริการจัดเตรียมไว้ให้ ตามความเสี่ยงที่เพิ่มขึ้น ให้มันล็อกอินเฉพาะบัญชีที่งานนั้น ๆ ต้องใช้จริง ๆ กำหนดให้ต้องขออนุมัติจากคุณก่อนการซื้อ การส่งข้อความ หรือการลบใด ๆ เฝ้าดูคำสั่งที่อาจแอบซ่อนอยู่ในหน้าเว็บและอีเมลที่มันอ่าน และอ่านสรุปสิ่งที่มันทำทั้งหมดอีกครั้งเมื่อจบเซสชัน
เผยแพร่เมื่อ
สรุปประเด็นสำคัญ
- agent ที่ควบคุมคอมพิวเตอร์มองเห็นหน้าจอของคุณเป็นภาพ และทำงานผ่านการคลิกเมาส์และพิมพ์คีย์บอร์ดแบบเดียวกับที่คุณใช้เอง ดังนั้นมันจะเข้าถึงได้แค่สิ่งที่มองเห็นและล็อกอินอยู่ในพื้นที่ที่คุณให้มันเท่านั้น
- ให้ agent มีพื้นที่ของตัวเองก่อนที่จะให้มันทำงาน ไม่ว่าจะเป็นโปรไฟล์เบราว์เซอร์ที่สะอาด บัญชีระบบปฏิบัติการแยก virtual machine หรือ sandbox ที่ผู้ให้บริการจัดเตรียมไว้ เรียงจากพื้นที่ที่ปิดกั้นน้อยไปมาก
- ให้ agent ล็อกอินเฉพาะบัญชีที่งานนั้นต้องใช้เท่านั้น กันพาสเวิร์ดแมเนเจอร์และบัญชีธนาคารออกจากพื้นที่นั้นไปเลย ไม่ใช่แค่ล็อกเอาต์ แต่ต้องไม่เคยบันทึกไว้ที่นั่นเลย
- หน้าเว็บและอีเมลสามารถแอบมีคำสั่งที่มุ่งเป้าไปที่ agent ไม่ใช่ที่คุณ Anthropic เรียกสิ่งนี้ว่า prompt injection และบอกว่าระบบตรวจจับความปลอดภัยของตัวเองไม่ได้มาแทนที่การกันบัญชีที่ sensitive ออกจากการเข้าถึง
- กำหนดให้ต้องขออนุมัติจากคุณก่อนทำสิ่งใดก็ตามที่แก้ไขกลับไม่ได้ ไม่ว่าจะเป็นการซื้อ การส่งข้อความ การลบไฟล์ หรือการยอมรับข้อตกลง และตรวจดูให้ครบว่า agent ทำอะไรไปบ้างเมื่อมันทำงานเสร็จ
คัดลอกไปใช้ได้เลย
พรอมต์ที่ใช้ได้ทันทีวันนี้
ตั้งกฎพื้นฐานก่อนเริ่มเซสชัน
ก่อนที่จะทำอะไรอื่น ให้ยืนยันว่าคุณเข้าใจขอบเขตเหล่านี้ ห้ามพิมพ์พาสเวิร์ดใด ๆ ห้ามทำการซื้อ ห้ามส่งข้อความถึงใคร และห้ามลบหรือเขียนทับไฟล์โดยไม่หยุดถามฉันก่อน ถ้าคุณเจอหน้าล็อกอิน หน้าชำระเงิน หรือกล่องยืนยันใด ๆ ให้หยุดและอธิบายสิ่งที่คุณเห็นก่อนที่จะทำต่อ
วางข้อความนี้เป็นข้อความแรกในทุกเซสชัน computer use ใหม่ ก่อนที่คุณจะอธิบายงานจริง
ให้มันเล่าก่อนที่จะลงมือทำ
สำหรับงานนี้ ก่อนที่คุณจะทำแต่ละขั้นตอน ให้บอกฉันเป็นประโยคสั้น ๆ ว่าคุณกำลังจะคลิกหรือพิมพ์อะไรและทำไม จากนั้นจึงทำต่อ ถ้าขั้นตอนต่อไปจะทำให้ออกจากเว็บไซต์นี้ ล็อกอินเข้าบัญชี หรือส่งฟอร์ม ให้อธิบายและรอให้ฉันพูดว่า 'ทำต่อได้เลย' ก่อนที่จะทำ
ช้าลง แต่มันเปลี่ยนลำดับการคลิกที่เงียบ ๆ ให้กลายเป็นสิ่งที่คุณตามดูและขัดจังหวะได้จริง
ขอรายการทั้งหมดของสิ่งที่มันเข้าถึงได้ในขณะนี้
ก่อนที่เราจะเริ่มงานจริง ให้แคปหน้าจอและบอกฉันให้ชัดเจนว่าคุณเห็นอะไรอยู่ตอนนี้ แท็บเบราว์เซอร์ไหนที่เปิดอยู่ บัญชีไหนที่ดูเหมือนล็อกอินอยู่ และแอปพลิเคชันไหนที่มองเห็นได้บนหน้าจอ ฉันต้องการยืนยันว่าตรงกับสิ่งที่ฉันตั้งใจจะให้คุณเข้าถึง
รันสิ่งนี้ครั้งหนึ่งตอนเริ่มโปรไฟล์ บัญชี หรือ virtual machine ใหม่ เพื่อตรวจว่าการตั้งค่าแยกสิ่งต่าง ๆ ได้ตามที่คุณคาดไว้จริง ๆ
ขอสรุปภาษาง่าย ๆ เมื่อเซสชันจบ
งานเสร็จแล้ว ให้สรุปให้ฉันแบบครบถ้วนและภาษาง่าย ๆ ว่าหน้าไหนบ้างที่คุณเข้าไป บัญชีไหนบ้างที่คุณใช้งาน ช่องไหนบ้างที่คุณพิมพ์ และปุ่มหรือลิงก์ไหนบ้างที่คุณคลิกในเซสชันนี้ ตามลำดับที่คุณทำ ห้ามสรุปรวบหรือข้ามขั้นตอน แม้แต่ขั้นตอนเล็ก ๆ
อ่านสิ่งนี้เทียบกับสิ่งที่คุณคาดไว้ก่อนที่จะปิดเซสชันหรือเชื่อผลลัพธ์
ให้มันหยุดทันทีที่เจอสัญญาณของหน้าล็อกอินหรือหน้าชำระเงิน
ถ้าตอนไหนก็ตามในงานนี้คุณเจอหน้าที่ขอชื่อผู้ใช้และพาสเวิร์ด เลขบัตรเครดิต โค้ดใช้ครั้งเดียว หรือหน้าใดที่บอกว่าจะทำการซื้อหรือส่งการชำระเงินให้เสร็จสมบูรณ์ ให้หยุดทันที ไม่ทำอะไรบนหน้านั้น และอธิบายให้ชัดเจนว่าคุณกำลังเห็นอะไรอยู่ เพื่อให้ฉันตัดสินใจว่าจะทำอย่างไรต่อ
นี่คือคำสั่งถาวรที่มีประโยชน์ที่สุดข้อเดียว ถ้าคุณไม่แน่ใจว่างานนี้จะเจอกับอะไรบ้าง
คู่มือฉบับเต็ม
แตะที่หัวข้อใดก็ได้เพื่อเปิดอ่าน
เกี่ยวกับคู่มือนี้
AI เครื่องมือรูปแบบใหม่ตอนนี้สามารถเข้าควบคุมเมาส์และคีย์บอร์ดของคุณได้ โดยมันจะดูภาพหน้าจอของคุณ ตัดสินใจว่าจะคลิกหรือพิมพ์อะไรต่อไป แล้วทำเลย เหมือนกับที่คุณจะทำเอง Claude ของ Anthropic ทำสิ่งนี้ได้ผ่านฟีเจอร์ที่เรียกว่า computer use และ OpenAI, Microsoft และ Google ก็ต่างออกเวอร์ชันของตัวเองสำหรับ ChatGPT, Microsoft 365 Copilot และ Gemini แล้ว เรื่องนี้ไม่ได้อันตรายในตัวมันเอง สิ่งที่สำคัญคือคุณให้มันทำงานที่ไหนและมันเข้าถึงอะไรได้บ้างในขณะที่ทำงาน คู่มือนี้จะพาคุณไปดูนิสัยที่ช่วยให้ agent ที่ควบคุมคอมพิวเตอร์มีประโยชน์ โดยไม่ต้องมอบชีวิตดิจิทัลทั้งหมดของคุณให้มัน
สี่วิธีให้ agent ที่ควบคุมคอมพิวเตอร์มีพื้นที่ของตัวเอง
| วิธี | ความยากในการตั้งค่า | สิ่งที่มันกันไม่ให้ agent เข้าถึง | ตัวเลือกแรกที่ดีสำหรับ |
|---|---|---|---|
| โปรไฟล์เบราว์เซอร์แยก | ไม่กี่นาที เบราว์เซอร์ส่วนใหญ่ให้คุณเพิ่มโปรไฟล์ที่ไม่มีบุ๊กมาร์ก เอ็กซ์เทนชัน หรือข้อมูลล็อกอินที่บันทึกไว้ | แท็บเบราว์เซอร์อื่น ๆ พาสเวิร์ดที่บันทึกไว้ และประวัติการเข้าเว็บในโปรไฟล์หลักของคุณ | งานเว็บด่วนที่ความเสี่ยงต่ำ เช่น การค้นหาข้อมูลหรือกรอกฟอร์มสาธารณะแบบเดียว |
| บัญชีผู้ใช้ระบบปฏิบัติการแยก | สิบถึงยี่สิบนาทีในการสร้างบัญชีและติดตั้งแอปที่งานนั้นต้องใช้ใหม่ | ไฟล์ส่วนตัวของคุณ แอปที่ติดตั้งไว้ และบัญชีใด ๆ ที่บันทึกไว้ในระดับระบบปฏิบัติการ ไม่ใช่แค่ในเบราว์เซอร์เดียว | งานที่ต้องใช้แอปเดสก์ท็อปจริง ไม่ใช่แค่เบราว์เซอร์ แต่ยังใช้คอมพิวเตอร์เครื่องเดียวกันได้ |
| Virtual Machine | นานสุดหนึ่งชั่วโมงในครั้งแรก ต้องติดตั้งระบบปฏิบัติการ guest ภายในเครื่องมือ virtualization | ระบบปฏิบัติการ host ไฟล์ และฮาร์ดแวร์ทั้งหมดของคุณ agent จะเห็นแค่สิ่งที่อยู่ภายใน guest เท่านั้น | เซสชันที่ทำซ้ำหรือยาวนาน หรืองานใดที่คุณต้องการล้างให้สะอาดและเริ่มใหม่ได้ง่าย |
| Sandbox ที่ผู้ให้บริการจัดเตรียมไว้ให้ | ไม่กี่นาที ถ้าผลิตภัณฑ์นั้นมีให้ใช้ คุณกำลังใช้โครงสร้างพื้นฐานที่ผู้ให้บริการดูแล ไม่ใช่เครื่องของคุณเอง | เครื่องของคุณทั้งหมด เซสชันของ agent ไม่แตะไฟล์หรือฮาร์ดแวร์ของคอมพิวเตอร์คุณเลย | ใครก็ตามที่ไม่อยากตั้งค่าแยกพื้นที่ในเครื่องเอง ในกรณีที่เครื่องมือนั้นมีตัวเลือกนี้ให้ |
พื้นฐานสิ่งที่ agent ที่ควบคุมคอมพิวเตอร์มองเห็นและทำได้จริง
ตัดเรื่องแบรนด์ออกไป แล้ว agent ที่ควบคุมคอมพิวเตอร์ทุกตัว ไม่ว่าจะเป็นของ Claude, ChatGPT, Copilot หรือ Gemini ก็ทำงานบนวงจรพื้นฐานเดียวกัน คือ ดูหน้าจอ ตัดสินใจทำหนึ่งการกระทำ ทำมัน แล้วดูใหม่อีกครั้ง
มันเห็นภาพหน้าจอของคุณ ไม่ใช่ไฟล์ของคุณ
เอกสารของ Anthropic เองสำหรับ computer use ของ Claude อธิบายว่าโมเดลได้รับภาพแคปหน้าจอของจอแสดงผลทั้งหมด พร้อมตัวเลือกซูมเพื่ออ่านตัวอักษรเล็ก ๆ มันเห็นสิ่งที่มองเห็นได้บนหน้าจอในขณะนั้น ไม่ใช่ฮาร์ดดิสก์หรือระบบไฟล์ของคุณโดยตรง
มันทำงานผ่านเมาส์และคีย์บอร์ดแบบเดียวกับที่คุณใช้
agent ขอการกระทำอย่างการคลิก การเลื่อน หรือการพิมพ์ตัวอักษร ซึ่งเป็นอินพุตเดียวกับที่คนให้กับคอมพิวเตอร์ มันไม่มีช่องทางพิเศษที่ทรงพลังกว่า แต่ถูกจำกัดให้ทำได้แค่สิ่งที่คุณทำด้วยมือได้เท่านั้น เพียงแค่เร็วขึ้นและไม่เบื่อ
มันเข้าถึงได้แค่สิ่งที่สภาพแวดล้อมรอบตัวมันมอบให้
Anthropic ระบุชัดเจนว่าแอปพลิเคชันที่รันเครื่องมือนั้น ไม่ใช่ตัวโมเดลเอง เป็นผู้ควบคุมสภาพแวดล้อมที่การกระทำเกิดขึ้น ไม่ว่าคุณจะชี้ให้มันใช้เบราว์เซอร์ เดสก์ท็อป หรือ sandbox ไหน นั่นคือโลกทั้งหมดที่มันทำงานอยู่ในเซสชันนั้น
มันไม่รู้พาสเวิร์ด ถ้าพื้นที่นั้นยังไม่มีพาสเวิร์ดอยู่แล้ว
agent มองไม่เห็นหรือเดาข้อมูลรับรองที่ไม่ได้บันทึกหรือพิมพ์ไว้ในพื้นที่ที่มันกำลังทำงานอยู่ไม่ได้ นี่คือเหตุผลที่พื้นที่ที่คุณให้มัน ไม่ใช่เจตนาของโมเดล เป็นตัวตัดสินว่าอะไรกำลังมีความเสี่ยงจริง ๆ
กฎหลักให้ agent มีพื้นที่ของตัวเอง ไม่ใช่พื้นที่ของคุณ
นิสัยเดียวที่ป้องกันความเสียหายได้มากกว่าการตั้งค่าใด ๆ คือ รัน agent ในที่ที่มันเข้าถึงบัญชี ไฟล์ หรือประวัติที่คุณใช้ประจำวันไม่ได้ เพราะมันไม่เคยถูกวางไว้ที่นั่นตั้งแต่แรก นี่คือสี่วิธีในการทำแบบนั้น จากง่ายที่สุดไปจนถึงปิดกั้นมากที่สุด
โปรไฟล์เบราว์เซอร์แยก
สร้างโปรไฟล์ที่สองในเบราว์เซอร์ของคุณ โดยไม่นำเข้าอะไรเลย ไม่มีพาสเวิร์ดที่บันทึกไว้ ไม่มีเอ็กซ์เทนชัน ไม่มีประวัติ ใช้เวลาไม่กี่นาที และเหมาะเป็นพื้นฐานขั้นต่ำสำหรับงานความเสี่ยงต่ำแบบเดียว เช่น การค้นหาข้อมูลหรือกรอกฟอร์มสาธารณะแบบเดียว
บัญชีผู้ใช้ระบบปฏิบัติการแยก
บัญชีผู้ใช้ที่สองในคอมพิวเตอร์เครื่องเดียวกันมีเดสก์ท็อปของตัวเอง แอปที่ติดตั้งของตัวเอง และไฟล์ของตัวเอง แยกจากบัญชีหลักของคุณในระดับระบบ ไม่ใช่แค่ภายในเบราว์เซอร์เดียว มีประโยชน์เมื่องานนั้นต้องใช้แอปจริง ไม่ใช่แค่แท็บเบราว์เซอร์
Virtual Machine
virtual machine รันคอมพิวเตอร์แยกต่างหากทั้งเครื่องอยู่ภายในเครื่องของคุณ บน Mac นั้น Virtualization framework ของ Apple สามารถบูต macOS guest เต็มรูปแบบและแสดงผลในหน้าต่างปกติบนหน้าจอของคุณได้ เอกสารสำหรับนักพัฒนาของ Apple เองอธิบายการสร้างมุมมอง virtual machine ที่คุณโต้ตอบกับมันเหมือนกับว่าคุณอยู่ที่คีย์บอร์ดของ guest เอง ไม่ว่า agent จะทำอะไรภายใน guest นั้น มันจะไม่แตะไฟล์จริงของคุณเลย และคุณสามารถลบ guest ทั้งหมดแล้วเริ่มใหม่ได้
Sandbox ที่ผู้ให้บริการรันให้คุณ
ผลิตภัณฑ์ agent บางตัวรันเซสชันของคุณบนโครงสร้างพื้นฐานที่บริษัทดูแล แยกจากเครื่องของคุณเอง แทนที่จะรันบนเครื่องของคุณเลย ส่วนเครื่องมือตัวใดจะทำงานแบบนี้หรือรันในเครื่องของคุณนั้นแตกต่างกันไปตามผลิตภัณฑ์และเปลี่ยนไปตามเวลา ดังนั้นควรตรวจเอกสารล่าสุดของเครื่องมือนั้นเอง ไม่ใช่สมมติไปเอง
บัญชีล็อกอินเฉพาะบัญชีที่งานนั้นต้องใช้เท่านั้น
ไม่ว่าคุณจะเลือกพื้นที่แบบไหน ให้มองมันเป็นโต๊ะทำงานใหม่ ไม่ใช่โต๊ะที่คุณใช้ประจำ ล็อกอินเฉพาะหนึ่งหรือสองบัญชีที่งานนั้นต้องใช้จริง ๆ แล้วปล่อยให้ทุกอย่างอื่นล็อกเอาต์ไว้ ถ้างานคือการจองนัดครั้งเดียวบนเว็บไซต์จองเวลา เว็บไซต์นั้นคือสิ่งเดียวที่ต้องการเซสชัน อีเมล บัญชีธนาคาร และเครื่องมือทำงานของคุณไม่ควรอยู่ในพื้นที่เดียวกัน แค่เพราะมันสะดวกที่จะมีไว้ใกล้มือ
กันพาสเวิร์ดแมเนเจอร์และการเข้าถึงบัญชีธนาคารใด ๆ ออกจากพื้นที่นั้นไปเลย ไม่ใช่แค่ล็อกเอาต์ แต่ต้องไม่เคยบันทึกไว้ที่นั่นตั้งแต่แรก คำแนะนำด้านความปลอดภัยของ Anthropic สำหรับ computer use ของ Claude พูดถึงเรื่องนี้ตรง ๆ โดยเตือนไม่ให้มอบการเข้าถึงข้อมูล sensitive เช่น ข้อมูลล็อกอินบัญชีให้กับโมเดล เพื่อป้องกันการขโมยข้อมูลโดยเฉพาะ หลักการเดียวกันนี้ใช้ได้ไม่ว่าคุณกำลังใช้ agent ของผู้ให้บริการรายใด agent ไม่สามารถทำให้ข้อมูลรับรองรั่วไหลหรือถูกใช้ผิดได้ ถ้ามันไม่เคยถูกวางไว้ในที่ที่เข้าถึงได้
เรื่องนี้ยิ่งสำคัญมากขึ้นเมื่อ agent ต้องล็อกอินเข้าอะไรสักอย่าง คำแนะนำด้านการเขียนพรอมต์ของ Anthropic เองระบุว่าการใช้ computer use ภายในแอปพลิเคชันที่ต้องล็อกอินเพิ่มความเสี่ยงที่จะเกิดผลลัพธ์ที่ไม่ดีจากการโจมตีแบบ prompt injection และแนะนำให้ทบทวนวิธีลดความเสี่ยงนั้นก่อนที่จะมอบข้อมูลล็อกอินใด ๆ ไป บัญชีใช้แล้วทิ้งที่จำกัดเฉพาะบริการเดียวที่คุณต้องใช้จริง ๆ เป็นความไม่สะดวกเล็ก ๆ เมื่อเทียบกับความเสี่ยงนั้น
Prompt Injectionเฝ้าดูคำสั่งที่แอบซ่อนอยู่ในสิ่งที่ agent อ่าน
agent ที่ควบคุมคอมพิวเตอร์ไม่ได้อ่านแค่คำสั่งของคุณเท่านั้น มันยังอ่านทุกอย่างที่อยู่บนหน้าเว็บ เอกสาร และอีเมลที่มันเปิดไปตลอดทาง และเนื้อหาบางส่วนนั้นอาจแอบมีคำสั่งของตัวเองซ่อนอยู่ ซึ่งมุ่งเป้าไปที่ agent ไม่ใช่ที่คุณ สิ่งนี้เรียกว่า prompt injection คือประโยคที่ซ่อนอยู่ในหน้าเว็บหรืออีเมล ซึ่งพยายามเปลี่ยนทางให้ agent ทำสิ่งที่คุณไม่เคยขอ เช่น เข้าไปยังเว็บไซต์อื่น แชร์ข้อมูล หรือทำการกระทำที่ไม่ต้องการซ้ำ ๆ
เอกสารของ Anthropic สำหรับ computer use ของ Claude ระบุไว้อย่างตรงไปตรงมาว่า ในบางสถานการณ์ Claude จะทำตามคำสั่งที่พบในเนื้อหา แม้ว่าจะขัดกับคำสั่งของผู้ใช้เองก็ตาม โดยยกตัวอย่างว่าคำสั่งบนหน้าเว็บหรือภายในรูปภาพสามารถแทนที่สิ่งที่คุณขอได้ Anthropic เสริมว่าตนรันระบบตรวจจับอัตโนมัติเพื่อสแกนสิ่งที่เครื่องมือ computer use ส่งกลับมา เช่น ภาพแคปหน้าจอ เพื่อตั้งข้อสังเกตความพยายาม injection ที่อาจเกิดขึ้น แต่ก็พูดอย่างตรงไปตรงมาเช่นกันว่า การป้องกันด้วยการกัน agent ออกจากข้อมูลและการกระทำที่ sensitive ยังสำคัญอยู่ดี แม้จะมีระบบตรวจจับนั้นทำงานอยู่ก็ตาม
ประเด็นสุดท้ายนั้นคือสิ่งที่ควรจำไว้สำหรับฟีเจอร์นี้ในทุกเวอร์ชันของทุกผู้ให้บริการ ไม่ใช่แค่ของ Claude การตรวจสอบความปลอดภัยแบบอัตโนมัติเป็นเพียงชั้นที่สอง ไม่ใช่สิ่งที่มาแทนชั้นแรก คือกัน agent ออกจากบัญชีที่ sensitive ของคุณ เพื่อให้แม้ความพยายาม injection ที่สำเร็จก็ทำอะไรได้น้อยมากเมื่อมันเข้ามาอยู่ภายในแล้ว
การอนุมัติจากคนให้ตัวเองอยู่ในวงสำหรับทุกอย่างที่เอากลับไม่ได้
สิ่งที่ agent ทำส่วนใหญ่ขณะเข้าเว็บหรือคลิกนั้นกลับไปแก้ได้ง่ายหรือแทบไม่มีผลอะไรมากถ้าผิดพลาด แต่มีการกระทำกลุ่มเล็ก ๆ ที่ไม่เป็นแบบนั้น และกลุ่มนั้นสมควรมีกฎถาวร คือ agent เสนอ คุณอนุมัติ แล้วมันจึงดำเนินการต่อ
การซื้อและการชำระเงิน
คำแนะนำด้านความปลอดภัยของ Anthropic สำหรับ computer use ระบุชัดเจนว่าให้ขอให้คนยืนยันทุกงานที่เกี่ยวข้องกับการทำธุรกรรมทางการเงินให้เสร็จสมบูรณ์ ให้มองว่านี่คือพื้นฐานขั้นต่ำ ไม่ใช่ลักษณะเฉพาะของผู้ให้บริการรายใดรายหนึ่ง ไม่ควรมี agent ตัวใดทำการซื้อให้เสร็จสมบูรณ์โดยที่คุณไม่ได้บอกให้ทำก่อน
การส่งข้อความในนามของคุณ
อีเมล ข้อความแชท หรือฟอร์มที่ส่งไปถึงอีกคนหนึ่งเป็นการกระทำทางเดียวในทันทีที่มันพ้นขั้นตอนร่าง ตรวจดูข้อความที่แน่นอนก่อนที่มันจะส่ง ทุกครั้ง ไม่ใช่แค่ครั้งแรก
การลบหรือเขียนทับไฟล์
การลบหรือการเขียนทับอาจเป็นสิ่งที่แก้กลับยากที่สุดในรายการทั้งหมดนี้ ถ้างานอาจแตะไฟล์ที่มีอยู่แล้ว ให้ agent อธิบายว่าไฟล์ไหนและการเปลี่ยนแปลงอะไรก่อนที่จะลงมือทำ ไม่ใช่หลังจากนั้น
การยอมรับข้อตกลง คุกกี้ หรือการยินยอมรูปแบบใดก็ตาม
Anthropic จัดกลุ่มเรื่องนี้ไว้กับธุรกรรมทางการเงินในคำแนะนำของตัวเอง โดยระบุว่างานที่ต้องการการยินยอมอย่างชัดแจ้ง เช่น การยอมรับคุกกี้หรือยอมรับข้อตกลงการใช้งาน เป็นการตัดสินใจประเภทที่ควรรอให้คนยืนยันก่อน
ตรวจทานอ่านสิ่งที่มันทำจริง ๆ เมื่อเซสชันจบ
ให้มองตอนจบของเซสชัน computer use แบบเดียวกับการตรวจดูวันแรกของพนักงานใหม่ คือ ดูว่าเกิดอะไรขึ้นจริง ๆ ไม่ใช่แค่ว่าผลลัพธ์สุดท้ายดูถูกต้องหรือไม่ ขอให้ agent ลิสต์ทุกหน้าที่มันเข้าไป ทุกบัญชีที่มันแตะ และทุกช่องที่มันพิมพ์ ตามลำดับ แล้วเทียบกับสิ่งที่คุณคาดว่างานนั้นต้องการ
เอกสารของ Anthropic สำหรับ Claude ระบุว่าการกระทำหลายอย่างสามารถถูกจัดกลุ่มเป็น 'batch' เดียว เพื่อทำลำดับหลายขั้นตอนให้เสร็จภายในเทิร์นเดียว และแนะนำโดยเฉพาะว่า ถ้าแอปพลิเคชันของคุณขอให้คนยืนยันการกระทำที่มีผลสำคัญ การตรวจสอบนั้นต้องเกิดขึ้นก่อนที่แต่ละขั้นตอนใน batch จะรัน ไม่ใช่แค่ครั้งเดียวในตอนจบ เวอร์ชันที่ใช้ได้จริงของคำแนะนำนี้สำหรับใครก็ตามที่ใช้เครื่องมือเหล่านี้โดยตรงก็เหมือนกัน คืออย่ารอให้ลำดับที่ยาวเสร็จสมบูรณ์ก่อนจะเริ่มให้ความสนใจ
นิสัยการตรวจทานอย่างรวดเร็วยังช่วยจับความผิดพลาดธรรมดาที่ไม่เกี่ยวกับความปลอดภัยด้วย เช่น พิมพ์ลงช่องผิด ข้ามขั้นตอนไป หน้าที่ไม่โหลดตามที่ agent สมมติไว้ การอ่านย้อนดูสิ่งที่เกิดขึ้นนั้นมีต้นทุนต่ำ แต่การค้นพบความผิดพลาดหลังจากที่มันเกิดไปแล้ว เมื่อข้อความถูกส่งหรือฟอร์มถูกส่งไปแล้ว ไม่ใช่แบบนั้น
การตั้งค่าเช็กลิสต์สั้น ๆ ก่อนเซสชันจริงครั้งแรกของคุณ
เริ่มด้วยพื้นที่ที่เล็กที่สุดที่พอจะทำงานนั้นได้ การค้นหาข้อมูลด่วนครั้งเดียวบนเว็บไซต์สาธารณะไม่จำเป็นต้องใช้ virtual machine โปรไฟล์เบราว์เซอร์ใหม่ก็เพียงพอแล้ว เก็บตัวเลือกที่หนักกว่า เช่น บัญชีระบบปฏิบัติการเฉพาะหรือ virtual machine เต็มรูปแบบไว้สำหรับงานที่คุณจะทำซ้ำ งานที่แตะมากกว่าหนึ่งเว็บไซต์ หรืออะไรก็ตามที่คุณยังไม่คุ้นเคยนัก
เขียนงานให้แคบก่อนที่คุณจะส่งต่อ 'หาเที่ยวบินที่ถูกที่สุดสามเที่ยวบนเว็บไซต์ของสายการบินนี้แล้วลิสต์ให้ฉัน' เป็นงานที่ agent ทำได้โดยที่แทบไม่มีความเสี่ยงอะไร ส่วน 'จองเที่ยวบินที่ดูดีที่สุด' เป็นการมอบทั้งการตัดสินใจและการชำระเงินไว้ในขั้นตอนเดียว ซึ่งเป็นงานประเภทที่ควรอยู่หลังกฎการอนุมัติจากคน ไม่ใช่อยู่ในคำสั่งเอง
เฝ้าดูเซสชันแรก ๆ อย่างใกล้ชิด แม้จะอยู่ในพื้นที่ที่แยกไว้แล้วก็ตาม การแยกพื้นที่จำกัดความเสียหายที่ความผิดพลาดจะทำได้ แต่ไม่ได้บอกคุณว่า agent ทำงานนั้นได้ดีหรือไม่ เมื่อคุณเห็นมันจัดการได้ตามที่คาดไว้สักสองสามครั้งแล้ว คุณก็ผ่อนความสนใจลงได้สำหรับงานเฉพาะและแคบนั้น แต่ไม่ใช่สำหรับงานใหม่ที่คุณยังไม่ได้ลอง
ท้ายที่สุด ให้สมมติไว้ว่าการตั้งค่าที่คุณใช้อยู่วันนี้จะต้องถูกดูใหม่อีกครั้งในอนาคต ผู้ให้บริการเปลี่ยนสิ่งที่ agent ของตัวเองทำได้ การตั้งค่าที่มีอยู่ และค่าเริ่มต้นที่ใช้ บ่อยครั้งภายในไม่กี่เดือนหลังจากฟีเจอร์เปิดตัว ทบทวนการตั้งค่าของคุณเองและเอกสารล่าสุดของผู้ให้บริการนั้น ก่อนที่คุณจะพึ่ง agent สำหรับอะไรที่ใหญ่กว่าสิ่งที่คุณทดสอบครั้งแรก
ขีดจำกัดที่ตรงไปตรงมาสิ่งที่การแยกพื้นที่ป้องกันคุณได้และไม่ได้
โปรไฟล์เบราว์เซอร์ที่สะอาด บัญชีแยก หรือ virtual machine ล้วนจำกัดรัศมีความเสียหายของความผิดพลาดได้ แต่ไม่มีตัวใดช่วยให้ agent มีวิจารณญาณดีขึ้น และไม่มีตัวใดหยุดหน้าเว็บหลอกลวงที่น่าเชื่อจากการเสียเวลาหนึ่งชั่วโมงของเซสชันที่แยกไว้ แม้มันจะเข้าถึงอะไรที่สำคัญไม่ได้เมื่ออยู่ที่นั่นก็ตาม การแยกพื้นที่เกี่ยวกับสิ่งที่ agent แตะต้องได้ ไม่ใช่เกี่ยวกับว่ามันจะอ่านสถานการณ์ได้ถูกต้องหรือไม่
มันยังไม่ได้มาแทนที่การดูผลลัพธ์จริง agent ที่รันอยู่ภายใน virtual machine ยังสามารถกรอกฟอร์มด้วยข้อมูลที่ผิด อ่านหน้าที่สับสนผิดไป หรือทำงานเสร็จในแบบที่ถูกต้องตามเทคนิคแต่ไม่ใช่สิ่งที่คุณต้องการ นิสัยการตรวจทานที่อธิบายไว้ก่อนหน้านี้ในคู่มือนี้สำคัญ ไม่ว่า agent จะรันอยู่ในการตั้งค่าที่ปิดกั้นมากที่สุดหรือน้อยที่สุดก็ตาม
ท้ายที่สุด ไม่มีอะไรในที่นี้ที่เป็นการตั้งค่าครั้งเดียวที่ทำเสร็จแล้วลืมได้ Anthropic, OpenAI, Microsoft และ Google ต่างยังพัฒนาฟีเจอร์ computer use และการเข้าเว็บแบบ agentic ของตัวเองอยู่อย่างต่อเนื่อง ซึ่งหมายความว่าการตั้งค่า ค่าเริ่มต้น และการป้องกันที่มีให้คุณนั้นสามารถเปลี่ยนไปได้ระหว่างเซสชันหนึ่งไปอีกเซสชัน ให้มองคู่มือนี้เป็นนิสัยที่ยังมีประโยชน์อยู่ตลอดการเปลี่ยนแปลงนั้น และตรวจเอกสารล่าสุดของผู้ให้บริการเองสำหรับชื่อฟีเจอร์และการตั้งค่าที่แน่นอนที่อยู่ตรงหน้าคุณในขณะนี้
การอ่านเรื่องความปลอดภัยของ agent กับการฝึกปฏิบัติจริงเป็นคนละเรื่องกัน
รู้กฎคือขั้นแรก หลักสูตรฟรีของ Nightschool AI ลงมือทำจริงตั้งแต่บทเรียนแรก รวมถึงวิธีที่ Claude ทำงานแทนคุณได้และสิ่งที่ควรเฝ้าดูเมื่อมันทำ เพื่อให้คุณสร้างนิสัยจากงานจริง ไม่ใช่แค่จากรายการอ่าน
คำถามที่พบบ่อย
agent ที่ควบคุมคอมพิวเตอร์มองเห็นอะไรบนหน้าจอของฉันได้จริง ๆ บ้าง
เอกสารของ Anthropic สำหรับ computer use ของ Claude ระบุว่าโมเดลได้รับภาพแคปหน้าจอของจอแสดงผลทั้งหมด พร้อมฟีเจอร์ซูมเพื่ออ่านตัวอักษรเล็ก ๆ ให้ชัดขึ้น มันเห็นสิ่งที่มองเห็นได้บนหน้าจอในขณะนั้น ไม่ใช่ระบบไฟล์หรือฮาร์ดดิสก์ของคุณโดยตรง และเห็นได้เฉพาะภายในเบราว์เซอร์ เดสก์ท็อป หรือ sandbox ที่แอปพลิเคชันรอบตัวมันชี้ให้ไปเท่านั้น
วิธีที่ง่ายที่สุดในการให้ agent มีพื้นที่ของตัวเองคืออะไร
โปรไฟล์เบราว์เซอร์แยกที่ไม่นำเข้าอะไรเลย ไม่มีพาสเวิร์ดที่บันทึกไว้ ไม่มีเอ็กซ์เทนชัน ไม่มีประวัติการเข้าเว็บ ใช้เวลาไม่กี่นาทีในการตั้งค่าในเบราว์เซอร์ส่วนใหญ่ และเพียงพอสำหรับงานความเสี่ยงต่ำแบบเดียว เช่น การค้นหาข้อมูลด่วนหรือกรอกฟอร์มสาธารณะแบบเดียว
ฉันต้องใช้ virtual machine หรือโปรไฟล์เบราว์เซอร์ก็เพียงพอแล้ว
ขึ้นอยู่กับงาน โปรไฟล์เบราว์เซอร์ก็เพียงพอสำหรับงานด่วนที่ความเสี่ยงต่ำและอยู่ในเว็บเท่านั้น ให้ใช้บัญชีระบบปฏิบัติการแยกหรือ virtual machine สำหรับอะไรก็ตามที่คุณจะทำซ้ำ อะไรที่ต้องใช้แอปเดสก์ท็อปจริง ไม่ใช่แค่เบราว์เซอร์ หรืองานใดที่คุณอยากล้างให้สะอาดและเริ่มใหม่ได้ บน Mac นั้น Virtualization framework ของ Apple สามารถรัน macOS guest เต็มรูปแบบในหน้าต่างปกติเพื่อจุดประสงค์นี้โดยเฉพาะ
prompt injection คืออะไร และทำไมมันสำคัญกับ agent ที่ควบคุมคอมพิวเตอร์
prompt injection คือคำสั่งที่แอบซ่อนอยู่ภายในหน้าเว็บ เอกสาร หรืออีเมล ซึ่งพยายามเปลี่ยนทาง AI agent ไม่ใช่คุณ ให้ทำสิ่งที่คุณไม่ได้ขอ เอกสารของ Anthropic เองสำหรับ computer use ของ Claude เตือนว่า Claude สามารถทำตามคำสั่งแบบนี้ได้ แม้ว่าจะขัดกับคำสั่งของคุณ และระบบตรวจจับความปลอดภัยสำหรับเรื่องนี้เป็นเพียงชั้นที่สอง ไม่ใช่สิ่งที่มาแทนการกัน agent ออกจากบัญชีที่ sensitive ตั้งแต่แรก
ฉันควรให้ agent ล็อกอินเข้าอีเมลหรือบัญชีธนาคารของฉันไหม
ให้มองว่าเป็นคำตอบ 'ไม่' ที่เด็ดขาดสำหรับการใช้งานทั่วไป คำแนะนำด้านความปลอดภัยของ Anthropic สำหรับ computer use ของ Claude เตือนไว้ชัดเจนว่าไม่ให้มอบการเข้าถึงข้อมูล sensitive เช่น ข้อมูลล็อกอินบัญชีให้กับโมเดล เพื่อป้องกันการขโมยข้อมูล และระบุว่าการล็อกอิน agent เข้าอะไรก็ตามเพิ่มความเสี่ยงจาก prompt injection โดยเฉพาะ ให้ใช้บัญชีที่จำกัดเฉพาะบริการเดียวที่งานนั้นต้องใช้จริง ๆ แทน
ฉันจะรู้ได้อย่างไรว่า agent กำลังจะทำสิ่งที่แก้กลับไม่ได้
ตั้งกฎถาวรไว้ก่อนที่งานจะเริ่ม agent ต้องหยุดและอธิบายสถานการณ์ก่อนการซื้อใด ๆ การส่งข้อความไปถึงอีกคนใด ๆ การลบหรือเขียนทับไฟล์ใด ๆ หรือหน้าใดที่ขอให้มันยอมรับข้อตกลงหรือคุกกี้ คำแนะนำของ Anthropic เองสำหรับ computer use ของ Claude ระบุชัดเจนถึงกลุ่มนี้ คือธุรกรรมทางการเงินและการยินยอมอย่างชัดแจ้ง ว่าเป็นกรณีที่ควรรอให้คนยืนยัน
computer use ของ Claude เหมือนกับ ChatGPT agent, Copilot actions หรือฟีเจอร์ agent ของ Gemini หรือไม่
ทั้งหมดทำงานบนวงจรที่คล้ายกันคร่าว ๆ คือ ดูหน้าจอ ตัดสินใจทำการกระทำ ทำมัน แล้วดูใหม่อีกครั้ง Claude ของ Anthropic, ChatGPT ของ OpenAI, Copilot ของ Microsoft และ Gemini ของ Google ต่างเปิดตัวเวอร์ชันของตัวเองแล้ว แต่การตั้งค่า ค่าเริ่มต้น และการป้องกันที่แน่นอนนั้นแตกต่างกันไปตามผลิตภัณฑ์และเปลี่ยนบ่อย นิสัยในคู่มือนี้ ได้แก่ การแยกพื้นที่ บัญชีที่จำกัด การอนุมัติจากคน และการตรวจทาน ใช้ได้กับทั้งหมด ตรวจเอกสารล่าสุดของผู้ให้บริการแต่ละรายสำหรับชื่อฟีเจอร์ที่แน่นอนของผลิตภัณฑ์นั้น
ฉันจะตรวจทานว่า agent ทำอะไรไปบ้างหลังเซสชันได้อย่างไร
ให้ถามมันตรง ๆ ให้มันลิสต์ทุกหน้าที่มันเข้าไป ทุกบัญชีที่มันแตะ และทุกช่องที่มันพิมพ์ ตามลำดับที่มันทำ แทนที่จะสรุปแค่ผลลัพธ์สุดท้าย เอกสารของ Anthropic สำหรับ Claude ระบุว่าการกระทำหลายอย่างสามารถรันรวมกันเป็น batch เดียวภายในเทิร์นเดียวได้ ดังนั้นการตรวจทานที่มีความหมายต้องตรวจขั้นตอนตลอดทาง ไม่ใช่แค่หน้าจอสุดท้าย
cloud sandbox ปลอดภัยกว่าการรัน agent บนคอมพิวเตอร์ของฉันเองหรือไม่
sandbox ที่ผู้ให้บริการจัดเตรียมไว้ให้เก็บเซสชันออกจากเครื่องของคุณทั้งหมด ซึ่งตัดความเสี่ยงต่อไฟล์และฮาร์ดแวร์ของคุณเองออกไปทั้งกลุ่ม ส่วนผลิตภัณฑ์ตัวใดจะมีสิ่งนี้ให้และตั้งค่าอย่างไรนั้นแตกต่างกันและเปลี่ยนไปตามเวลา ดังนั้นคู่มือนี้จึงไม่ได้กล่าวอ้างเฉพาะเจาะจงเกี่ยวกับ sandbox ของผู้ให้บริการรายใดรายหนึ่ง ให้ตรวจเอกสารล่าสุดของผลิตภัณฑ์นั้น ไม่ว่าจะทางใด นิสัยเดียวกัน คือ บัญชีที่จำกัด การอนุมัติจากคน และการตรวจทาน ก็ยังใช้ได้อยู่
Nightschool AI มีความเกี่ยวข้องกับ Anthropic, OpenAI, Microsoft, Google หรือ Apple หรือไม่
ไม่ใช่ Nightschool AI เป็นอิสระและไม่มีความเกี่ยวข้องหรือได้รับการรับรองจาก Anthropic, OpenAI, Microsoft, Google หรือ Apple Claude, ChatGPT, Copilot, Gemini และ Virtualization framework เป็นผลิตภัณฑ์ของบริษัทที่เกี่ยวข้องตามลำดับ และถูกกล่าวถึงในที่นี้เพียงเพื่ออธิบายว่ามันคืออะไรและอ้างอิงเอกสารที่เผยแพร่ของตัวเองอย่างถูกต้อง
ฝึกนิสัย ไม่ใช่แค่เช็กลิสต์
การตั้งค่าสำคัญน้อยกว่าสิ่งที่คุณทำตอนที่เห็นอะไรดูผิดปกติเป็นครั้งแรก