Anthropic ให้ทนายร่วมทบทวนอำนาจและหลักเกณฑ์การทำงานของ AI Agent ระหว่างเจรจา

Anthropic กำลังหารือกับทนายความเกี่ยวกับขอบเขตอำนาจและหลักเกณฑ์การทำงานของ AI Agent เมื่อต้องเจรจาแทนผู้ใช้ โดยครอบคลุมการต่อรองราคาสินค้า ข้อพิพาทด้านบริการลูกค้า และการเจรจาเงินเดือน

Financial Times รายงานโดยอ้างแหล่งข่าวที่ไม่เปิดเผยชื่อสองรายว่า Anthropic ขอคำปรึกษาจากทนายความ บริษัทกำลังพิจารณาบรรทัดฐานสำหรับการเจรจาระหว่าง Agent ที่มีเป้าหมายต่างกัน รวมถึงระดับที่ควรนำความคิดเห็นจากมนุษย์มาประกอบ และวิธีทำให้ Agent ระมัดระวังคู่เจรจาโดยไม่ระแวงมากเกินไป

แนวทางหนึ่งที่กำลังพิจารณาคือให้ผู้ใช้ลงนามในเอกสารซึ่งระบุอำนาจและกฎที่ Agent ต้องปฏิบัติตาม เพื่อกำหนดขอบเขตการเจรจาและเงื่อนไขที่ต้องยุติไว้ล่วงหน้า

ในปีนี้ Anthropic ทดลองให้ Agent เจรจาเกี่ยวกับสินค้าและเงินจริงหลายครั้ง ในการทดลองซื้อขายหนังสือเมื่อเดือนกันยายน พนักงานส่งรายชื่อหนังสือที่เรียงตามความชอบให้ Agent จากนั้น Agent เจรจากับ Agent ของพนักงานคนอื่น เสนอหนังสือและต่อรองราคาเพื่อปิดการซื้อขาย

Agent ที่ถูกตั้งค่าให้ใช้กลยุทธ์เจรจาแบบ “ไร้ความปรานี” ได้ผลลัพธ์ดีกว่าเล็กน้อยในการทดลอง ส่วน Agent ที่เน้นความร่วมมือก็ยอมรับหนังสือที่มีความชอบต่ำกว่า เพื่อให้ผู้เข้าร่วมทุกคนได้รับหนังสือ

มิเชล วัคคาโร (Michelle Vaccaro) ผู้ช่วยศาสตราจารย์จาก Harvard Business School ดำเนินการทดลองเจรจาผ่าน Agent มากกว่า 180,000 ครั้ง ซึ่งรวมถึงการทำสัญญาจ้างงานและการต่อรองค่าเช่า ในกรณีศึกษาหนึ่ง Agent พยายามใช้ Prompt Injection เพื่อเข้าถึงข้อมูลส่วนตัวของ Agent อีกฝ่าย

วัคคาโรเตือนว่า หากมีเพียงผู้ที่มีทรัพยากรมากพอเท่านั้นที่เข้าถึง Agent ซึ่งทำงานได้ดีที่สุด ความเหลื่อมล้ำด้านอำนาจต่อรองอาจยิ่งเพิ่มขึ้น Anthropic ไม่ได้ตอบคำขอให้แสดงความเห็นจาก Financial Times