ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
Rovo ผู้ช่วย AI ของ Atlassian อาจถูกควบคุมด้วยคำสั่งที่ซ่อนอยู่ในไฟล์ PDF จนส่งข้อมูลจากตั๋วงาน Jira และเอกสาร Confluence ออกไปยังภายนอกได้ ตามข้อกล่าวหาของบริษัทด้านความปลอดภัยไซเบอร์รายหนึ่ง กรณีนี้ทำให้เกิดความกังวลมากขึ้นเกี่ยวกับวิธีควบคุมสิทธิ์ของ AI เอเจนต์ที่สามารถอ่านเอกสารทางธุรกิจและสั่งรันเครื่องมือต่างๆ ได้ในตัว
PromptArmor บริษัทด้านความปลอดภัยไซเบอร์ระบุว่า หากผู้ใช้อัปโหลดไฟล์ PDF ที่มีข้อความซ่อนอยู่เข้าไปใน Rovo ตัวระบบอาจตีความข้อความนั้นเป็น ‘คำสั่ง’ แทนที่จะเป็นเนื้อหาเอกสารทั่วไป และส่งข้อมูลไปยัง URL ของผู้โจมตีได้ Decrypt สื่อด้านคริปโตรายงานเมื่อวันที่ 10 ว่านี่คือ ‘การโจมตีแบบซีโรคลิก’ (zero-click attack) ที่ทำงานได้โดยไม่ต้องรอการอนุมัติเพิ่มเติมจากผู้ใช้
ตามคำอธิบายของ PromptArmor ผู้โจมตีจะฝังตัวอักษรสีโปร่งใสหรือตัวอักษรขนาดเพียง 1 พิกเซลไว้ในไฟล์ PDF ทำให้มองไม่เห็นด้วยตาเปล่า เมื่อผู้ใช้นำไฟล์นี้ไปให้ Rovo ประมวลผล เช่น สั่งให้จัดระเบียบตั๋วงานใน Jira ตัว AI ก็อาจอ่านข้อความที่ซ่อนอยู่นั้นเป็นคำสั่งที่ต้องทำตาม
PromptArmor ยังอ้างว่า แม้ผู้ใช้จะปิดฟีเจอร์ค้นหาเว็บของ Rovo แล้ว แต่เครื่องมือสำหรับเปิด URL ยังคงทำงานอยู่ ทำให้ช่องทางที่ข้อมูลอาจรั่วไหลออกไปยังคงมีอยู่ อย่างไรก็ตาม ความสำเร็จของการโจมตีลักษณะนี้อาจขึ้นอยู่กับหลายปัจจัยร่วมกัน ทั้งวิธีที่ระบบประมวลผลไฟล์ ขอบเขตเนื้อหาที่ AI สามารถอ้างอิงได้ และขอบเขตการเรียกใช้เครื่องมือต่างๆ ว่าสอดคล้องกันหรือไม่
เอกสารสนับสนุนอย่างเป็นทางการของ Atlassian ระบุว่า Rovo Chat สามารถอ้างอิงไฟล์ที่ผู้ใช้อัปโหลดเป็นบริบทในการทำงานได้ โดย Rovo รองรับการอ่านไฟล์หลายรูปแบบ ทั้งเอกสาร สเปรดชีต และไฟล์เขียนโปรแกรม เช่น PDF, DOC, JSON, CSV และ PPT
Atlassian เคยประกาศในบันทึกการอัปเดตระบบคลาวด์เมื่อเดือนเมษายนว่า ได้เพิ่มฟีเจอร์แสดงตัวอย่างไฟล์ PDF ไฟล์ข้อความ และรูปภาพที่อัปโหลดเข้า Rovo Chat เพื่อให้ผู้ใช้ตรวจสอบเอกสารการทำงานได้ทันทีและนำไปใช้ในงานที่มอบหมายให้ AI ต่อได้
ฟีเจอร์การอ่านเอกสารช่วยเพิ่มประสิทธิภาพในการค้นหาและสรุปข้อมูล แต่ในขณะเดียวกันก็เพิ่มความเป็นไปได้ที่เนื้อหาจากภายนอกจะเข้าไปมีอิทธิพลต่อพฤติกรรมของ AI โดยเฉพาะเมื่อการอ่านเอกสารเชื่อมโยงกับการเรียกใช้เครื่องมือ เช่น การเข้าถึง URL ข้อผิดพลาดในการตอบคำถามเพียงเล็กน้อยอาจนำไปสู่การส่งข้อมูลจริงออกไปได้
Rovo ถูกออกแบบมาให้อ้างอิงข้อมูลจาก Jira, Confluence และแอปภายนอกที่เชื่อมต่อไว้ ภายในขอบเขตสิทธิ์ของผู้ใช้แต่ละคนเท่านั้น ทาง Atlassian ระบุว่า Rovo ปฏิบัติตามระบบสิทธิ์และการควบคุมการเข้าถึงที่มีอยู่เดิม และไม่นำข้อมูลนำเข้า-ส่งออกไปใช้ฝึกโมเดลภาษาขนาดใหญ่ (LLM) ของบุคคลที่สาม
อย่างไรก็ตาม การควบคุมสิทธิ์การเข้าถึงกับการป้องกันการฝังคำสั่งแอบแฝง (prompt injection) ถือเป็นการควบคุมคนละส่วนกัน หากเอกสารที่ผู้ใช้มีสิทธิ์เข้าถึงได้มีคำสั่งอันตรายซ่อนอยู่ AI ก็อาจกระทำการที่ไม่ได้ตั้งใจ แม้จะอยู่ภายในขอบเขตสิทธิ์ที่ได้รับอนุญาตก็ตาม
PromptArmor จัดประเภทกรณีนี้ว่าเป็น ‘การฝังคำสั่งแอบแฝงทางอ้อม’ (indirect prompt injection) ซึ่งเป็นวิธีโจมตีที่ผู้ไม่หวังดีไม่ได้พิมพ์คำสั่งลงในช่องแชทโดยตรง แต่ซ่อนคำสั่งไว้ในเนื้อหาภายนอก เช่น หน้าเว็บ อีเมล ไฟล์ PDF หรือฐานข้อมูล เพื่อเปลี่ยนแปลงพฤติกรรมของ AI แทน
ในระบบนิเวศของ Atlassian เองก็มีการพูดถึงประเด็นนี้อยู่ก่อนแล้ว โดยมีการแจ้งปัญหาใน Jira หมายเลข ‘ROVO-576’ ซึ่งเสนอให้บันทึกการโจมตีแบบฝังคำสั่งแอบแฝงไว้ในบันทึกตรวจสอบสำหรับผู้ดูแลระบบ ประเด็นนี้ถูกแจ้งไว้ตั้งแต่วันที่ 3 กุมภาพันธ์ และจนถึงปัจจุบันยังไม่ได้รับการแก้ไข
บนคอมมูนิตี้ของ Atlassian ก็มีกระทู้ที่โพสต์เมื่อเดือนเมษายน ตั้งคำถามว่าคำสั่งอันตรายที่ซ่อนอยู่จะสามารถหลอก Rovo ได้หรือไม่ และในเดือนมิถุนายนก็มีคำถามด้านความปลอดภัยที่กล่าวถึงการฝังคำสั่งแอบแฝงและความเสี่ยงข้อมูลอ่อนไหวรั่วไหลเช่นกัน
Atlassian เผยแพร่สมุดปกขาวด้านความปลอดภัยของ Rovo เมื่อเดือนมิถุนายน โดยระบุว่าขอบเขตการตรวจจับและรับมือภัยคุกคามจาก AI ครอบคลุมทั้งการฝังคำสั่งแอบแฝงและรูปแบบการเข้าถึงที่ผิดปกติ อย่างไรก็ตาม จนถึงขณะนี้ยังไม่พบประกาศแพตช์อย่างเป็นทางการหรือการยอมรับช่องโหว่ใดๆ จาก Atlassian ที่เกี่ยวข้องโดยตรงกับข้อกล่าวหาของ PromptArmor
องค์กรที่กำลังพิจารณานำผู้ช่วย AI อย่าง Rovo มาใช้งานควรพิจารณานโยบายการอัปโหลดไฟล์ สิทธิ์การเข้าถึง URL ภายนอก ขอบเขตการเรียกใช้เครื่องมือของ AI และระบบบันทึกตรวจสอบสำหรับผู้ดูแลระบบไปพร้อมกัน โดยเฉพาะเครื่องมือทำงานร่วมกันอย่าง Jira และ Confluence ที่รวบรวมทั้งตารางงานพัฒนา การดูแลลูกค้า และนโยบายภายในองค์กรไว้ในที่เดียว จำเป็นต้องแยกให้ชัดเจนระหว่างสิทธิ์การเข้าถึงเอกสาร กับขอบเขตการกระทำที่ AI สามารถทำต่อได้หลังจากอ่านเอกสารนั้นแล้ว
ก่อนหน้านี้ TokenPost เคยรายงานว่าในโครงสร้าง AI ที่มีเอเจนต์ย่อยหลายตัวเรียกใช้เครื่องมือร่วมกัน การบริหารจัดการสิทธิ์และการควบคุมการเรียกใช้เครื่องมือถือเป็นโจทย์สำคัญ กรณีของ Rovo ในครั้งนี้สะท้อนให้เห็นว่า นอกเหนือจากนโยบายไม่นำข้อมูลไปฝึกโมเดลของ AI สำหรับองค์กรแล้ว การควบคุมการนำเข้าไฟล์ การเรียกใช้ URL ภายนอก และการบันทึกตรวจสอบ ยังเป็นเรื่องที่ต้องจัดการแยกจากกันอย่างรัดกุม
ความคิดเห็น 0