โมเดลเปิดไม่เก็บข้อมูลโดยปริยาย ขณะที่ Responses API เก็บสูงสุด 30 วัน และ batch จนลูกค้าลบ

การพบประวัติการสนทนาของ Notion AI ในชุดข้อมูลที่เกี่ยวข้องกับเหตุการณ์ด้านความปลอดภัยของ Fireworks ทำให้ขอบเขตคำมั่นเรื่องการไม่เก็บข้อมูลกลายเป็นประเด็น โดย Fireworks ระบุว่าข้อมูลขาเข้าและผลลัพธ์จากการอนุมานโมเดลแบบเปิดอยู่ในหน่วยความจำชั่วคราวระหว่างประมวลผล และไม่ถูกบันทึกลงในที่จัดเก็บถาวร

หลิน เฉียว (Lin Qiao) ซีอีโอของ Fireworks AI กล่าวในบทความที่เผยแพร่วันที่ 14 ว่า “การอัปโหลดไฟล์ไปยังที่เก็บข้อมูลบนคลาวด์แตกต่างจากการป้อนตัวเลขลงในเครื่องคิดเลข”

คำเปรียบเทียบนี้อธิบายว่า ลูกค้าต้องลบชุดข้อมูลที่อัปโหลดเพื่อทำงานแบบ batch ด้วยตนเอง การอนุมานทั่วไปจะส่งคำถามและได้รับคำตอบทันที ส่วนงานแบบ batch ต้องอัปโหลดชุดข้อมูลก่อนจึงจะได้รับผลลัพธ์

เอกสารการประมวลผลข้อมูลอย่างเป็นทางการของ Fireworks ระบุว่า ข้อมูลขาเข้าและข้อมูลที่สร้างขึ้นจากโมเดลแบบเปิดจะอยู่ในหน่วยความจำชั่วคราวเฉพาะระหว่างประมวลผล และไม่ถูกบันทึกลงในที่จัดเก็บถาวร อย่างไรก็ตาม หากใช้แคชพรอมป์ต์ ข้อมูลขาเข้าบางส่วนและข้อมูลที่เกี่ยวข้องอาจคงอยู่ในหน่วยความจำชั่วคราวเป็นเวลาหลายนาที ส่วนข้อมูลเมตา เช่น จำนวนโทเค็นของคำขอ จะถูกบันทึกเพื่อใช้ดำเนินงานบริการ

Batch API ต้องจัดเก็บชุดข้อมูล จึงไม่อยู่ในขอบเขตการไม่เก็บข้อมูลของการอนุมานทั่วไป หลินระบุว่าข้อมูลสำหรับงานแบบ batch จะถูกเก็บไว้จนกว่าลูกค้าจะลบ

Responses API เก็บข้อมูลการสนทนาได้นานสูงสุด 30 วันเมื่อใช้การตั้งค่าเริ่มต้น store=true เอกสารของ Fireworks ระบุว่าการกำหนด store=false ในคำขอจะป้องกันการจัดเก็บข้อมูลการสนทนาได้

ลูกค้าองค์กรสามารถเปิดใช้นโยบายไม่เก็บข้อมูลที่ครอบคลุมทั้งบัญชีได้ โดยค่าเริ่มต้นนโยบายนี้ปิดอยู่ เมื่อเปิดใช้งาน ระบบจะปฏิเสธคำขอและงานที่จัดเก็บเนื้อหาของลูกค้า เช่น งานแบบ batch หรือการอัปโหลดชุดข้อมูล เอกสารนโยบายบัญชีของ Fireworks ระบุว่าการตั้งค่านี้มีให้สำหรับบัญชีองค์กร

การเปิดนโยบายไม่เก็บข้อมูลจะไม่ลบคำตอบ ชุดข้อมูล หรือโมเดลที่อัปโหลดและจัดเก็บไว้ในบัญชีก่อนหน้าโดยอัตโนมัติ Fireworks ระบุในเอกสารว่าลูกค้าต้องลบข้อมูลเดิมแยกต่างหาก

วันที่ 2 Notion ได้รับแจ้งจาก Fireworks ว่าผู้ไม่หวังดีเข้าถึงข้อมูลบางส่วนได้ ในเวลานั้น Notion ประเมินว่าชุดข้อมูลที่ตรวจสอบมีข้อมูลทดสอบสังเคราะห์ของ Notion AI ไม่ใช่บทสนทนาของลูกค้า

วันที่ 3 Notion ยกเลิกการเชื่อมต่อระบบกับ Fireworks วันถัดมา Notion ลบข้อมูลของบริษัทออกจากระบบ Fireworks และหลังได้รับแจ้งวันที่ 6 ว่าข้อมูลลูกค้าอาจถูกเข้าถึงได้ บริษัทจึงเริ่มตรวจสอบเพิ่มเติม

ในชุดข้อมูลฉบับสุดท้ายที่ได้รับวันที่ 8 Notion พบประวัติการสนทนาของ Notion AI ซึ่งใช้ในฟีเจอร์ Insights บริษัทระบุว่าเวิร์กสเปซที่ได้รับผลกระทบมีน้อยกว่า 1% และบันทึกส่วนใหญ่ไม่มีข้อมูลผู้เขียนหรือเวิร์กสเปซ อีกทั้งไม่มีผลลัพธ์จากการเรียกใช้เครื่องมือ TokenPost รายงานก่อนหน้านี้ว่าประวัติการสนทนาของ Notion AI อยู่ในข้อมูลที่ได้รับผลกระทบ คำแนะนำเกี่ยวกับเหตุการณ์ของ Notion ยังระบุวิธีให้ลูกค้าที่ได้รับผลกระทบตรวจสอบบันทึกดังกล่าว

Notion ใช้ Fireworks สำหรับฟีเจอร์ Insights ซึ่งจัดหมวดหมู่การใช้งาน AI ของพนักงาน และสำหรับให้บริการโมเดลแบบ open-weight ระหว่างการตรวจสอบ Notion ระงับฟีเจอร์ Insights และหยุดให้บริการโมเดล open-weight ผ่าน Fireworks

Notion อธิบายว่า คำมั่นเรื่องการไม่เก็บข้อมูลที่ให้ไว้กับลูกค้าองค์กรครอบคลุมคำขอ API ที่ส่งไปยังผู้ให้บริการโมเดลภายนอกเพื่อสร้างคำตอบจาก AI แต่ไม่ครอบคลุมกรณีที่จัดเก็บคำขอและคำตอบเพื่อให้บริการฟีเจอร์ต่าง ๆ เช่น ประวัติแชตหรือ Insights

เพื่อวิเคราะห์ Insights นั้น Notion ส่งคำขอและคำตอบที่จัดเก็บไว้ให้ Fireworks Notion ระบุว่า Fireworks ให้คำมั่นตามสัญญาว่าจะไม่เก็บข้อมูลสำหรับการใช้งานนี้ แต่ระหว่างการตรวจสอบกลับพบว่าข้อมูลยังคงอยู่ในเอนด์พอยต์ของ Fireworks ที่ใช้กับงานดังกล่าว

วันที่ 9 Fireworks ระบุในประกาศด้านความปลอดภัยว่าชุดข้อมูลของลูกค้าบางรายและน้ำหนักโมเดลที่ยังไม่สมบูรณ์ได้รับผลกระทบ ส่วนการอนุมานทั่วไป, Training SDK และ Nexus ยังไม่พบผลกระทบจนถึงขณะนี้ และการตรวจสอบยังดำเนินต่อไป เอกสารสาธารณะของทั้งสองบริษัทไม่ได้ระบุว่าประวัติการสนทนาของ Notion คงอยู่ในฟีเจอร์จัดเก็บข้อมูลใดของ Fireworks

Fireworks ระบุว่าได้ระงับการอัปโหลดและดาวน์โหลดชุดข้อมูลแบบบริการตนเอง ซึ่งใช้กับการอนุมานแบบ batch และการฝึกโมเดลจากชุดข้อมูลระหว่างการตรวจสอบ ส่วน Notion แนะนำให้ลูกค้าที่ได้รับผลกระทบตรวจสอบบันทึกที่เกี่ยวข้องได้ในส่วน Security incident review ของเวิร์กสเปซ