ฮาร์วีย์อัตรากำไรขั้นต้นติดลบ 50% หลังต้นทุนการอนุมานของ AI Agent พุ่ง

อัตรากำไรขั้นต้นของฮาร์วีย์(Harvey) บริษัทปัญญาประดิษฐ์(AI) ด้านกฎหมาย ลดลงจากประมาณ 50% ช่วงต้นปีเป็นติดลบ 50% ในเดือนมิถุนายน หลังการใช้งานของลูกค้าและต้นทุนการอนุมานโมเดลเพิ่มขึ้นอย่างมาก בעקבותการอัปเดต AI Agent

บลูมเบิร์กรายงานว่า การใช้งานของลูกค้าฮาร์วีย์เพิ่มขึ้นอย่างมากหลังการอัปเดต AI Agent ในเดือนมีนาคม ขณะที่มูลค่ากิจการของฮาร์วีย์ถูกรายงานอยู่ที่ 15.6 พันล้านดอลลาร์(ประมาณ 21 ล้านล้านวอน)

การลดลงของอัตรากำไรขั้นต้นเกิดจากช่องว่างระหว่างค่าบริการแบบคิดตามจำนวนที่นั่งกับปริมาณการใช้งานจริง แม้จำนวนลูกค้าจะไม่เพิ่มขึ้น แต่หากผู้ใช้แต่ละรายทำงานที่ซับซ้อนขึ้น ต้นทุนการเรียกใช้โมเดลก็จะเพิ่มขึ้นตาม

AI Agent ใช้โทเคนมากกว่าระบบถามตอบทั่วไป เมื่อทนายความป้อนเอกสารคดีหลายร้อยหน้าหรือสัญญาขนาดใหญ่ เอเจนต์จะค้นเอกสาร อนุมานหลายรอบ เรียกใช้เครื่องมือภายนอก และปรับแก้ผลลัพธ์ซ้ำเป็นวงจร

ค่าบริการแบบคงที่ต่อที่นั่งช่วยให้คาดการณ์ต้นทุนได้ง่ายเมื่อการใช้งานคงที่ อย่างไรก็ตาม หากเอเจนต์ทำงานอัตโนมัติเป็นเวลานาน ปริมาณการประมวลผลและต้นทุนของลูกค้าแต่ละรายอาจแตกต่างกันมาก แม้มีจำนวนที่นั่งเท่ากัน

เมื่อการใช้งาน AI Agent เพิ่มขึ้น จำนวนที่นั่งเพียงอย่างเดียวจึงอธิบายต้นทุนบริการได้ยากขึ้น เพราะปริมาณโทเคนและต้นทุนการอนุมานจริงแตกต่างกันตามปริมาณเอกสารและความซับซ้อนของงาน

การลดช่องว่างระหว่างค่าบริการคงที่กับปริมาณการประมวลผลจริงจำเป็นต้องอาศัยการเลือกโมเดลและการจัดการการใช้งานตามประเภทงาน ในโครงสร้างที่เอเจนต์ค้นหา อนุมาน และแก้ไขซ้ำหลายครั้ง ภาระต้นทุนอาจเพิ่มขึ้นตามการใช้งานของลูกค้า

พัฒนาโมเดลของตัวเองเพื่อปรับโครงสร้างต้นทุน

ฮาร์วีย์เริ่มพัฒนาโมเดลของตัวเองเพื่อปรับโครงสร้างต้นทุน โดยฮาร์วีย์ เทเน็ต(Harvey Tenet) ที่เปิดตัวเมื่อวันที่ 20 สิงหาคม พัฒนาร่วมกับ Fireworks Research บนพื้นฐานของโมเดลโอเพนเวต Kimi K3 จากมูนช็อต AI(Moonshot AI)

ฮาร์วีย์ระบุว่า บริษัทใช้การปรับแต่งหลังการฝึกให้เหมาะกับงานกฎหมาย เพื่อให้เทเน็ตสามารถรองรับการทำงานของเอเจนต์ที่ต่อเนื่องเป็นเวลานานได้ ก่อนหน้านี้มีการรายงานข่าวเกี่ยวกับการพัฒนาโมเดล AI ด้านกฎหมายของฮาร์วีย์บนพื้นฐานของ Kimi K3 แล้ว

ในเอกสารวิจัยของเทเน็ต ฮาร์วีย์อธิบายว่าโมเดลโอเพนเวตอาจช่วยลดทั้งราคาต่อโทเคนและจำนวนโทเคนที่ใช้ระหว่างการอนุมานได้ โดยลดการเรียกใช้เครื่องมือและขั้นตอนการอนุมานที่ไม่จำเป็น เพื่อให้ได้ผลลัพธ์ในระดับเดียวกันด้วยการประมวลผลที่น้อยลง

อย่างไรก็ตาม ข้อมูลที่ฮาร์วีย์เปิดเผยเป็นผลการวิจัยที่ชี้ถึงความเป็นไปได้ในการเพิ่มประสิทธิภาพด้านต้นทุน ยังไม่มีการเปิดเผยตัวเลขว่าการนำเทเน็ตมาใช้ช่วยให้ความสามารถในการทำกำไรของธุรกิจฮาร์วีย์โดยรวมฟื้นตัวขึ้นจริง

เอกสารทางการของฮาร์วีย์ระบุว่า เทเน็ตทำงานสำเร็จในภารกิจการประเมินด้านกฎหมายได้มากกว่า Kimi K3 ผลดังกล่าวมาจากสภาพแวดล้อมการประเมินที่ฮาร์วีย์ออกแบบเอง จึงต้องแยกออกจากการประหยัดต้นทุนที่เกิดขึ้นจริงในงานของลูกค้า

ฮาร์วีย์ยังเสนอฟังก์ชันเลือกโมเดลตามประเภทงานเป็นเครื่องมือจัดการต้นทุน โดยใช้โมเดลที่เบากว่าสำหรับการเขียนเอกสารทั่วไป และจัดสรรโมเดลประสิทธิภาพสูงสำหรับการวิเคราะห์กฎหมายที่ซับซ้อน พร้อมเปิดให้ผู้ดูแลกำหนดโมเดลล่วงหน้าตามประเภทงาน

กรณีนี้สะท้อนว่า หน่วยคิดค่าบริการของบริการ AI สำหรับงานเฉพาะทางอาจเปลี่ยนจากจำนวนผู้ใช้ไปสู่ปริมาณงานจริง งานตรวจสอบเอกสารและการตรวจสอบสถานะกิจการเพื่อการควบรวมและซื้อกิจการมีความยาวและความซับซ้อนต่างกัน ทำให้ปริมาณการใช้โทเคนแตกต่างกันมาก แม้เป็นลูกค้ารายเดียวกัน

ตลาด AI ด้านกฎหมายกำลังให้ความสำคัญกับคุณภาพ ต้นทุน และสิทธิในการควบคุมข้อมูลควบคู่กัน การพัฒนาโมเดลบนพื้นฐานของ Kimi K3 เป็นความพยายามลดการพึ่งพาผู้ให้บริการโมเดลภายนอก แต่ต้นทุนการดำเนินงานจริงและผลลัพธ์จากการใช้งานเชิงพาณิชย์ยังต้องผ่านการตรวจสอบเพิ่มเติม