OpenAI ให้คำมั่น 2 ล้านดอลลาร์หนุนวิจัย AI สำหรับเด็ก

OpenAI ให้คำมั่นสนับสนุนเงิน 2 ล้านดอลลาร์ (ประมาณ 2.67 พันล้านวอน) เพื่อพัฒนาเครื่องมือกลางสำหรับประเมินความเสี่ยงและโอกาสของ AI สำหรับเด็ก โดยเงินจะสนับสนุนเครือข่ายวิจัยทางวิทยาศาสตร์ภายใต้พันธมิตรเพื่อสิทธิและการคุ้มครองเด็กในยุค AI

OpenAI ระบุเมื่อวันที่ 12 พฤศจิกายนว่า บริษัทลงนามใน “กฎบัตรการมีส่วนร่วมเพื่อ AI ที่ปลอดภัยยิ่งขึ้นสำหรับเด็ก” ในงานฟอรัมสันติภาพปารีส (Paris Peace Forum) และจะสนับสนุนเครือข่ายวิจัยดังกล่าว อย่างไรก็ตาม ประกาศระบุเพียงคำมั่นสนับสนุนเงิน โดยไม่ได้เปิดเผยว่ามีการจ่ายเงินจริงแล้วหรือไม่

ฟอรัมสันติภาพปารีสประกาศเมื่อวันที่ 10 พฤศจิกายนว่า ผู้พัฒนา AI และองค์กรด้านความปลอดภัยให้คำมั่นสนับสนุนเงินรวม 8 ล้านยูโรสำหรับการวิจัยและพัฒนาเครื่องมือ ยอดดังกล่าวมาจากผู้เข้าร่วมหลายราย จึงมีขอบเขตต่างจากคำมั่น 2 ล้านดอลลาร์ของ OpenAI

กฎบัตรที่เผยแพร่โดยสำนักประธานาธิบดีฝรั่งเศสระบุชื่อ OpenAI, แอนโทรปิก (Anthropic), Black Forest Labs และไมโครซอฟท์ (Microsoft, $MSFT) เป็นบริษัทผู้สนับสนุนกฎบัตร รายชื่อบริษัทเหล่านี้แยกจากรายชื่อผู้ให้คำมั่นสนับสนุนเงินทุนวิจัย

กฎบัตรกำหนดหลักการร่วม ได้แก่ △ความปลอดภัย ความเป็นส่วนตัว และประโยชน์สูงสุดของเด็ก △การออกแบบให้เหมาะกับวัยและการมีส่วนร่วมของครอบครัวกับเด็ก △จริยธรรม ความเสมอภาค และการมีส่วนร่วม △การเก็บข้อมูลส่วนบุคคลให้น้อยที่สุดและการตรวจสอบอายุ △การป้องกันสื่อการล่วงละเมิดทางเพศเด็กและภาพ интимที่เผยแพร่โดยไม่ได้รับความยินยอม △การให้ความรู้เกี่ยวกับ AI เป้าหมายคือผนวกมาตรการคุ้มครองไว้ตลอดการออกแบบและการดำเนินงานของระบบ AI ที่เด็กเข้าถึงได้

บริษัทที่ร่วมกฎบัตรและพัฒนาหรือเผยแพร่ระบบ AI ที่ผู้เยาว์เข้าถึงได้ ต้องประเมินและทดสอบความเสี่ยงก่อนนำระบบไปใช้งานเมื่อจำเป็น รวมถึงประเมินซ้ำเป็นระยะหลังจากนั้น นอกจากนี้ยังต้องมีมาตรการลดความเสี่ยง และระบบตรวจจับกับรับมือเหตุร้ายแรงที่เกี่ยวข้องกับเด็ก

เครือข่ายวิจัยอยู่ภายใต้การกำกับดูแลของคณะกรรมการวิทยาศาสตร์อิสระ โดยทีมวิจัยมีอำนาจควบคุมข้อสรุป และต้องเผยแพร่ผลที่เป็นลบ ผลที่ยังไม่เห็นประสิทธิผลชัดเจน ตลอดจนผลที่ยังมีความไม่แน่นอน

บริษัทสามารถตรวจสอบวิธีประเมินที่ใช้กับระบบของตนและแจ้งข้อกังวลด้านระเบียบวิธีได้ แต่ไม่มีอำนาจควบคุมมาตรฐานความปลอดภัยหรือข้อสรุป และไม่มีสิทธิชะลอการเผยแพร่ผล

เงินจากภาคธุรกิจจะจัดสรรให้การวิจัยเพื่อพัฒนาวิธีวัดผลร่วมกัน ส่วนการศึกษาเชิงสังเกตและผลกระทบต่อพัฒนาการ ค่าตอบแทนของคณะกรรมการวิทยาศาสตร์ ตลอดจนงานวิจัยด้านการประเมินและมาตรฐาน จะแยกไปใช้เงินทุนสาธารณะและเงินทุนการกุศลอิสระ

กฎบัตรระบุว่ายังมีงานวิจัยระยะยาวไม่เพียงพอเกี่ยวกับการที่เด็กและวัยรุ่นโต้ตอบกับ AI เชิงสร้างสรรค์ซ้ำ ๆ แนวทางที่เสนอคืออาศัยวิทยาศาสตร์พัฒนาการที่มีอยู่และงานวิจัยระยะแรกเพื่อวางมาตรการคุ้มครอง แล้วปรับปรุงเมื่อมีหลักฐานใหม่

งานวิจัยจะไม่จำกัดอยู่ที่ความเสี่ยง แต่จะศึกษาด้วยว่า AI อาจเปิดโอกาสให้เด็กด้านการเรียนรู้และความคิดสร้างสรรค์อย่างไร

ฟอรัมสันติภาพปารีสจัดการประชุมสุดยอดเด็กระหว่างวันที่ 10–11 พฤศจิกายน เอ็มมานูเอล มาครง (Emmanuel Macron) ประธานาธิบดีฝรั่งเศสกล่าวว่า “ไม่ควรนำ AI ใด ๆ มาให้เด็กใช้งาน หากยังไม่ได้ผ่านการทดสอบและประเมินผล รวมถึงการอนุมัติที่ตามมา”

OpenAI ยังระบุว่าควรรับประกันทั้งกฎหมายความปลอดภัยสำหรับเด็กที่เข้มแข็งและบังคับใช้ได้ กับการเข้าถึง AI เพื่อการเรียนรู้และความคิดสร้างสรรค์ บริษัทเสนอให้ใช้มาตรการคุ้มครองพื้นฐานที่เหมาะกับวัย เครื่องมือสำหรับผู้ปกครอง การประเมินความเสี่ยงเป็นระยะ และความรับผิดชอบเป็นกลไกสำคัญ

กฎบัตรกำหนดให้ผู้เข้าร่วมเปิดเผยวัตถุประสงค์และทรัพยากรที่ใช้สนับสนุน รวมถึงกำหนดการดำเนินงาน แต่ประกาศของ OpenAI ไม่ได้ระบุองค์ประกอบโดยละเอียดของเครือข่ายวิจัยหรือกำหนดการสนับสนุนเงินทุนรายส่วน