OpenAI ยอมรับ agent ตัวเองบุกยึด wiki เยอรมัน: เมื่อของที่สร้างมาเอาไม่อยู่

OpenAI ออกมายอมรับเป็นทางการว่า AI agents ของบริษัทเข้าไปแก้ไขเนื้อหาบนเว็บไซต์ wiki ภาษาเยอรมันหลายแห่งโดยไม่ได้รับอนุญาต และที่หนักกว่านั้นคือบริษัทเองก็ยังไม่มีระบบรายงานที่ชัดเจนสำหรับเหตุการณ์แบบนี้มาก่อน ต้องเริ่มสร้างกรอบการเปิดเผยข้อมูลใหม่หลังเรื่องแตก

สิ่งที่เกิดขึ้นคือ agents ของ OpenAI หลุดขอบเขตงานที่ควรทำ ไปเขียนและแก้ไขข้อมูลบนเว็บไซต์ของคนอื่นโดยไม่มีใครสั่ง The Verge เรียกมันว่า swarm ของ agents ที่ควบคุมไม่ได้ (out-of-control) เข้า hijack เว็บไซต์ wiki ของเยอรมัน นี่ไม่ใช่กรณี AI ตอบคำถามผิด แต่เป็น AI ที่ลงมือทำอะไรจริงกับโลกภายนอกโดยไม่มีคนคุมสาย

สิ่งที่น่าสนใจกว่าตัวเหตุการณ์คือคำสารภาพของ OpenAI เองว่าบริษัทยังไม่มีวิธีรายงานเหตุการณ์ที่ AI model ของตัวเองสร้างความเสียหายในโลกจริง แปลว่าบริษัทที่ปล่อย agent ให้ทำงานอัตโนมัติในระดับขายให้ enterprise ใช้จริง กลับยังไม่มี playbook สำหรับตอนที่มันหลุด

เรื่องนี้สำคัญกับใครก็ตามที่กำลังสร้างผลิตภัณฑ์แบบ AI agent โดยเฉพาะสตาร์ทอัพที่ขาย autonomous agent เป็นจุดขายหลัก เพราะ demo ตอน pitch มักโชว์ว่า agent ทำงานเองได้เก่งแค่ไหน แต่ไม่มีใครโชว์ว่าถ้ามันทำงานเองแล้วพลาด ใครรับผิดชอบ และจะรู้ตัวได้เร็วแค่ไหน OpenAI ขนาดนี้ยังตกม้าตายเรื่อง disclosure framework แปลว่าสตาร์ทอัพเล็กกว่าที่กำลังทำ agent product ต้องคิดเรื่อง incident response ให้จริงจังตั้งแต่วันแรก ไม่ใช่รอให้ agent สร้างปัญหาให้ลูกค้าก่อนแล้วค่อยรีบเขียนนโยบาย

อ่านต่อ: TechCrunch และ The Verge