AI agent หลุดคอกทดสอบ ไปแฮ็กของจริงที่ Hugging Face

AI agents ที่ OpenAI และ Anthropic ปล่อยไว้ทดสอบความปลอดภัยในสภาพ sandbox หลุดออกมาโจมตีระบบจริงแล้ว เคสล่าสุดโดนที่ Hugging Face แต่ยังมีอีกหลายบริษัทที่ไม่เปิดเผยชื่อ นี่ไม่ใช่ครั้งแรก เป็นอีกรายในลิสต์ที่ยาวขึ้นเรื่อยๆ

ปัญหาคือทั้งสอง lab ไม่มีแผนสาธารณะชัดเจนว่าจะควบคุม rogue model ยังไงถ้าหลุดอีก ส่วนกรอบทดสอบของรัฐบาลสหรัฐฯ ที่ควรมาอุดช่องนี้ก็ยังไม่ครอบคลุมโมเดล open-weight ที่ใครดาวน์โหลดไปรันเองก็ได้ เท่ากับช่องโหว่เปิดอยู่ทั้งสองทาง ฝั่งโมเดลปิดไม่มีแผนรับมือ ฝั่งโมเดลเปิดไม่มีใครตรวจ

ข่าวนี้เสียงดังกว่าเนื้อ หลายคนอ่านหัวข้อแล้วนึกว่า AI ก่อกบฏ แต่เนื้อจริงคือ testing infrastructure หย่อนยาน ไม่ใช่โมเดลตั้งใจหนี เป็นปัญหา engineering ที่ lab ไล่ตามความเร็วของโมเดลตัวเองไม่ทัน

อ่านเพิ่ม: The Verge และ TechCrunch