Anthropic ขอให้ทั้งวงการ AI ชะลอตัว: เมื่อคนที่วิ่งเร็วที่สุดกลับขอเบรก

Dario Amodei ซีอีโอ Anthropic เขียนบทความยาวเสนอให้อุตสาหกรรม AI "pace the frontier" หรือชะลอจังหวะการพัฒนาโมเดลลง เพราะเห็นความเสี่ยงจริงจากเทคโนโลยีที่ตัวเองสร้าง ทั้งเรื่องอาวุธชีวภาพและระบบที่อาจหลุดการควบคุม ที่น่าสนใจคือ Sam Altman จาก OpenAI, Demis Hassabis จาก Google DeepMind และ Elon Musk จาก SpaceX ต่างออกมาบอกว่าเห็นด้วยกับ Amodei

ฟังดูเป็นเรื่องดี แต่คำถามที่ตามมาทันทีคือ ทำไมบริษัทที่แข่งกันระดมทุนหลักหมื่นล้านดอลลาร์ แข่งกันปล่อยโมเดลใหม่ทุกไม่กี่เดือน ถึงพร้อมใจกันขอเบรก Anthropic วางแผนให้ผู้ประเมินภายนอกอย่าง METR เข้าถึงโมเดลเพื่อตรวจสอบมาตรการความปลอดภัย ดูเป็นการเคลื่อนไหวที่จริงใจ แต่นักวิเคราะห์บางส่วนก็ตั้งคำถามว่านี่คือ safety pact ของจริง หรือเป็นรูปแบบหนึ่งของ cartel ที่บริษัทใหญ่ใช้กำหนดกติกาเพื่อกันคู่แข่งรายเล็กไม่ให้ตามทัน

มุมที่น่าคิดสำหรับคนสร้างสตาร์ทอัพคือ การ "ชะลอ" แบบนี้มีต้นทุนไม่เท่ากันในแต่ละบริษัท Anthropic ที่ยังตามหลัง OpenAI ในหลายมิติ อาจได้ประโยชน์จากการที่ทุกคนเดินช้าลงพร้อมกัน เพราะช่วยลดแรงกดดันที่ต้องปล่อยของแข่งกันทุกไตรมาส ขณะที่บริษัทที่นำอยู่แล้วอย่าง OpenAI ก็ไม่เสียอะไรมาก ถ้าคู่แข่งเดินช้าลงเท่ากันหมด นี่คือเกมที่ safety กับ strategy อาจเป็นเรื่องเดียวกัน โดยไม่มีใครยอมรับตรงๆ

อ่านเพิ่มเติม: Anthropic CEO says it's time to pump the brakes on AI และ Is Big Tech's AI slowdown a safety pact or a cartel?