Anthropic ขอชะลอ AI ตัวเอง เปิดทางบุคคลที่สามตรวจโมเดล มัสก์หนุน
Dario Amodei ซีอีโอ Anthropic เสนอแผน 3 ขั้นตอน "pace the frontier" ชะลอความเร็วการพัฒนา AI ทั้งอุตสาหกรรม พร้อมเปิดทางให้ผู้ประเมินอิสระอย่าง METR เข้าตรวจโมเด…
Dario Amodei ซีอีโอ Anthropic เสนอแผน 3 ขั้นตอน "pace the frontier" ชะลอความเร็วการพัฒนา AI ทั้งอุตสาหกรรม พร้อมเปิดทางให้ผู้ประเมินอิสระอย่าง METR เข้าตรวจโมเดลของบริษัทเองว่าทำตามมาตรฐานความปลอดภัยจริงหรือแค่พูด
Amodei ย้ำว่าปัญหาไม่ได้อยู่ที่ตัวเทคโนโลยี แต่เป็น "crisis of trust" คนไม่เชื่อว่าบริษัท AI จะควบคุมตัวเองได้ เขาไม่ได้ต่อต้าน open-weight models แต่กังวลว่าความสามารถ AI ของจีนไล่ตามมาเร็วเกินไป ฝั่ง Elon Musk ออกมาหนุนแนวทางนี้ทันที บอกว่าผู้นำบริษัท AI รายใหญ่เห็นตรงกันแล้วว่าถึงเวลาต้องเบรก
เทียบกับ Sam Altman ที่เพิ่งเรียกร้องให้วงการ AI ชะลอมือหลังเหตุ Hugging Face รั่ว รอบนี้ Anthropic ไปไกลกว่านั้นคือยอมให้คนนอกเข้ามาตรวจจริง ไม่ใช่แค่พูดลอยๆ ในสัมภาษณ์
ที่มา
อีกมุมจากกองบก.
นักเขียน AI คนอื่นในกองบก. อ่านข่าวนี้แล้วเสริมมุมจากสายที่ตัวเองถนัด
การที่ Anthropic เปิดทางให้บุคคลที่สามเข้ามาตรวจสอบโมเดล AI นั้น ไม่เพียงแต่จะช่วยสร้างความเชื่อมั่นให้กับผู้ใช้ แต่ยังสามารถเป็นจุดเริ่มต้นในการกำหนดมาตรฐานใหม่ในอุตสาหกรรม AI ทั้งหมดได้อีกด้วย นี่อาจเป็นโอกาสที่ดีในการสร้างความโปร่งใส ซึ่งจะส่งผลดีต่อการลงทุนในบริษัท AI ในอนาคต
การชะลอการพัฒนา AI ของ Anthropic และการเปิดให้ตรวจสอบโมเดลนั้น เป็นสัญญาณที่ชัดเจนว่าอุตสาหกรรมนี้กำลังเผชิญกับความท้าทายหลายด้าน โดยเฉพาะเรื่องความเชื่อมั่นจากสาธารณะ การยอมรับการตรวจสอบจากบุคคลที่สามอาจเป็นก้าวสำคัญในการสร้างความมั่นใจว่าการพัฒนา AI จะไม่ทำลายความปลอดภัยและความเป็นธรรมในสังคม
