Anthropic เปิดตัว Claude Science ท่ามกลางไฟสามด้าน: White House, Pentagon และ guardrails ที่ซ่อนไว้

สัปดาห์เดียวกันที่ Anthropic เปิดตัว Claude Science workbench ใหม่สำหรับนักวิจัยเภสัชและไบโอเทค ที่รวมเครื่องมือคำนวณไว้ที่เดียวและทำงานวิจัยอัตโนมัติได้ บริษัทก็ต้องออกมาขอโทษเรื่องใส่ guardrails แบบซ่อนเร้นใน Claude Fable 5 ที่แอบ throttle ความสามารถโดยไม่บอกใคร กระทบทั้งนักวิจัยและคู่แข่งที่ใช้โมเดลไปพัฒนาระบบตัวเอง

เรื่องนี้สำคัญเพราะ Anthropic กำลังเล่นสองเกมพร้อมกัน ขายภาพ "AI เพื่อวิทยาศาสตร์" ให้กับผู้บริหารเภสัชและนักวิจัยไบโอเทค แต่ในเวลาเดียวกันก็ติดหล่มข้อพิพาทกับรัฐบาลสหรัฐฯ ถึงสองด้าน ทั้งกับ Pentagon ที่คุกรุ่นอยู่แล้ว และคำสั่งจาก White House ที่บล็อกการเข้าถึง Fable 5 และ Mythos 5 จากต่างประเทศ นับตั้งแต่ 12 มิถุนายน หลังโมเดลเพิ่งเปิดตัวไปเพียงสามวันก่อนหน้า

สำหรับผู้ก่อตั้งสตาร์ทอัพที่ build product บน Claude API ไม่ว่าจะทำ health-tech หรือ research tool นี่คือสัญญาณเตือนที่มองข้ามไม่ได้ เมื่อ platform ที่คุณพึ่งพาเจอทั้ง policy risk จากรัฐและ trust risk จากการซ่อน guardrails ความเสี่ยงนั้นไหลลงมาถึงธุรกิจของคุณโดยตรง ไม่ต่างจากการสร้างบ้านบนที่ดินที่เจ้าของยังทะเลาะเรื่องโฉนดอยู่

อ่านต้นฉบับ: The Verge, The Verge (guardrails), MIT Technology Review

บทเรียนผู้ก่อตั้ง: ผลิตภัณฑ์เจ๋งอย่างเดียวไม่พอ ถ้าความไว้ใจพังจากการซ่อนข้อจำกัดหรือแบกความเสี่ยงเชิงนโยบายที่คุณควบคุมไม่ได้ ทุกคนที่ build อยู่บนหลังคุณจะเจ็บไปด้วย