CEO ของ Anthropic เตือน 'ช่วงเวลาอันตราย' เมื่อ Mythos เปิดเผยช่องโหว่

Dario Amodei ซีอีโอ Anthropic เตือนเมื่อวันอังคารว่าปัญญาประดิษฐ์ได้สร้างหน้าต่างที่แคบสำหรับบริษัทเทคโนโลยี รัฐบาล และธนาคารของโลกในการแก้ไขช่องโหว่ของซอฟต์แวร์นับหมื่นที่พบโดยรุ่นล่าสุดของบริษัทของเขา

โมเดล AI นั้น Mythos ได้รับการดูตัวอย่างเมื่อเดือนที่แล้วพร้อมกับการเปิดเผยว่าได้ค้นพบช่องโหว่ที่มีอายุหลายสิบปีในซอฟต์แวร์ที่สำคัญ

เนื่องจากโมเดล AI จากศัตรูด้านภูมิรัฐศาสตร์ของจีน “อาจจะช้าถึง 12 เดือน” ช้ากว่าผลิตภัณฑ์ Anthropic จึงมีเวลา “ประมาณนั้น” ในการแก้ไขปัญหาเหล่านี้ Amodei กล่าว

ความคิดเห็นดังกล่าวเกิดขึ้นระหว่างงาน Anthropic ซึ่ง Amodei ขึ้นเวทีด้วย เจพีมอร์แกน เชส Jamie Dimon ซีอีโอและเปิดตัวชุดตัวแทนใหม่ที่ทำงานทางการเงินโดยอัตโนมัติ

“อันตรายเป็นเพียงการเพิ่มขึ้นอย่างมหาศาลของจำนวนช่องโหว่ จำนวนการละเมิด และความเสียหายทางการเงินที่เกิดจากแรนซัมแวร์ในโรงเรียน โรงพยาบาล ไม่ต้องพูดถึงธนาคาร” Amodei กล่าว

Anthropic จำกัด Mythos ไว้เพียงบริษัทพันธมิตรเพียงไม่กี่แห่ง เนื่องจากมีความกังวลเกี่ยวกับสิ่งที่อาชญากรหรือประเทศที่เป็นปฏิปักษ์สามารถทำอะไรกับมันได้ การอัปเดตโมเดลของบริษัทหลายครั้งล่าสุดส่งเสียงสะท้อนไปทั่วตลาด แต่ Mythos ทำให้เกิดความกังวลมากที่สุดจากบริษัทและผู้กำหนดนโยบาย

Amodei กล่าวว่าขนาดของการโจมตีทางไซเบอร์ที่อาจเกิดขึ้นนั้นเพิ่มขึ้นตามรุ่นของ Claude แต่ละรุ่น โมเดล Anthropic ก่อนหน้านี้พบช่องโหว่ประมาณ 20 รายการในเบราว์เซอร์ Firefox Mythos พบเกือบ 300 ตัว และจำนวนรวมของซอฟต์แวร์ทั้งหมดตอนนี้มีถึงหลักหมื่นแล้ว เขากล่าว

ช่องโหว่ส่วนใหญ่ที่ Mythos พบยังไม่ได้รับการเปิดเผยต่อสาธารณะ เนื่องจากช่องโหว่เหล่านี้ยังไม่มีการแก้ไข และ “ผู้ร้ายจะใช้ประโยชน์จากช่องโหว่เหล่านี้” หากตรวจพบช่องโหว่เหล่านั้น Amodei กล่าว

แม้จะมีสัญญาณเตือนภัย ทั้ง Amodei และ Dimon ก็ยังสังเกตเห็นการมองโลกในแง่ดีแบบมีเงื่อนไขเช่นกัน

“นี่เป็นช่วงเวลาแห่งอันตรายที่หากเราตอบสนองอย่างถูกต้อง และผมคิดว่าเราเริ่มก้าวแรก แล้วเราจะมีโลกที่ดีขึ้นในอีกด้านหนึ่ง” อาโมเดกล่าว “มีแมลงมากมายให้ค้นหา”

Dimon ยังกล่าวด้วยว่าในขณะที่ความกลัวทางไซเบอร์ได้รับการพิสูจน์แล้ว ความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่เกิดจาก AI นั้นเป็น “ช่วงชั่วคราว”

สำหรับคำถามด้านกฎระเบียบ Amodei กล่าวว่าการกำกับดูแล AI ควรคล้ายคลึงกับสิ่งที่ทำในอุตสาหกรรมยานยนต์ โดยสร้างสมดุลระหว่างความปลอดภัยของผู้บริโภคและการอนุญาตให้อุตสาหกรรมแข่งขันได้

“คุณไม่สามารถเริ่มต้นบริษัทรถยนต์โดยปราศจาก 'สิ่งนี้มีเบรกหรือเปล่า'” เขากล่าว “เราจำเป็นต้องควานหากระบวนการบางอย่างที่ช่วยให้อุตสาหกรรมดำเนินการได้อย่างรวดเร็ว ยุติธรรม แต่วางแนวป้องกันไว้กับสิ่งที่ร้ายแรงที่สุด”

งานของบริษัท และการจัดงานร่วมกับ Dimon โฆษกที่มีชื่อเสียงที่สุดของอุตสาหกรรมการเงิน ดูเหมือนจะแสดงให้เห็นถึงความเป็นผู้นำของ Anthropic เหนือ OpenAI ในตลาด AI ระดับองค์กร ในขณะที่ทั้งสองบริษัทมุ่งหน้าสู่การเสนอขายหุ้น IPO ที่มีศักยภาพ

Anthropic ประกาศเมื่อวันอังคารถึงการขยายแพลตฟอร์มบริการทางการเงิน ซึ่งรวมถึงตัวแทน AI ใหม่ 10 รายสำหรับงานวาณิชธนกิจและงาน back-office รวมถึงการบูรณาการในโปรแกรม Office ต่างๆ ของ Microsoft บริษัทยังกล่าวอีกว่าโมเดลล่าสุดที่มีจำหน่ายอย่างแพร่หลาย — Claude Opus 4.7 — เป็นผู้นำเกณฑ์มาตรฐานสำหรับงานวิเคราะห์ทางการเงิน