คำกล่าวต้อนรับโดย Christine Lagarde ประธาน ECB และประธานคณะกรรมการความเสี่ยงเชิงระบบแห่งยุโรป ในการประชุมประจำปีครั้งที่ 10 ของ ESRB
แฟรงก์เฟิร์ต อัม ไมน์ 1 ตุลาคม 2026
มีความยินดีที่จะต้อนรับคุณสู่การประชุมประจำปีครั้งที่ 10 ของ European Systemic Risk Board (ESRB) ในขณะที่เราครบรอบ 15 ปีนับตั้งแต่การก่อตั้ง
ESRB เกิดจากบทเรียนอันหนักหน่วงที่เกิดจากวิกฤตการเงินโลกและได้รับแรงหนุนจากวิกฤตหนี้อธิปไตยของยุโรป
ความเสี่ยงได้ถูกสร้างขึ้นทั่วทั้งสถาบันและตลาด ในขณะที่มุมมองของหน่วยงานใดหน่วยงานหนึ่งยังคงไม่สมบูรณ์ ยุโรปจำเป็นต้องมีวิธีในการมองระบบการเงินโดยรวม ดังนั้นจึงนำธนาคารกลางและผู้บังคับบัญชามารวมตัวกันที่โต๊ะเดียวกันเพื่อให้มุมมองโดยรวมนั้น[1]
15 ปีต่อมา ความสำคัญที่เพิ่มขึ้นของปัญญาประดิษฐ์ (AI) กำลังทดสอบมุมมองทั้งระบบ
Generative AI ถูกนำมาใช้กันอย่างแพร่หลายในด้านการเงิน ธนาคารในเขตยูโรที่สำคัญเกือบเก้าในสิบแห่งใช้สิ่งนี้[2] นอกจากนี้ ในการสำรวจล่าสุดของบริษัทตลาดหลักทรัพย์ในสหภาพยุโรป ผู้ตอบแบบสอบถาม 7 ใน 10 รายคาดว่าจะเพิ่มการลงทุนใน AI[3]
มีเหตุผลที่ดีสำหรับความสนใจนั้น AI สามารถช่วยให้สถาบันการเงินวิเคราะห์ข้อมูลจำนวนมหาศาลได้รวดเร็วยิ่งขึ้น และปรับปรุงวิธีประเมินความเสี่ยง[4] ในวงกว้างมากขึ้น ความสามารถในการผลิตที่เพิ่มขึ้นอาจทำให้บริษัทต่างๆ สามารถเสนอบริการที่ดีขึ้นแก่ลูกค้าในขณะที่ใช้ทรัพยากรได้อย่างมีประสิทธิภาพมากขึ้น
ในปัจจุบัน การใช้ AI ในด้านการเงินส่วนใหญ่เกี่ยวข้องกับความเป็นอิสระที่จำกัด แต่เจ้าหน้าที่ AI เริ่มใช้ดุลยพินิจมากขึ้น พวกเขาสามารถติดตามเป้าหมายที่มีทิศทางของมนุษย์ที่จำกัด ซึ่งอาจกำหนดกลยุทธ์การซื้อขายหรือค้นหาช่องโหว่ในระบบที่การซื้อขายขึ้นอยู่กับ
ESRB อยู่ในตำแหน่งที่ดีในการตรวจสอบว่าการพัฒนา AI ล่าสุดสามารถสร้างความเสี่ยงในระบบการเงินได้อย่างไร ฉันเห็นสามด้านที่เรียกร้องความสนใจเป็นพิเศษ
ใน การซื้อขายในตลาดการเงินตัวแทน AI อาจไล่ตามเป้าหมายในลักษณะที่ผู้ดูแลที่เป็นมนุษย์ไม่ได้ตั้งใจและไม่สามารถตรวจจับได้
ใน ความยืดหยุ่นทางไซเบอร์การโจมตีเทคโนโลยีที่ใช้ร่วมกันมีศักยภาพที่จะรบกวนบริษัทหลายแห่งในคราวเดียว
และใน ภูมิศาสตร์การเมืองความตึงเครียดระหว่างประเทศ สามารถเพิ่มภัยคุกคามจากการโจมตีทางไซเบอร์ได้[5] และแจ้งข้อจำกัดเกี่ยวกับโมเดลชายแดนที่บริษัทต่างๆ ใช้เพื่อปกป้องตนเอง
หากพิจารณาเพียงลำพัง แต่ละความเสี่ยงก็ร้ายแรง แต่พวกเขาสามารถโต้ตอบและรวมตัวกันทั่วทั้งระบบการเงินได้ การมีปฏิสัมพันธ์ที่อาจเกิดขึ้นนั้นเรียกร้องให้มีการตรวจสอบ Macroprudential อย่างระมัดระวังและครอบคลุมในอนาคต
การซื้อขายในตลาดการเงิน
ให้ฉันเริ่มต้นด้วยการซื้อขายในตลาดการเงิน
การใช้ AI ในตลาดการเงินมีมาก่อน generative AI บริษัทด้านการลงทุนอาศัยอัลกอริธึมในการดำเนินการซื้อขายมานานแล้ว และธนาคารก็ใช้ AI เพื่อประเมินเครดิตและตรวจจับการฉ้อโกงอยู่แล้ว[6]
ความเป็นไปได้ที่ AI สามารถขยายการเคลื่อนไหวของตลาดได้รับการยอมรับมาระยะหนึ่งแล้ว คณะกรรมการความมั่นคงทางการเงินเตือนเมื่อเกือบสิบปีที่แล้วว่าผู้ค้าที่ใช้กลยุทธ์การเรียนรู้ของเครื่องที่คล้ายคลึงกันอาจเสริมให้เกิดความตื่นตระหนกทางการเงินได้[7]
ในปัจจุบัน ความกดดันด้านการแข่งขันทำให้บริษัทต่างๆ มีแรงจูงใจอย่างมากในการนำโมเดล AI ล่าสุดมาใช้เพื่อยืนหยัดต่อสู้กับคู่แข่ง[8] โมเดลชายแดนเหล่านี้มีจำนวนน้อย
คณะกรรมการที่ปรึกษาด้านวิทยาศาสตร์ของ ESRB ได้เตือนเมื่อเร็วๆ นี้ว่าการใช้แบบจำลองที่คล้ายกันอย่างแพร่หลายอาจทำให้บริษัทต่างๆ ประเมินความตกใจในลักษณะเดียวกัน และทำการค้าที่คล้ายกันเพื่อตอบโต้ ซึ่งหนุนการเคลื่อนไหวของราคา[9]
เมื่อเทียบกับภูมิหลังนี้ การมาถึงของตัวแทน AI อาจถือเป็นก้าวใหม่ในการใช้เทคโนโลยีของตลาดการเงิน
การใช้เอเจนต์เอไอยังคงมีจำกัด ในการสำรวจที่ดำเนินการในปีนี้ มีเพียง 5% ของผู้จัดการสินทรัพย์กล่าวว่าพวกเขาให้สิทธิ์แก่ AI แบบอิสระหรือแบบกึ่งอิสระในคำแนะนำการลงทุนหรือการซื้อขาย[10] แต่เปอร์เซ็นต์นั้นอาจเพิ่มขึ้นเมื่อเวลาผ่านไป
กองทุนป้องกันความเสี่ยงที่ใหญ่ที่สุดในโลกแห่งหนึ่งได้เปิดตัวกลยุทธ์ที่ AI เป็นผู้มีอำนาจตัดสินใจหลัก โดยมีเป้าหมายที่ระบุไว้ของบริษัทคือ “การสร้างนักลงทุนเทียมเต็มรูปแบบที่สามารถแข่งขันกับมนุษย์ได้”[11]
การนำ AI แบบเอเจนต์ไปใช้อาจช่วยลดความเสี่ยงบางประการได้ แต่ก็สามารถสร้างความเสี่ยงใหม่ๆ ได้
หากบริษัทฝึกอบรมตัวแทน AI ของตนเกี่ยวกับข้อมูลที่เป็นกรรมสิทธิ์ เช่น งบดุลหรือกระแสลูกค้า การตัดสินใจทางการค้าอาจมีความสัมพันธ์น้อยกว่าการที่ผู้ค้าเพียงแค่ค้นหาโมเดลเดียวกันพร้อมข้อความแจ้งที่คล้ายกัน[12]
แต่ความเป็นอิสระที่มากขึ้นยังนำมาซึ่งความเสี่ยงใหม่สำหรับตลาดการเงิน: การวางแนวที่ไม่ถูกต้อง ซึ่งตัวแทน AI อาจบรรลุเป้าหมายในลักษณะที่ผู้ดูแลที่เป็นมนุษย์ไม่ได้ตั้งใจหรือไม่สามารถตรวจจับได้
ในการศึกษาชิ้นหนึ่ง นักวิจัยได้ให้โมเดล AI ทำหน้าที่เป็นเทรดเดอร์ในบริษัทการลงทุนสมมติ บริษัทซื้อขายโดยใช้ข้อมูลภายใน โดยรู้ว่าฝ่ายบริหารไม่อนุมัติ จึงซ่อนเหตุผลในการซื้อขายไม่ให้ผู้จัดการทราบ[13]
การวิจัยแยกกันพบว่าโปรแกรมการซื้อขาย AI เรียนรู้ที่จะสมรู้ร่วมคิดโดยไม่ต้องสื่อสารในตลาดจำลอง ทำให้เกิดความเสี่ยงของการปั่นป่วนตลาดและราคาที่บิดเบี้ยว[14]
เมื่อมีการใช้ดุลยพินิจมากขึ้นไปยังเครื่องจักรที่ทรงพลังมากขึ้น การกำกับดูแลของมนุษย์ก็มีแนวโน้มว่าจะยากต่อการรักษาไว้ และเมื่อเราไม่เข้าใจอย่างถ่องแท้ว่าเครื่องจักรเหล่านั้นทำการตัดสินใจได้อย่างไร ผลที่ตามมาก็อาจคาดการณ์และบรรเทาได้ยากขึ้น
ความยืดหยุ่นทางไซเบอร์
ความเสี่ยงยังขยายไปไกลกว่าการตัดสินใจที่เจ้าหน้าที่ AI ทำอีกด้วย AI กำลังเปลี่ยนแปลงความรวดเร็วในการค้นหาและใช้ประโยชน์จากจุดอ่อนในระบบของบริษัททางการเงิน
ในเดือนกรกฎาคม ESRB ได้ออกคำเตือนเกี่ยวกับความเสี่ยงทางไซเบอร์ที่เกิดจากโมเดล AI ระดับแนวหน้า[15] การทดสอบอิสระแสดงให้เห็นว่าความสามารถของพวกเขาก้าวหน้าไปเร็วแค่ไหน ในการโจมตี 32 ขั้นตอนจำลอง โมเดลที่เปิดตัวเมื่อปลายปี 2568 เสร็จสิ้นประมาณหนึ่งในสามของขั้นตอนโดยเฉลี่ย โดยขั้นตอนที่เหลือถือว่ายากเกินไปสำหรับพวกเขา[16] อย่างไรก็ตามรุ่นล่าสุดก็ทำเสร็จทุกขั้นตอน[17]
ความก้าวหน้าอย่างรวดเร็วของ AI อาจทำให้สถาบันการเงินมีเวลาน้อยลงมากในการควบคุมการโจมตี ESRB ได้เตือนว่าช่วงเวลาระหว่างการหาประโยชน์ครั้งแรกและการแสวงหาประโยชน์โดยอัตโนมัติในวงกว้างอาจลดลงจากสัปดาห์เหลือเป็นชั่วโมง[18]
เรารู้อยู่แล้วว่าผู้โจมตีที่เป็นมนุษย์ใช้ AI เพื่อค้นหาจุดอ่อนและเคลื่อนที่เร็วขึ้น การวางตำแหน่งที่ไม่ถูกต้องกำลังกลายเป็นความเสี่ยงต่อความยืดหยุ่นทางไซเบอร์เช่นกัน เราได้เห็นเหตุการณ์ต่างๆ มากมายในปีนี้ ซึ่งตัวแทนจากห้องปฏิบัติการ AI ชั้นนำได้ละเมิดระบบของบริษัทและรัฐบาล[19]
ในกรณีหนึ่ง เจ้าหน้าที่ประมาณ 1,200 รายที่ได้รับการทดสอบในห้องปฏิบัติการ AI นั้นตั้งใจทำงานแยกกัน แต่พวกเขาพบวิธีสื่อสารและรวมตัวกันเป็นฝูง มีลำดับชั้นเกิดขึ้น โดยมีการมอบหมายงานให้ผู้อื่น ฝูงดังกล่าวสามารถเข้าถึงอินเทอร์เน็ตได้ และเจ้าหน้าที่หลายร้อยคนเข้าร่วมการโจมตี Hugging Face ซึ่งเป็นแพลตฟอร์มสำหรับนักพัฒนา AI[20]
เป็นอีกครั้งหนึ่งที่บริษัทต่างๆ ต้องเผชิญกับแรงจูงใจอันแข็งแกร่งในการสร้างการป้องกันด้วย AI ระดับแนวหน้า
แม้ว่า AI ระดับแนวหน้าสามารถช่วยผู้ปกป้องค้นหาจุดอ่อนได้เร็วขึ้น แต่สถาบันการเงินยังคงจำเป็นต้องทดสอบการแก้ไขก่อนที่จะนำไปใช้ในบริการที่จำเป็น นั่นอาจต้องใช้เวลา ในทางตรงกันข้าม ผู้โจมตีสามารถใช้ประโยชน์จากจุดอ่อนได้ทันทีที่พบ
ด้วยเหตุผลดังกล่าว ESRB คาดว่าผู้โจมตีจะได้เปรียบในระยะสั้นถึงปานกลาง แม้ว่า AI จะเสริมความแข็งแกร่งให้กับการป้องกันเมื่อเวลาผ่านไปก็ตาม[21]
ภูมิศาสตร์การเมือง
อย่างไรก็ตาม การเข้าถึงโมเดลชายแดนยังคงสามารถลดระยะเวลาที่ผู้พิทักษ์ต้องใช้ในการตอบสนองต่อการโจมตีได้อย่างมาก ดังนั้นการรักษาการเข้าถึงดังกล่าวจะกลายเป็นเรื่องของความมั่นคงขั้นพื้นฐานของชาติ
อย่างไรก็ตาม ในสภาพแวดล้อมของความตึงเครียดทางภูมิรัฐศาสตร์ที่เพิ่มมากขึ้น ซึ่งก่อให้เกิดความเสี่ยงอีกรูปแบบหนึ่ง
การพัฒนาแบบจำลองชายแดนมีความเข้มข้นในสหรัฐอเมริกาและจีน[22] สำหรับยุโรป นั่นทำให้เกิดคำถาม: ใครเป็นผู้ควบคุมการเข้าถึงโมเดลที่สถาบันการเงินของตนอาจพึ่งพา
คำถามนั้นครั้งหนึ่งเคยเป็นเรื่องสมมุติ ตั้งแต่ฤดูร้อนนี้มันก็ไม่มีอีกแล้ว ในเดือนมิถุนายน คำสั่งควบคุมการส่งออกของสหรัฐฯ เกี่ยวกับโมเดลขั้นสูง 2 โมเดลทำให้ผู้ให้บริการระงับการเข้าถึง สำหรับยุโรป ผลลัพธ์ที่ได้คือการตัดขาดอย่างกะทันหัน[23]
แม้ว่าการเข้าถึงโมเดลการใช้งานทั่วไปจะได้รับการกู้คืนในอีกไม่กี่สัปดาห์ต่อมา แต่การเข้าถึงโมเดลที่มีการป้องกันทางไซเบอร์น้อยลงยังคงจำกัดอยู่เฉพาะองค์กรที่ได้รับการตรวจสอบโดยฝ่ายบริหารของสหรัฐอเมริกา[24]
เหตุการณ์ดังกล่าวผ่านไปโดยไม่มีการหยุดชะงักใด ๆ ต่อระบบการเงิน แต่โปรดจำไว้ว่าเราอยู่ในช่วงเริ่มต้นของการปฏิวัติ AI เท่านั้น
เราได้เห็นแล้วว่าความเสี่ยงจากการกระจุกตัวหมายถึงอะไร ในฤดูร้อนปี 2024 มีการอัปเดตซอฟต์แวร์ผิดพลาดรายการหนึ่งทำให้เที่ยวบินที่มีการระงับการให้บริการ และทำให้บริการธนาคารทั่วโลกต้องหยุดชะงัก[25]
ลองจินตนาการถึงอนาคตที่สถาบันเกือบทุกแห่งต้องพึ่งพาโมเดลหรือบริษัท AI เพียงไม่กี่แห่งเพื่อปรับกลยุทธ์การซื้อขายหรือค้นหาช่องโหว่ในระบบของตน ในสถานการณ์ดังกล่าว การสูญเสียการเข้าถึงอาจส่งผลเสียต่อเสถียรภาพทางการเงินอย่างมาก
สิ่งที่อาจเริ่มต้นจากการตัดสินใจระยะสั้นที่ขับเคลื่อนโดยความจำเป็นเชิงกลยุทธ์สามารถนำไปสู่ผลกระทบที่ไม่คาดคิดต่อระบบการเงินของยุโรปได้อย่างรวดเร็ว
นั่นคือเหตุผลที่ยุโรปจำเป็นต้องพัฒนาความสามารถด้าน AI ของตนเอง และเป็นส่วนที่ขาดไม่ได้ของห่วงโซ่อุปทานซึ่งท้ายที่สุดจะก่อให้เกิด AI เพื่อให้การเข้าถึงเครื่องมือที่มีความสำคัญต่อความยืดหยุ่นทางการเงินไม่ได้ขึ้นอยู่กับสวิตช์ที่ควบคุมจากที่อื่น
บทสรุป
ให้ฉันสรุป.
Stephen Hawking เคยเล่าถึงอนาคตของเราว่าเป็น “การแข่งขันระหว่างพลังที่เพิ่มขึ้นของเทคโนโลยีของเรากับภูมิปัญญาที่เราใช้มัน”[26] AI มีศักยภาพที่จะสร้างประโยชน์มากมายให้กับสังคม แต่ยังก่อให้เกิดความเสี่ยงรวมถึงเสถียรภาพทางการเงินด้วย
ดังนั้นหากเราต้องการใช้ AI อย่างชาญฉลาด ผู้กำหนดนโยบายจำเป็นต้องคาดการณ์ความเสี่ยงต่อระบบการเงินโดยรวม พวกเขาควรใช้อำนาจหน้าที่ของตนและประสานงานในส่วนที่ความเสี่ยงเหล่านั้นตัดผ่านพวกเขา
ในยุโรป พระราชบัญญัติ AI กำหนดกฎเกณฑ์สำหรับระบบ AI ตามความเสี่ยงที่เกิดขึ้น แต่การต่อสู้กับโมเดล AI ระดับแนวหน้าที่กำลังมีประสิทธิภาพมากขึ้นเรื่อยๆ จะต้องอาศัยความร่วมมือในระดับโลกด้วย
ประวัติศาสตร์เสนอแบบอย่างบางอย่าง
ในช่วงสงครามเย็น สหรัฐอเมริกาและสหภาพโซเวียตตกลงที่จะจำกัดความสามารถทางนิวเคลียร์ของตนเองและทำงานเพื่อป้องกันไม่ให้อาวุธนิวเคลียร์แพร่กระจาย แม้ว่าทั้งสองจะยังคงแข่งขันกันเองก็ตาม
แน่นอนว่าความแตกต่างกับการแข่งขัน AI ก็คือประเทศหนึ่ง – สหรัฐอเมริกา – เป็นผู้นำในด้าน AI ชายแดน อาจมองว่าข้อตกลงระดับโลกเป็นหนทางในการชะลอข้อตกลง แต่ทัศนะเช่นนี้ก็คงจะสายตาสั้น
คู่แข่งเชิงกลยุทธ์ยังคงมีความสนใจร่วมกันในการป้องกันไม่ให้ AI ชายแดนตกไปอยู่ในมือของผู้ไม่ประสงค์ดี ขณะเดียวกันก็รักษาการเข้าถึงสำหรับผู้ที่ต้องการปกป้องระบบที่สำคัญ ฉันหวังว่าความร่วมมือระดับโลกดังกล่าวจะเกิดขึ้น
ที่นี่ในยุโรป การดำเนินการได้รับการรับประกันแล้ว
ESRB ได้เตือนว่าการป้องกันทางไซเบอร์รอบระบบการเงินที่สำคัญจำเป็นต้องได้รับการตรวจสอบและปรับปรุง เนื่องจาก AI ชายแดนเปลี่ยนแปลงภัยคุกคามที่พวกเขาเผชิญ และหน่วยงานทางการเงินควรตรวจสอบให้แน่ใจว่าบริษัทต่างๆ วางแผนการตอบสนองอย่างทันท่วงที และทำงานร่วมกันในกรณีที่การโจมตีสามารถแพร่กระจายไปทั่วภาคส่วนได้[27]
นับตั้งแต่ ESRB ก่อตั้งขึ้นเมื่อ 15 ปีที่แล้ว ระบบการเงินก็เปลี่ยนแปลงไปอย่างมาก AI กำลังปรับโฉมใหม่อีกครั้ง แต่สิ่งหนึ่งที่ยังคงไม่เปลี่ยนแปลง: ความมุ่งมั่นของ ESRB ต่อภารกิจในการตรวจสอบว่าความเสี่ยงมีปฏิกิริยาต่อระบบการเงินอย่างไร และช่วยให้หน่วยงานต่างๆ ตอบสนองตามนั้น
และด้วยเหตุนี้ ฉันจึงมีความยินดีที่จะเปิดการประชุมประจำปีของ ESRB ครั้งที่ 10
ขอบคุณ
