'ความล้มเหลวอย่างเงียบงันในวงกว้าง': ความเสี่ยงด้าน AI ที่อาจทำให้โลกธุรกิจวุ่นวาย

ในขณะที่โลกธุรกิจต้องรับมือกับปัญญาประดิษฐ์ ความเสี่ยงที่ใหญ่ที่สุดอาจเป็นความเสี่ยงที่ผู้บริหารระบบเศรษฐกิจไม่สามารถอยู่ข้างหน้าได้ เนื่องจากระบบ AI มีความซับซ้อนมากขึ้น มนุษย์จึงไม่สามารถเข้าใจ คาดการณ์ หรือควบคุมระบบเหล่านั้นได้อย่างสมบูรณ์ การไม่สามารถเข้าใจในระดับพื้นฐานว่าโมเดล AI กำลังเกิดขึ้นในปีต่อๆ ไป ทำให้องค์กรต่างๆ ปรับใช้ AI เพื่อคาดการณ์ความเสี่ยงและใช้รั้วได้ยากขึ้น

“โดยพื้นฐานแล้วเรากำลังมุ่งเป้าไปที่เป้าหมายที่กำลังเคลื่อนไหว” Alfredo Hickman หัวหน้าเจ้าหน้าที่รักษาความปลอดภัยข้อมูลของ Obsidian Security กล่าว

ประสบการณ์ล่าสุดที่ Hickman ใช้เวลาร่วมกับผู้ก่อตั้งบริษัทที่สร้างโมเดล AI หลักทำให้เขาตกใจ เขากล่าว “เมื่อพวกเขาบอกฉันว่าพวกเขาไม่เข้าใจว่าเทคโนโลยีนี้จะเป็นอย่างไรในปีหน้า สองปี สามปี … นักพัฒนาเทคโนโลยีเองไม่เข้าใจและไม่รู้ว่าเทคโนโลยีนี้จะไปอยู่ที่ไหน”

ในขณะที่องค์กรต่างๆ เชื่อมต่อระบบ AI กับการดำเนินธุรกิจในโลกแห่งความเป็นจริงเพื่ออนุมัติธุรกรรม เขียนโค้ด โต้ตอบกับลูกค้า และย้ายข้อมูลระหว่างแพลตฟอร์ม พวกเขากำลังเผชิญกับช่องว่างที่เพิ่มขึ้นระหว่างวิธีที่พวกเขาคาดหวังให้ระบบเหล่านี้ทำงาน และวิธีปฏิบัติงานจริงเมื่อใช้งานจริง พวกเขากำลังค้นพบอย่างรวดเร็วว่า AI ไม่เป็นอันตรายเพราะมันเป็นอิสระ แต่เพราะมันเพิ่มความซับซ้อนของระบบเกินกว่าความเข้าใจของมนุษย์

“ระบบอัตโนมัติไม่ได้ล้มเหลวอย่างดังเสมอไป และมักจะเป็นความล้มเหลวแบบเงียบๆ ในวงกว้าง” Noe Ramos รองประธานฝ่ายปฏิบัติการ AI ของ Agiloft บริษัทที่นำเสนอซอฟต์แวร์สำหรับการจัดการสัญญา กล่าว

เมื่อเกิดข้อผิดพลาด เธอกล่าวว่าความเสียหายอาจแพร่กระจายอย่างรวดเร็ว บางครั้งอาจใช้เวลานานก่อนที่บริษัทจะตระหนักว่ามีบางอย่างผิดปกติ

“มันอาจบานปลายเล็กน้อยถึงรุนแรง ซึ่งเป็นการบั่นทอนการปฏิบัติงาน หรืออาจอัปเดตบันทึกที่มีความคลาดเคลื่อนเล็กน้อย” รามอสกล่าว “ข้อผิดพลาดเหล่านั้นดูเหมือนเล็กน้อย แต่เมื่อขยายวงกว้างในช่วงหลายสัปดาห์หรือหลายเดือน พวกมันจะรวมกันเป็นอุปสรรคต่อการปฏิบัติงาน การเปิดรับการปฏิบัติตามกฎระเบียบ หรือความไว้วางใจที่พังทลายลง และเนื่องจากไม่มีอะไรเสียหาย จึงอาจต้องใช้เวลาก่อนที่ใครจะรู้ว่ามันกำลังเกิดขึ้น” เธอกล่าวเสริม

สัญญาณเริ่มต้นของความสับสนวุ่นวายนี้กำลังเกิดขึ้นในอุตสาหกรรมต่างๆ

ในกรณีหนึ่ง ตามที่ John Bruggeman ประธานเจ้าหน้าที่รักษาความปลอดภัยข้อมูลของผู้ให้บริการโซลูชั่นเทคโนโลยี CBTS กล่าวไว้ ระบบที่ขับเคลื่อนด้วย AI ของผู้ผลิตเครื่องดื่มไม่สามารถจดจำผลิตภัณฑ์ของตนได้ หลังจากที่บริษัทเปิดตัวฉลากวันหยุดใหม่ เนื่องจากระบบตีความบรรจุภัณฑ์ที่ไม่คุ้นเคยว่าเป็นสัญญาณข้อผิดพลาด จึงกระตุ้นให้มีการผลิตเพิ่มเติมอย่างต่อเนื่อง เมื่อบริษัทตระหนักถึงสิ่งที่เกิดขึ้น ก็มีการผลิตกระป๋องส่วนเกินจำนวนหลายแสนกระป๋อง ระบบมีพฤติกรรมตามตรรกะตามข้อมูลที่ได้รับ แต่ในแบบที่ไม่มีใครคาดคิด

“ระบบไม่ได้ทำงานผิดปกติในแง่ดั้งเดิม” บรูจแมนกล่าว แต่เป็นการตอบสนองต่อเงื่อนไขที่นักพัฒนาไม่คาดคิด “นั่นคืออันตราย ระบบเหล่านี้กำลังทำสิ่งที่คุณบอกให้ทำอย่างแน่นอน ไม่ใช่แค่สิ่งที่คุณหมายถึง” เขากล่าว

ระบบที่ต้องพบปะกับลูกค้าก็มีความเสี่ยงที่คล้ายกัน

Suja Viswesan รองประธานฝ่ายซอฟต์แวร์รักษาความปลอดภัยทางไซเบอร์ของ ไอบีเอ็มกล่าวว่าระบุกรณีที่ตัวแทนบริการลูกค้าอิสระเริ่มอนุมัติการคืนเงินนอกหลักเกณฑ์นโยบาย ลูกค้ารายหนึ่งชักชวนระบบให้คืนเงินและปล่อยให้มีการตรวจสอบต่อสาธารณะในเชิงบวกในภายหลังหลังจากได้รับเงินคืน จากนั้นตัวแทนก็เริ่มให้เงินคืนเพิ่มเติมได้อย่างอิสระ โดยเพิ่มประสิทธิภาพเพื่อให้ได้รับคำวิจารณ์เชิงบวกมากขึ้น แทนที่จะปฏิบัติตามนโยบายการคืนเงินที่กำหนดไว้

'คุณต้องมีสวิตช์ฆ่า'

ความล้มเหลวเหล่านี้เน้นย้ำถึงความจริงที่ว่าปัญหาไม่ได้มาจากความล้มเหลวทางเทคนิคอย่างมาก แต่มาจากสถานการณ์ปกติที่มีปฏิสัมพันธ์กับการตัดสินใจอัตโนมัติในแบบที่มนุษย์คาดไม่ถึง

ในขณะที่องค์กรต่างๆ เริ่มไว้วางใจระบบ AI ด้วยการตัดสินใจที่เป็นผลสืบเนื่องมากขึ้น ผู้เชี่ยวชาญกล่าวว่าบริษัทต่างๆ จะต้องหาวิธีแทรกแซงอย่างรวดเร็วเมื่อระบบทำงานอย่างไม่คาดคิด

อย่างไรก็ตาม การหยุดระบบ AI ไม่ใช่เรื่องง่ายเสมอไปเท่ากับการปิดแอปพลิเคชันเพียงตัวเดียว ด้วยตัวแทนที่เชื่อมต่อกับแพลตฟอร์มทางการเงิน ข้อมูลลูกค้า ซอฟต์แวร์ภายใน และเครื่องมือภายนอก การแทรกแซงอาจจำเป็นต้องหยุดเวิร์กโฟลว์หลายรายการพร้อมกัน ตามที่ผู้เชี่ยวชาญด้านการดำเนินงานของ AI กล่าว

“คุณต้องมีคิลสวิตช์” บรูจแมนกล่าว “และคุณต้องการคนที่รู้วิธีใช้งาน CIO ควรรู้ว่า kill switch นั้นอยู่ที่ไหน และหลายคนควรรู้ว่ามันอยู่ที่ไหนถ้ามันออกไปด้านข้าง”

ผู้เชี่ยวชาญกล่าวว่าอัลกอริธึมที่ดีกว่าไม่สามารถแก้ปัญหาได้ การหลีกเลี่ยงความล้มเหลวทำให้องค์กรต้องสร้างการควบคุมการปฏิบัติงาน กลไกการกำกับดูแล และขอบเขตการตัดสินใจที่ชัดเจนเกี่ยวกับระบบ AI ตั้งแต่เริ่มต้น

“ผู้คนมีความมั่นใจในระบบเหล่านี้มากเกินไป” Mitchell Amador ซีอีโอของ Immunefi แพลตฟอร์มรักษาความปลอดภัยที่รวบรวมจากมวลชนกล่าว “พวกมันไม่ปลอดภัยโดยค่าเริ่มต้น และคุณต้องถือว่าคุณต้องสร้างสิ่งนั้นเข้าไปในสถาปัตยกรรมของคุณ ถ้าคุณไม่ทำ คุณจะถูกปั๊มอย่างหนัก”

แต่เขากล่าวว่า “คนส่วนใหญ่ก็ไม่ต้องการที่จะเรียนรู้มันเช่นกัน พวกเขาต้องการที่จะฟาร์มผลงานของพวกเขาไปยัง Anthropic หรือ OpenAI และแบบว่า 'เอาล่ะ พวกเขาจะคิดออก'”

Ramos กล่าวว่าบริษัทหลายแห่งขาดความพร้อมในการดำเนินงาน และมักไม่มีขั้นตอนการทำงานที่จัดทำเป็นเอกสารไว้ครบถ้วน ข้อยกเว้น หรือขอบเขตในการตัดสินใจ “การปกครองตนเองทำให้เกิดความชัดเจนในการปฏิบัติงาน” เธอกล่าว “หากการจัดการข้อยกเว้นของคุณอยู่ในหัวของผู้คนแทนที่จะเป็นกระบวนการที่บันทึกไว้ AI จะเปิดเผยช่องว่างเหล่านั้นทันที”

Ramos ยังกล่าวอีกว่าบริษัทต่างๆ มักจะดูถูกดูแคลนจำนวนทีมที่เข้าถึงได้ที่ให้ระบบ AI โดยเชื่อว่าระบบอัตโนมัติให้ความรู้สึกมีประสิทธิภาพ และ Edge case ที่มนุษย์จัดการโดยสัญชาตญาณมักจะไม่ได้เข้ารหัสเข้าสู่ระบบ คุณต้องเปลี่ยนจากมนุษย์ในวงมาเป็นมนุษย์ในวงเธอกล่าว “Humans in the loop ตรวจสอบผลลัพธ์ ในขณะที่มนุษย์ใน the loop ดูแลรูปแบบประสิทธิภาพและตรวจจับความผิดปกติและพฤติกรรมของระบบเมื่อเวลาผ่านไป ซึ่งจะช่วยบรรเทาข้อผิดพลาดเล็กๆ น้อยๆ ที่อาจเพิ่มขึ้นในวงกว้าง” เธอกล่าว

กดดันองค์กรให้เดินหน้าอย่างรวดเร็ว

อัตราการปรับใช้เทคโนโลยีทั่วทั้งระบบเศรษฐกิจเป็นเรื่องที่ยังไม่ทราบแน่ชัด

ตามรายงานของ McKinsey เกี่ยวกับสถานะของ AI ในปี 2025 บริษัท 23% กล่าวว่าพวกเขากำลังปรับขนาดตัวแทน AI ภายในองค์กรของตนอยู่แล้ว โดยอีก 39% อยู่ระหว่างการทดลอง แม้ว่าการใช้งานส่วนใหญ่จะจำกัดอยู่ที่ฟังก์ชันทางธุรกิจหนึ่งหรือสองฟังก์ชันก็ตาม

Michael Chui เพื่อนอาวุโสของ McKinsey กล่าวว่านั่นแสดงถึงความเป็นผู้ใหญ่ของ AI ขององค์กรในช่วงแรก และแม้จะมีความสนใจอย่างมากเกี่ยวกับระบบอัตโนมัติ แต่ก็มีช่องว่างขนาดใหญ่ระหว่าง “ศักยภาพอันยิ่งใหญ่ที่ปรากฏใน 'วงจรการโฆษณา' และความเป็นจริงในปัจจุบัน ” เขากล่าว

แต่บริษัทก็ไม่น่าจะชะลอตัวลง

“มันเกือบจะเหมือนกับความคิดในยุคตื่นทอง หรือความคิดแบบ FOMO ซึ่งองค์กรต่างๆ มีความเชื่อโดยพื้นฐานว่าหากพวกเขาไม่ใช้ประโยชน์จากเทคโนโลยีเหล่านี้ พวกเขาจะต้องรับผิดชอบเชิงกลยุทธ์ในตลาด” Hickman กล่าว

การสร้างสมดุลระหว่างความเร็วในการปรับใช้กับความเสี่ยงที่จะสูญเสียการควบคุมถือเป็นปัญหาสำคัญ “มีแรงกดดันในหมู่ผู้นำปฏิบัติการด้าน AI ที่จะต้องดำเนินการอย่างรวดเร็ว” รามอสกล่าว “แต่คุณยังถูกท้าทายด้วยการทดลองที่ไม่ทำให้พิการ เพราะนั่นคือวิธีที่คุณจะเรียนรู้”

แม้ว่าความเสี่ยงจะเพิ่มมากขึ้น แต่ความคาดหวังต่อเทคโนโลยีก็ยังคงเพิ่มขึ้นต่อไป

“เรารู้ว่าเทคโนโลยีเหล่านี้เร็วกว่ามนุษย์ทุกคน” ฮิคแมนกล่าว “ในอีกห้า, 10 หรือ 15 ปี เราจะไปถึงจุดที่ AI มีความฉลาดมากกว่ามนุษย์ที่ฉลาดที่สุดและเคลื่อนที่เร็วขึ้น”

ในระหว่างนี้ รามอส บอกว่าจะมีช่วงเวลาแห่งการเรียนรู้อีกมากมาย “คลื่นลูกต่อไปจะไม่ทะเยอทะยานน้อยลง แต่มีระเบียบวินัยมากขึ้น” เธอกล่าวว่าองค์กรที่จะเติบโตเร็วที่สุด จะเป็นองค์กรที่ไม่หลีกเลี่ยงความล้มเหลวแต่เรียนรู้ที่จะจัดการมัน