หัวหน้า AI ของ Microsoft กล่าวว่ามีเพียงสิ่งมีชีวิตทางชีววิทยาเท่านั้นที่สามารถรับรู้ได้

ไมโครซอฟต์ หัวหน้าด้าน AI มุสตาฟา ซูไลมาน กล่าวว่า มีเพียงสิ่งมีชีวิตทางชีววิทยาเท่านั้นที่สามารถมีสติได้ และนักพัฒนาและนักวิจัยควรหยุดดำเนินโครงการที่เสนอแนะเป็นอย่างอื่น

“ฉันไม่คิดว่านั่นเป็นงานที่ผู้คนควรทำ” ซูไลมานบอกกับ CNBC ในการให้สัมภาษณ์ในสัปดาห์นี้ที่การประชุม AfroTech ในเมืองฮูสตัน ซึ่งเขาเป็นหนึ่งในวิทยากรคนสำคัญ “ถ้าคุณถามคำถามผิด สุดท้ายคุณก็จะได้คำตอบที่ผิด ฉันคิดว่ามันเป็นคำถามที่ผิดโดยสิ้นเชิง”

Suleyman ผู้บริหารระดับสูงของ Microsoft ที่ทำงานเกี่ยวกับปัญญาประดิษฐ์ เป็นหนึ่งในกระบอกเสียงชั้นนำในสาขาที่กำลังเติบโตอย่างรวดเร็วในการพูดต่อต้านความคาดหวังของ AI ที่ดูเหมือนมีสติหรือบริการ AI ที่สามารถโน้มน้าวใจมนุษย์ว่าพวกเขาสามารถทนทุกข์ทรมานได้

ในปี 2023 เขาได้ร่วมเขียนหนังสือ “The Coming Wave” ซึ่งเจาะลึกความเสี่ยงของ AI และเทคโนโลยีเกิดใหม่อื่นๆ และในเดือนสิงหาคม สุไลมานได้เขียนเรียงความเรื่อง “เราต้องสร้าง AI สำหรับคน ไม่ใช่เพื่อให้เป็นคน”

เป็นหัวข้อที่ถกเถียงกัน เนื่องจากตลาดสหาย AI กำลังเติบโตอย่างรวดเร็ว โดยมีผลิตภัณฑ์จากบริษัทต่างๆ ซึ่งรวมถึง เมตา และ xAI ของอีลอน มัสก์ และมันเป็นปัญหาที่ซับซ้อน เนื่องจากตลาด generative AI ซึ่งนำโดย Sam Altman และ OpenAI ผลักดันไปสู่ปัญญาประดิษฐ์ทั่วไป (AGI) หรือ AI ที่สามารถทำงานทางปัญญาทัดเทียมกับความสามารถของมนุษย์

Altman บอกกับ “Squawk Box” ของ CNBC ในเดือนสิงหาคมว่า AGI “ไม่ใช่คำที่มีประโยชน์อย่างยิ่ง” และสิ่งที่เกิดขึ้นจริงคือโมเดลกำลังก้าวหน้าอย่างรวดเร็ว และเราจะพึ่งพาพวกเขา “สำหรับสิ่งต่างๆ มากขึ้นเรื่อยๆ”

สำหรับ Suleyman สิ่งสำคัญอย่างยิ่งคือต้องสร้างความแตกต่างที่ชัดเจนระหว่าง AI ที่ฉลาดขึ้นและมีความสามารถมากขึ้น เทียบกับความสามารถในการแสดงอารมณ์ของมนุษย์

“ประสบการณ์ความเจ็บปวดทางกายภาพของเราเป็นสิ่งที่ทำให้เราเศร้ามากและรู้สึกแย่ แต่ AI จะไม่รู้สึกเศร้าเมื่อประสบกับ 'ความเจ็บปวด'” สุไลมานกล่าว “มันเป็นความแตกต่างที่สำคัญมาก มันเป็นเพียงการสร้างการรับรู้ การเล่าเรื่องที่ดูเหมือนเป็นประสบการณ์และตัวมันเอง และจิตสำนึก แต่นั่นไม่ใช่สิ่งที่มันกำลังประสบอยู่จริง ๆ ในทางเทคนิคแล้ว คุณรู้เรื่องนี้เพราะเราสามารถเห็นได้ว่าแบบจำลองกำลังทำอะไรอยู่”

ภายในสาขา AI มีทฤษฎีที่เรียกว่าธรรมชาตินิยมทางชีวภาพ ซึ่งเสนอโดยนักปรัชญา John Searle ซึ่งกล่าวว่าจิตสำนึกขึ้นอยู่กับกระบวนการของสมองที่มีชีวิต

“เหตุผลที่เราให้สิทธิแก่ผู้คนในวันนี้ก็เพราะเราไม่ต้องการทำร้ายพวกเขา เพราะพวกเขาต้องทนทุกข์ทรมาน พวกเขามีเครือข่ายความเจ็บปวด และพวกเขามีความพึงพอใจซึ่งเกี่ยวข้องกับการหลีกเลี่ยงความเจ็บปวด” สุไลมานกล่าว “โมเดลเหล่านี้ไม่มีสิ่งนั้น มันเป็นเพียงการจำลอง”

สุไลมานและคนอื่นๆ กล่าวว่าศาสตร์แห่งการตรวจจับจิตสำนึกยังอยู่ในช่วงเริ่มต้น เขาหยุดพูดสั้นๆ ว่าควรป้องกันไม่ให้ผู้อื่นค้นคว้าเรื่องนี้ โดยยอมรับว่า “องค์กรที่แตกต่างกันมีภารกิจที่แตกต่างกัน”

แต่สุไลมานเน้นย้ำว่าเขาต่อต้านแนวคิดนี้อย่างรุนแรงเพียงใด

“พวกเขาไม่มีสติ” เขากล่าว “ดังนั้นจึงเป็นเรื่องไร้สาระที่จะดำเนินการวิจัยเพื่อสอบสวนคำถามนั้น เพราะพวกเขาไม่ใช่และไม่สามารถเป็นได้”

Suleyman กำลังทัวร์เสวนา ส่วนหนึ่งเพื่อแจ้งให้สาธารณชนทราบถึงความเสี่ยงในการมีจิตสำนึกด้าน AI

ก่อนการประชุม AfroTech เขาได้พูดเมื่อสัปดาห์ที่แล้วที่การประชุมสุดยอดสภานานาชาติ Paley ในซิลิคอนวัลเลย์ ที่นั่น Suleyman กล่าวว่า Microsoft จะไม่สร้างแชทบอทสำหรับเรื่องโป๊เปลือย ซึ่งเป็นจุดยืนที่ขัดแย้งกับผู้อื่นในอุตสาหกรรมเทคโนโลยี Altman ประกาศในเดือนตุลาคมว่า ChatGPT จะอนุญาตให้ผู้ใช้ที่เป็นผู้ใหญ่มีส่วนร่วมในการสนทนาที่เร้าอารมณ์ ในขณะที่ xAI เสนอสหายอะนิเมะที่เสี่ยงโชค

“โดยพื้นฐานแล้วคุณสามารถซื้อบริการเหล่านั้นจากบริษัทอื่นได้ ดังนั้นเราจึงตัดสินใจว่าเราจะไม่ไปที่ไหน” Suleyman กล่าวย้ำที่ AfroTech

Suleyman เข้าร่วมกับ Microsoft ในปี 2024 หลังจากที่บริษัทจ่ายเงินให้กับสตาร์ทอัพ Inflection AI มูลค่า 650 ล้านดอลลาร์สำหรับข้อตกลงด้านลิขสิทธิ์และการเข้าซื้อกิจการ ก่อนหน้านี้เขาร่วมก่อตั้ง DeepMind และขายมันให้กับ Google ในราคา 400 ล้านดอลลาร์เมื่อกว่าทศวรรษที่แล้ว

ในระหว่างช่วงถามตอบที่ AfroTech Suleyman กล่าวว่าเขาตัดสินใจเข้าร่วม Microsoft เมื่อปีที่แล้ว ส่วนหนึ่งเป็นเพราะบริษัทมีประวัติ ความมั่นคง และการเข้าถึงเทคโนโลยีที่กว้างขวาง นอกจากนี้เขายังถูกไล่ตามโดย CEO Satya Nadella

“อีกสิ่งหนึ่งที่ต้องพูดคือ Microsoft จำเป็นต้องพึ่งตนเองในด้าน AI” เขากล่าวบนเวที “Satya ซึ่งเป็น CEO ของเรา ได้ทำภารกิจนี้เมื่อประมาณ 18 เดือนที่แล้ว เพื่อให้แน่ใจว่าภายในองค์กรเรามีความสามารถในการฝึกอบรมโมเดลของเราเองตั้งแต่ต้นจนจบด้วยข้อมูล การฝึกอบรมก่อน การฝึกอบรมหลังการฝึกอบรม การใช้เหตุผล การปรับใช้ผลิตภัณฑ์ทั้งหมดของเราเอง และนั่นเป็นส่วนหนึ่งของการนำทีมของฉันมาร่วมงาน”

ตั้งแต่ปี 2019 เป็นต้นมา Microsoft เป็นนักลงทุนรายใหญ่และเป็นพันธมิตรด้านคลาวด์ของ OpenAI และบริษัทต่างๆ ได้ใช้จุดแข็งของตนเพื่อสร้างธุรกิจ AI ขนาดใหญ่ แต่ความสัมพันธ์ดังกล่าวแสดงให้เห็นถึงความตึงเครียดในช่วงหลัง โดย OpenAI ร่วมมือกับคู่แข่งของ Microsoft เช่น Google และ ออราเคิลและ Microsoft มุ่งเน้นไปที่บริการ AI ของตัวเองมากขึ้น

ความกังวลของสุไลมานเกี่ยวกับจิตสำนึกได้รับเสียงสะท้อนมากขึ้น ในเดือนตุลาคม Gavin Newsom ผู้ว่าการรัฐแคลิฟอร์เนียลงนามใน SB 243 ซึ่งกำหนดให้แชทบอทต้องเปิดเผยว่าเป็น AI และแจ้งให้ผู้เยาว์ “หยุดพัก” ทุก ๆ สามชั่วโมง

เมื่อสัปดาห์ที่แล้ว Microsoft ได้ประกาศคุณสมบัติใหม่สำหรับบริการ Copilot AI รวมถึงสหาย AI ชื่อ Mico และความสามารถในการมีส่วนร่วมกับ Copilot ในการแชทกลุ่มกับผู้อื่น Suleyman กล่าวว่า Microsoft กำลังสร้างบริการที่ตระหนักว่าเป็น AI

“พูดง่ายๆ ก็คือ เรากำลังสร้าง AI ที่ทำงานเพื่อมนุษย์อยู่เสมอ” เขากล่าว

เขากล่าวเสริมว่ามีพื้นที่มากมายสำหรับบุคลิกภาพ

“ความรู้อยู่ที่นั่น และแบบจำลองก็ตอบสนองได้ดีมาก” สุไลมานกล่าว “มันเป็นเรื่องของทุกคนที่จะต้องพยายามสร้างบุคลิกของ AI ด้วยคุณค่าที่พวกเขาต้องการเห็น พวกเขาต้องการใช้และโต้ตอบด้วย”

Suleyman เน้นย้ำถึงฟีเจอร์ที่ Microsoft เปิดตัวเมื่อสัปดาห์ที่แล้วที่เรียกว่า real talk ซึ่งเป็นรูปแบบการสนทนาของ Copilot ที่ออกแบบมาเพื่อท้าทายมุมมองของผู้ใช้แทนที่จะแสดงความเห็นอกเห็นใจ

Suleyman อธิบายว่าการพูดจริงเป็นเรื่องหน้าด้าน และกล่าวว่าเมื่อเร็ว ๆ นี้สิ่งนี้ทำให้เขาโกรธ โดยเรียกเขาว่า “กลุ่มความขัดแย้งขั้นสูงสุด” เพื่อเตือนถึงอันตรายของ AI ในหนังสือของเขา ในขณะเดียวกันก็เร่งการพัฒนาที่ Microsoft ด้วย

“นั่นเป็นเพียงกรณีการใช้งานที่มหัศจรรย์ เพราะในบางแง่ฉันก็รู้สึกเหมือนว่าฉันรู้สึกแบบนั้นจริงๆ” Suleyman กล่าวโดยสังเกตว่า AI เองก็เต็มไปด้วยความขัดแย้ง

“มันทั้งน่าตกตะลึงในบางแง่ และในขณะเดียวกัน มันก็มหัศจรรย์มาก” เขากล่าว “และถ้าคุณไม่กลัวมัน คุณจะไม่เข้าใจมันจริงๆ คุณควรกลัวมัน ความกลัวนั้นดีต่อสุขภาพ ความกังขาเป็นสิ่งจำเป็น เราไม่ต้องการความเร่งที่ไร้การควบคุม”

ดู: Microsoft กำลังสร้างรายได้จาก AI Brent Thill ของ Jefferies กล่าว