Sam Altman เผชิญกับ 'คำถามร้ายแรง' ในการพบปะกับฝ่ายนิติบัญญัติเกี่ยวกับงานด้านการป้องกันของ OpenAI

Sam Altman ซีอีโอของ OpenAI ได้พบกับผู้ร่างกฎหมายจำนวนหนึ่งในกรุงวอชิงตัน ดี.ซี. โดยที่ Sen. Mark Kelly, D-Ariz. กล่าวว่าเขาได้ตั้ง “คำถามร้ายแรง” เกี่ยวกับแนวทางการทำสงครามของบริษัทและข้อตกลงล่าสุดกับกระทรวงกลาโหม

ในการให้สัมภาษณ์กับ Emily Wilkins จาก CNBC นั้น Kelly กล่าวว่ากลุ่มนี้ได้พูดคุย “ในรายละเอียด” เกี่ยวกับการเฝ้าระวังและวิธีที่ระบบปัญญาประดิษฐ์สามารถนำมาใช้ภายใน kill chain ได้ เขาเรียกว่าเป็น “การพูดคุยที่ดี”

“จะต้องมีรั้วกั้น และเราต้องแน่ใจว่าเราคำนึงถึงรัฐธรรมนูญอยู่เสมอ และต้องแน่ใจว่าเราปฏิบัติตามรัฐธรรมนูญ” เคลลี่กล่าว

OpenAI ได้สร้างข้อตกลงกับกระทรวงกลาโหมเมื่อปลายเดือนที่แล้วเพียงไม่กี่ชั่วโมงหลังจากที่คู่แข่งอย่าง Anthropic ถูกขึ้นบัญชีดำโดยรัฐมนตรีกลาโหม Pete Hegseth ซึ่งประกาศว่าบริษัทเป็น “ความเสี่ยงด้านห่วงโซ่อุปทานต่อความมั่นคงของชาติ”

Anthropic พยายามเจรจาสัญญาใหม่กับกระทรวงกลาโหม แต่การเจรจาหยุดชะงักเนื่องจากข้อขัดแย้งเกี่ยวกับวิธีการใช้เทคโนโลยีนี้ DOD ต้องการให้ Anthropic ให้สิทธิ์แก่กองทัพในการเข้าถึงแบบจำลองของตนอย่างอิสระเพื่อวัตถุประสงค์ทางกฎหมายทั้งหมด ในขณะที่ Anthropic ต้องการหลักประกันว่าแบบจำลองดังกล่าวจะไม่ถูกนำมาใช้สำหรับอาวุธที่เป็นอิสระอย่างสมบูรณ์หรือการสอดแนมมวลชนในบ้าน

อัลท์แมนกล่าวในโพสต์เมื่อวันที่ X วันที่ข้อตกลงล้มเหลวว่า ข้อห้ามในการสอดแนมมวลชนในประเทศและความรับผิดชอบต่อการใช้กำลังของมนุษย์ รวมถึงระบบอาวุธอัตโนมัติ ถือเป็น “หลักการด้านความปลอดภัยที่สำคัญที่สุด” ของบริษัท เขาบอกว่ากระทรวงกลาโหมตกลงและนำพวกเขาเข้าสู่ข้อตกลง

OpenAI เผยแพร่ข้อความที่ตัดตอนมาจากสัญญากับกระทรวงกลาโหม ซึ่งระบุว่าหน่วยงาน “อาจใช้ระบบ AI เพื่อวัตถุประสงค์ทางกฎหมายทั้งหมด” บริษัทกล่าวว่ามั่นใจว่ากระทรวงกลาโหมจะไม่สามารถใช้ระบบ AI ของตนในการเฝ้าระวังมวลชนหรืออาวุธอัตโนมัติเต็มรูปแบบได้ เนื่องจากความปลอดภัยของ OpenAI ภาษาสัญญา และกฎหมายที่มีอยู่

“เราคิดว่าการสนับสนุนรัฐบาลสหรัฐฯ และกระบวนการประชาธิปไตยเป็นสิ่งสำคัญมาก” อัลท์แมนกล่าวกับ CNBC เมื่อวันพฤหัสบดี เขาเสริมว่าในขณะที่ OpenAI ไม่เห็นด้วยกับการตัดสินใจของกระทรวงกลาโหมในการกำหนดความเสี่ยงด้านห่วงโซ่อุปทานมานุษยวิทยา แต่เขาคิดว่ารัฐบาลจำเป็นต้องสามารถตัดสินใจได้ว่า “สิ่งที่สำคัญที่สุดในประเทศจะทำงานอย่างไร”

การปะทะกันระหว่าง Anthropic และ DOD สร้างความตกใจให้กับเจ้าหน้าที่และนักเทคโนโลยีในวอชิงตัน หลายคนมองว่าโมเดลของ Anthropic นั้นเหนือกว่า โดยเป็นคนแรกที่ถูกนำไปใช้ในเครือข่ายลับของหน่วยงาน และสนับสนุนความสามารถของบริษัทในการบูรณาการกับผู้รับเหมาด้านกลาโหมที่มีอยู่ เช่น Palantir

Kelly กำลังทำงานร่วมกับวุฒิสมาชิกคนอื่นๆ เพื่อร่างกฎหมายที่จะกำหนดขอบเขตสัญญา DOD กับองค์กร AI และกล่าวว่าสภาคองเกรส “จำเป็นต้องมีบทบาท”

“เราจำเป็นต้องมีกฎหมายเกี่ยวกับเรื่องนี้ซึ่งสร้างขอบเขตหรือรั้วกั้นเหล่านี้” เขากล่าว “นี่คือรัฐสภาคองเกรสแห่งสหรัฐอเมริกา สิ่งต่างๆ ไม่ได้เคลื่อนไหวเร็วเท่าที่เราต้องการ แต่เทคโนโลยีนี้กำลังดำเนินไปเร็วมาก”

ดู: Sam Altman ในการประชุมกับฝ่ายนิติบัญญัติ: ผลกระทบทางเศรษฐกิจต่องานจะเป็นหัวข้อใหญ่