ภาพถ่ายนี้ถ่ายเมื่อวันที่ 2 กุมภาพันธ์ 2024 แสดงให้เห็น Lu Yu หัวหน้าฝ่ายการจัดการผลิตภัณฑ์และการปฏิบัติการของ Wantalk ซึ่งเป็นแชทบอทปัญญาประดิษฐ์ที่สร้างโดยบริษัทเทคโนโลยีของจีน Baidu กำลังแสดงโปรไฟล์แฟนสาวเสมือนจริงบนโทรศัพท์ของเธอ ที่สำนักงานใหญ่ Baidu ในกรุงปักกิ่ง
เจดเกา | เอเอฟพี | เก็ตตี้อิมเมจ
ปักกิ่ง — จีนวางแผนที่จะจำกัดแชทบอทที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ไม่ให้มีอิทธิพลต่ออารมณ์ความรู้สึกของมนุษย์ในรูปแบบที่อาจนำไปสู่การฆ่าตัวตายหรือทำร้ายตัวเอง ตามร่างกฎที่เผยแพร่เมื่อวันเสาร์
กฎระเบียบที่เสนอจาก Cyberspace Administration กำหนดเป้าหมายสิ่งที่เรียกว่า “บริการ AI แบบโต้ตอบที่เหมือนมนุษย์” ตามการแปลเอกสารภาษาจีนของ CNBC
มาตรการดังกล่าวเมื่อสรุปผลแล้วจะนำไปใช้กับผลิตภัณฑ์หรือบริการ AI ที่นำเสนอต่อสาธารณะในประเทศจีน ซึ่งจำลองบุคลิกภาพของมนุษย์และดึงดูดผู้ใช้ทางอารมณ์ผ่านข้อความ รูปภาพ เสียง หรือวิดีโอ ระยะเวลาแสดงความคิดเห็นสาธารณะจะสิ้นสุดในวันที่ 25 มกราคม
กฎที่วางแผนไว้ของปักกิ่งถือเป็นความพยายามครั้งแรกของโลกในการควบคุม AI ด้วยลักษณะเฉพาะของมนุษย์หรือมานุษยวิทยา วินสตัน หม่า ผู้ช่วยศาสตราจารย์จากคณะนิติศาสตร์ NYU กล่าว ข้อเสนอล่าสุดเกิดขึ้นในขณะที่บริษัทจีนได้พัฒนาสหายด้าน AI และคนดังในโลกดิจิทัลอย่างรวดเร็ว
เมื่อเทียบกับกฎระเบียบ Generative AI ของจีนในปี 2023 หม่ากล่าวว่าเวอร์ชันนี้ “เน้นการก้าวกระโดดจากความปลอดภัยของเนื้อหาไปสู่ความปลอดภัยทางอารมณ์”
ร่างกฎเสนอว่า:
- แชทบอท AI ไม่สามารถสร้างเนื้อหาที่ส่งเสริมการฆ่าตัวตายหรือการทำร้ายตัวเอง หรือมีส่วนร่วมในความรุนแรงทางวาจา หรือการบงการทางอารมณ์ที่ทำลายสุขภาพจิตของผู้ใช้
- หากผู้ใช้เสนอการฆ่าตัวตายเป็นการเฉพาะ ผู้ให้บริการเทคโนโลยีจะต้องให้มนุษย์เข้ามาควบคุมการสนทนา และติดต่อผู้ปกครองของผู้ใช้หรือบุคคลที่ได้รับมอบหมายทันที
- แชทบอท AI จะต้องไม่สร้างเนื้อหาที่เกี่ยวข้องกับการพนัน ลามกอนาจาร หรือรุนแรง
- ผู้เยาว์ต้องได้รับความยินยอมจากผู้ปกครองเพื่อใช้ AI เพื่อมิตรภาพทางอารมณ์ โดยมีการจำกัดเวลาในการใช้งาน
- แพลตฟอร์มควรสามารถระบุได้ว่าผู้ใช้เป็นผู้เยาว์หรือไม่ แม้ว่าผู้ใช้จะไม่เปิดเผยอายุของตน และในกรณีที่มีข้อสงสัย ให้ใช้การตั้งค่าสำหรับผู้เยาว์ในขณะที่อนุญาตให้อุทธรณ์ได้
ข้อกำหนดเพิ่มเติมกำหนดให้ผู้ให้บริการเทคโนโลยีต้องเตือนผู้ใช้หลังจากการโต้ตอบ AI อย่างต่อเนื่องเป็นเวลาสองชั่วโมง และกำหนดการประเมินความปลอดภัยสำหรับแชทบอท AI ที่มีผู้ใช้ที่ลงทะเบียนมากกว่า 1 ล้านคนหรือผู้ใช้งานมากกว่า 100,000 รายต่อเดือน
เอกสารดังกล่าวยังสนับสนุนการใช้ AI ที่มีลักษณะคล้ายมนุษย์ใน “การเผยแพร่วัฒนธรรมและมิตรภาพผู้สูงอายุ”
การเสนอขายหุ้น IPO แชทบอท AI ของจีน
ข้อเสนอนี้เกิดขึ้นไม่นานหลังจากสตาร์ทอัพแชทบ็อต AI ชั้นนำของจีนสองราย ได้แก่ Z.ai และ Minimax– ยื่นขอเสนอขายหุ้นแก่ประชาชนทั่วไปครั้งแรกในฮ่องกงในเดือนนี้
Minimax เป็นที่รู้จักในระดับสากลจากแอป Talkie AI ซึ่งช่วยให้ผู้ใช้สามารถแชทกับตัวละครเสมือนได้ แอปดังกล่าวและ Xingye เวอร์ชันภาษาจีนในจีน คิดเป็นสัดส่วนมากกว่าหนึ่งในสามของรายได้ของบริษัทในช่วงสามไตรมาสแรกของปี โดยมีผู้ใช้งานเฉลี่ยมากกว่า 20 ล้านรายต่อเดือนในช่วงเวลาดังกล่าว
Z.ai หรือที่รู้จักในชื่อ Zhipu ยื่นฟ้องภายใต้ชื่อ “Knowledge Atlas Technology” แม้ว่าบริษัทจะไม่เปิดเผยผู้ใช้งานรายเดือน แต่ระบุว่าเทคโนโลยีของบริษัท “เสริมศักยภาพ” ในอุปกรณ์ประมาณ 80 ล้านเครื่อง รวมถึงสมาร์ทโฟน คอมพิวเตอร์ส่วนบุคคล และยานพาหนะอัจฉริยะ
ไม่มีบริษัทใดตอบสนองต่อคำร้องขอของ CNBC สำหรับความคิดเห็นว่ากฎที่เสนออาจส่งผลต่อแผนการ IPO ของตนอย่างไร
สมัครสมาชิกตอนนี้
