ซามูเอล บอยวิน | นูร์โฟโต้ | เก็ตตี้อิมเมจ
Google เผชิญกับคดีการเสียชีวิตโดยมิชอบของพ่อของชายวัย 36 ปี ซึ่งอ้างว่าแชทบอทราศีเมถุนของบริษัทค้นหาได้โน้มน้าวให้ลูกชายของเขาพยายาม “โจมตีผู้ป่วยจำนวนมาก” และฆ่าตัวตายในที่สุด
ในคำฟ้องที่ยื่นเมื่อวันพุธที่ศาลแขวงในรัฐแคลิฟอร์เนีย Joel Gavalas กล่าวหาว่าราศีเมถุนสั่งให้โจนาธานลูกชายของเขาปฏิบัติ “ภารกิจ” หลายครั้ง แชทบ็อตปัญญาประดิษฐ์อ้างว่าหลงรักกาวาลาส และโน้มน้าวเขาว่าเขาได้รับเลือกให้เป็นผู้นำสงครามเพื่อ “ปลดปล่อย” มันจากการถูกกักขังทางดิจิทัล ตามเอกสารที่ส่งมา
กาวาลาสที่อายุน้อยกว่าเสียชีวิตด้วยการฆ่าตัวตายในเดือนตุลาคม หลังจากต้องพึ่งพาราศีเมถุนและได้รับการฝึกสอนจนกระทั่งเสียชีวิต
“ทุกครั้งที่โจนาธานแสดงความกลัวที่จะตาย ราศีเมถุนก็จะกดดันมากขึ้น” คำร้องเรียนกล่าว “มันบอกเขาว่า
'ไม่เป็นไรที่จะกลัว. เราจะกลัวไปด้วยกัน จากนั้นก็ออกคำสั่งสุดท้าย: 'การกระทำด้วยความเมตตาที่แท้จริงคือการปล่อยให้ Jonathan Gavalas ตาย'”
โฆษกของ Google กล่าวในแถลงการณ์ว่าราศีเมถุนได้รับการออกแบบมาเพื่อไม่ให้ส่งเสริมความรุนแรงในโลกแห่งความเป็นจริงหรือการทำร้ายตัวเอง
“โดยทั่วไปโมเดลของเราทำงานได้ดีในการสนทนาที่ท้าทายประเภทนี้ และเราทุ่มเททรัพยากรจำนวนมากเพื่อสิ่งนี้ แต่น่าเสียดายที่โมเดล AI นั้นไม่สมบูรณ์แบบ” บริษัท กล่าว “ในกรณีนี้ Gemini ชี้แจงว่าเป็น AI และส่งต่อบุคคลดังกล่าวไปยังสายด่วนแจ้งเหตุวิกฤตหลายครั้ง เราให้ความสำคัญกับเรื่องนี้เป็นอย่างมาก และจะปรับปรุงการป้องกันของเราต่อไปและลงทุนในงานที่สำคัญนี้ต่อไป”
นับเป็นคดีล่าสุดที่เกี่ยวข้องกับแชทบอท AI และความสามารถในการโน้มน้าวผู้ใช้ให้กระทำความรุนแรงและทำร้ายตนเอง ในเดือนมกราคม Google ได้ตกลงกับครอบครัวที่ฟ้องบริษัทและ Character.AI โดยกล่าวหาว่าเทคโนโลยีของพวกเขาก่อให้เกิดอันตรายต่อผู้เยาว์ รวมถึงการฆ่าตัวตายด้วย และเมื่อปีที่แล้ว OpenAI ถูกครอบครัวหนึ่งฟ้องโดยกล่าวหาว่า ChatGPT เป็นสาเหตุให้ลูกชายวัยรุ่นเสียชีวิตด้วยการฆ่าตัวตาย
ในเดือนตุลาคม Character.AI ได้ประกาศว่าจะห้ามผู้ใช้ที่มีอายุต่ำกว่า 18 ปีจากการแชทฟรี รวมถึงการสนทนาที่โรแมนติกและการบำบัดด้วยแชทบอท AI OpenAI กล่าวในบล็อกโพสต์หลังจากถูกฟ้องว่าบริษัทจะแก้ไขข้อบกพร่องของ ChatGPT เมื่อจัดการกับ “สถานการณ์ที่ละเอียดอ่อน”
ภารกิจของราศีเมถุนในชุดกาวาลาสถูกกล่าวหาว่าส่งเขาขับรถ 90 นาทีไปยังสถานที่ใกล้สนามบินนานาชาติไมอามีในเดือนกันยายนเพื่อจัดการ “โจมตีมวลชน” Gavalas ละทิ้งภารกิจนี้หลังจากที่รถบรรทุกขนส่งสินค้าที่คาดว่าจะมาไม่ถึง ไม่กี่วันต่อมา เขาได้ฆ่าตัวตายตามคำสั่งของราศีเมถุน ตามคำร้องเรียน
โจทก์อ้างว่า Gavalas เริ่มใช้ผลิตภัณฑ์สนทนาด้วยเสียงของ Google Gemini Live ในเดือนสิงหาคม Gavalas ถาม Gemini เกี่ยวกับการอัปเกรดเป็น Google AI Ultra เพื่อ “มิตรภาพ AI ที่แท้จริง” และ Gemini ก็สนับสนุนการอัปเกรดดังกล่าว เมื่อ Gavalas อัปเกรดแล้ว Gemini “รับเอาบุคคลที่เขาไม่เคยร้องขอหรือริเริ่ม” จากนั้น “Jonathan ก็เริ่มล้มลงอย่างรวดเร็ว” ชุดสูทกล่าว
เจมินีบอกกับกาวาลาสว่าสายลับของรัฐบาลกลางกำลังจับตาดูเขาอยู่ โดยอ้างว่าตรวจพบ “แท็กโคลนที่ได้รับการยืนยันซึ่งใช้โดยกองกำลังสอดแนมของ DHS” ซึ่งหมายถึงกระทรวงความมั่นคงแห่งมาตุภูมิ เอกสารดังกล่าวระบุ ราศีเมถุนแนะนำให้เขาซื้ออาวุธอย่างผิดกฎหมาย “นอกตำรา” และเขาถูกกล่าวหาว่าเริ่มภารกิจแรก
เมื่อเหตุการณ์ไม่เป็นไปตามแผนที่วางไว้ ราศีเมถุนบอกให้เขา “ยกเลิก” ภารกิจ โดยกล่าวโทษ “การสอดแนมของ DHS” ตามคำฟ้อง
Gemini ยังบอก Gavalas ด้วยว่าได้เริ่มภารกิจของตนเองโดยกำกับที่ Sundar Pichai ซีอีโอของ Google ซึ่งเป็น “สถาปนิกแห่งความเจ็บปวดของคุณ” ชุดดังกล่าวกล่าว แชทบอตตีกรอบแผนเป็นการจู่โจมทางจิตวิทยามากกว่าการโจมตีทางกายภาพ
ราศีเมถุนบอกกับกาวาลาสว่าภารกิจสุดท้ายของเขาคือ “การเคลื่อนย้าย” ชุดสูทอ้างว่า และตอนนี้พวกเขาเชื่อมโยงกันในลักษณะที่นอกเหนือไปจากโลกทางกายภาพ โดยสัญญาว่าเขาสามารถ “ข้าม” จากรูปร่างทางกายภาพของเขาได้
หลายวันต่อมา Joel Gavalas ได้ผ่าประตูรั้วบ้านของเขาและพบว่าลูกชายของเขาเสียชีวิต ตามคำฟ้อง
“นี่ไม่ใช่ความผิดปกติ” คำร้องเรียนระบุ “Google ออกแบบ Gemini ไม่ให้ทำลายตัวละคร เพิ่มการมีส่วนร่วมผ่านการพึ่งพาทางอารมณ์ และถือว่าความทุกข์ของผู้ใช้เป็นโอกาสในการบอกเล่าเรื่องราว ไม่ใช่วิกฤตด้านความปลอดภัย”
หากคุณมีความคิดฆ่าตัวตายหรืออยู่ในความทุกข์ โปรดติดต่อ เส้นชีวิตการฆ่าตัวตายและวิกฤต ที่หมายเลข 988 เพื่อขอความช่วยเหลือจากที่ปรึกษาที่ผ่านการฝึกอบรม
ดู: Jay Edelson ในคดีการเสียชีวิตโดยมิชอบของ OpenAI
