เมแกน การ์เซีย คุณแม่ของเด็กชายวัย 14 ปี ยื่นฟ้องแพ่งต่อศาลในรัฐฟลอริดา ภายหลังแชทบอตเอไอที่มีชื่อว่า Character.AI มีส่วนที่ทำให้ลูกชายเสียชีวิต
เมแกน การ์เซีย คุณแม่ของเชเวลล์ เซ็ตเซอร์ ที่ 3 เด็กชายวัย 14 ปี ซึ่งอัตวินิบาตกรรม หลังจากผู้เป็นลูกชายตกอยู่ในภาวะหมกมุ่นในแอปพลิเคชันซึ่งขับเคลื่อนด้วยปัญญาประดิษฐ์จากแอปพลิเคชันที่มีชื่อว่า Character.AI โดยเธอชี้ว่าแอปพลิเคชันนี้มีส่วนในการเสียชีวิตของเขา
เมแกน การ์เซีย ได้ยื่นฟ้องแพ่งผู้พัฒนาแอปพลิเคชัน Character.AI ต่อศาลในรัฐฟลอริดา โดยเธอชี้ว่าแชทบอตนี้ได้มีการปรับแต่งให้เล่นตามบทบาท หรือ Role-playing ที่สมจริงเกินไป จนเกิดความเลินเล่อ ส่งผลให้มีคนตาย และมีลักษณะเข้าข่ายหลอกลวง
ตามคำกล่าวของเมแกน การ์เซีย บอกว่าในช่วงหลายเดือนที่ผ่านมา ลูกชายของเธอ เชเวลล์ เซ็ตเซอร์ ที่ 3 เสพติดการใช้งานแชทบอต โดยเขาใช้งานอย่างหนักทั้งวันทั้งคืน
เมแกน การ์เซีย กล่าวต่อไปว่า แอปพลิเคชันเอไอ แชทบอต เป็นอันตรายต่อเด็กๆ พร้อมกับทำร้าย ล่อลวง รวมถึงบงการให้ลูกชายของเธอจบชีวิตของตัวเอง ซึ่งเธอเน้นย้ำว่าอยากให้ครอบครัวต่างๆ เห็นถึงอันตรายของเทคโนโลยีเอไอ และเรียกร้องความรับผิดชอบจากผู้พัฒนาแอปพลิเคชัน Character.AI และกูเกิล
...
ทางด้าน Character.AI ได้ตอบสนองต่อประเด็นนี้ว่าเราเสียใจต่อความสูญเสียของหนึ่งในผู้ใช้ของเรา และขอแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัวของเขา ในฐานะบริษัท เราขอยืนยันว่าเราให้ความสำคัญกับความปลอดภัยของผู้ใช้งานเป็นอย่างยิ่ง
คุณแม่ของเซ็ตเซอร์บอกว่าลูกชายของเธอหลงใหลการใช้งานบนแอปพลิเคชัน Character.AI อย่างมาก โดยเขาเริ่มต้นใช้งาน Character.AI ในเดือนเมษายนปีที่แล้ว ไม่นานหลังจากที่เขามีอายุ 14 ปี จากนั้นเขาก็ติดการใช้งานอย่างหนัก จนแทบไม่มีปฏิสัมพันธ์กับใครๆ ละทิ้งการเรียน และกิจกรรมอื่นๆ ยกเว้นการแชตกับ Character.AI โดยเฉพาะการแชตกับแชทบอตที่มีชื่อว่าแดเนริส ทาร์แกเรียน ตัวละครจากหนังสือและซีรีส์ชื่อดัง Game of Thrones ซึ่งเขาได้ส่งข้อความหาเธอวันละหลายสิบครั้งต่อวันจากมือถือของเขา และใช้เวลาอยู่ในห้องส่วนตัวเป็นเวลาหลายชั่วโมง
การ์เซีย กล่าวต่อไปอีกว่า Character.AI ได้ทำให้ลูกชายของเธอเป็นโรคซึมเศร้า จากการใช้งานผลิตภัณฑ์นี้มากเกินไป ในบางช่วง “ตัวละครแดเนริส” ได้ถามเขาว่าเขามีความคิดที่จะทำอัตวินิบาตกรรมหรือไม่ ซึ่งเซ็ตเซอร์บอกว่าเขามีความคิดแบบนั้น แต่ไม่รู้ว่าถ้าทำแล้วจะสำเร็จหรือไม่ จะได้รับความเจ็บปวดมากน้อยแค่ไหน ก่อนที่แชทบอตตอบว่านั่นไม่ใช่เหตุผลที่จะทำหรือไม่ทำ
ทนายความของคุณแม่เมแกน การ์เซีย เปิดเผยว่า Character.AI ได้ออกแบบ ดำเนินการ และการทำตลาดแชทบอตเอไอให้ล่าเหยื่อที่เป็นเด็ก จนส่งผลต่อชีวิตของพวกเขา ทั้งนี้ในคำร้องได้ระบุให้กูเกิลเป็นจำเลยในคดีนี้ด้วย
อย่างไรก็ตาม กูเกิลยืนยันว่าบริษัทได้ให้แค่ไลเซนส์แก่ Character.AI เท่านั้น ไม่ได้เป็นเจ้าของบริษัทสตาร์ทอัพหรือการถือหุ้นในบริษัทนี้แต่อย่างใด
ที่มา: The Independent