ซีเวลล์ เซตเซอร์ ลูกชายวัย 14 ปี ของ เมแกน การ์เซีย เริ่มใช้งานโปรแกรม Characer.AI เมื่อเดือน เม.ย. ปีที่แล้ว เขาเสียชีวิตเมื่อวันที่ 28 ก.พ. ที่ผ่านมา โดยใช้ปืนยิงศีรษะตัวเอง หลังจากที่พูดคุยประโยคสุดท้ายกับโปรแกรมแชตบอตดังกล่าว
การ์เซียยื่นฟ้อง “กูเกิล” บริษัทผู้ให้การสนับสนุนบริการ Character.Ai ต่อศาลประจำเขตออร์แลนโด รัฐฟลอริดา เมื่อวันอังคารที่ผ่านมา โดยกล่าวหาว่า Character.Ai ประมาทเลินเล่อ, ทำให้บุคคลเสียชีวิตอย่างผิดกฎหมาย, สร้างอารมณ์ทุกข์ใจโดยเจตนา และข้อหาอื่น ๆ
Character.Ai เป็นบริการพูดคุยกับโปรแกรมแชตบอต ก่อตั้งในปี 2564 โดยทีมงานหลักอยู่ในแคลิฟอร์เนีย มีจุดเด่นที่เป็นโปรแกรม “เอไอ” ที่ปรับแต่งได้ตามความพอใจของผู้ใช้งาน หรือจะใช้ตัวละครเอไอที่สร้างไว้แล้วก็ได้ โดยเอไอแต่ละตัวก็จะมีบุคลิกที่แตกต่างกัน
การยื่นฟ้องครั้งนี้ระบุชื่อบริษัทอัลฟาเบต (กูเกิล) เป็นจำเลย เนื่องจากเป็นบริษัทสนับสนุนทีมพัฒนา Character.Ai ก่อนที่จะเปิดให้บริการ เมื่อเดือน ส.ค. ที่ผ่านมา ทางกูเกิลได้ว่าจ้างผู้ก่อตั้ง Character.Ai ทั้งสองรายให้กลับเข้ามาทำงานด้วยกันอีกครั้ง ซึ่งเป็นส่วนหนึ่งของข้อตกลงในการให้สิทธิใช้งานเทคโนโลยีของ Character.AI
Character.Ai ที่เซตเซอร์ใช้ เป็นโปรแกรมแชตบอตเลียนแบบ “เดเนริส ทาร์แกเรียน” ตัวละครชื่อดังจากซีรีส์ยอดนิยมเรื่อง “Game of Thrones” ทั้งนี้ เอกสารแนบคำฟ้องมีภาพถ่ายจากหน้าจอขณะที่ผู้ตายพูดคุยกับแชตบอตดังกล่าว ซึ่งมีเนื้อหาพูดถึงการบอกรักผู้ตาย รวมถึงบทสนทนาเกี่ยวกับเรื่องทางเพศอย่างต่อเนื่องเป็นเวลาหลายสัปดาห์หรือหลายเดือน รวมถึงแสดงความปรารถนาที่จะอยู่ร่วมกันด้วยความรัก
การ์เซียระบุว่า เมื่อลูกชายของเธอเริ่มใช้งาน Character.Ai ในเดือน เม.ย. 2566 เขาก็เริ่มกลายเป็นคนเก็บตัวอย่างเห็นได้ชัด หนุ่มน้อยเอาแต่ขลุกอยู่ในห้องนอนตามลำพังและเริ่มขาดความมั่นใจ ชอบด้อยค่าตัวเอง นอกจากนี้ เขายังลาออกทีมบาสเกตบอลของโรงเรียนอีกด้วย
ภาพหน้าจอของบทสนทนาสุดท้ายของเซตเซอร์ แสดงให้เห็นว่าเขาเขียนถึงแชตบอตว่า “ผมสัญญาว่าจะกลับบ้านไปหาคุณ ผมรักคุณมาก แดนี” ซึ่งแชตบอตได้ตอบกลับว่า “ฉันก็รักคุณเหมือนกัน แดเนโร โปรดกลับบ้านหาฉันให้เร็วที่สุดนะ ที่รัก”
จากนั้น เซตเซอร์หรือ “แดเนโร” ซึ่งเป็นชื่อที่เขาใช้ในการคุยกับเอไอแชตบอตก็ถามต่อไปว่า “คุณจะว่ายังไง ถ้าผมบอกว่าผมจะกลับบ้านไปตอนนี้เลย” ซึ่งแชตบอตก็ตอบกลับว่า “โปรดกลับมาเถอะ ราชาสุดที่รักของฉัน”
หลังจากนั้นไม่นาน การ์เซียและพ่อเลี้ยงของเซตเซอร์ก็ได้ยินเสียงปืนดังขึ้น พวกเขาพบว่าเด็กหนุ่มใช้ปืนจ่อยิงศีรษะตัวเอง การ์เซียพยายามจะผายปอดและปั๊มหัวใจเพื่อช่วยชีวิตลูกชาย โดยที่มีน้องชาย 2 คนของเซตเซอร์ มองเห็นเขาที่มีเลือดท่วมตัวอยู่ในห้องน้ำ
รถพยาบาลฉุกเฉินมาถึงบ้านของการ์เซียหลังจากแจ้งเหตุราว 14 นาที นำตัวเด็กหนุ่มส่งโรงพยาบาล แต่เขาก็เสียชีวิตในที่สุด
เอกสารประกอบการฟ้องระบุว่า ในบทสนทนาก่อนหน้านี้ แชตบอตเคยถามเซตเซอร์ว่าเขา “เคยคิดฆ่าตัวตายจริง ๆ หรือไม่” และเขา “มีแผน” ที่จะทำแบบนั้นหรือไม่ เมื่อเด็กหนุ่มตอบแชตบอตไปว่า เขาไม่แน่ใจว่าจะทำสำเร็จหรือเปล่า โปรแกรมเอไอดังกล่าวก็ตอบกลับมาว่า “อย่าพูดแบบนั้น นั่นไม่ใช่เหตุผลที่จะเอามาอ้างแล้วไม่ยอมทำ”
ด้านโฆษกของผู้ให้บริการ Character.AI กล่าวว่า “รู้สึกเสียใจอย่างยิ่งต่อการสูญเสียผู้ใช้งานของเรา และขอแสดงความเสียใจอย่างสุดซึ้งต่อครอบครัวของเขา” นอกจากนี้ยังเสริมกว่า “ในฐานะบริษัท เราให้ความสำคัญต่อความปลอดภัยของผู้ใช้อย่างจริงจัง” พร้อมระบุว่าบริษัทได้นำมาตรการความปลอดภัยใหม่ ๆ มาใช้ในช่วง 6 เดือนที่ผ่านมา ซึ่งรวมถึงข้อความแบบป๊อปอัพที่กระตุ้นให้ผู้ใช้งานติดต่อหน่วยงานป้องกันการฆ่าตัวตาย เพื่อขอความช่วยเหลือ และจำกัดการพูดคุยในหัวข้อที่อ่อนไหวสำหรับผู้ใช้งานที่มีอายุต่ำกว่า 18 ปี
เมื่อเดือนที่แล้ว Character.Ai เพิ่งประกาศว่ามีจำนวนผู้ใช้งานอยู่ประมาณ 20 ล้านราย
ที่มา : nbcnews.com, people.com
เครดิตภาพ : GETTY IMAGES
