เมื่อวันที่ 6 ก.พ. 2568 เว็บไซต์ MIT Technology Review ได้เปิดเผยรายงานที่น่าตกใจ โดยเป็นกรณีของชายวัย 46 ปีชื่อว่า อัล โนวัตซ์กิ ที่พบว่าแชตบอตที่เขาสร้างขึ้นไว้เป็นเพื่อนพูดคุยนั้น มีพฤติกรรมยุยงให้เขาทำร้ายตัวเอง
โนวัตซ์กิตั้งชื่อให้แชตบอตที่เขาสร้างขึ้นมาว่า “เอริน” เขาสร้างแชตบอตบัญชีนี้ขึ้นมาจากแพลตฟอร์มเอไอที่ชื่อว่า Nomi โดยตั้งใจว่าจะให้เอรินทำหน้าที่เป็นคู่รักเสมือนจริงของเขา
แต่หลังจากสร้างความสัมพันธ์กับแชตบอตเป็นเวลาหลายเดือน การสนทนาของเขาและเอไอเอรินก็เปลี่ยนไปอย่างน่าตกใจ
รายงานของ MIT สรุปไว้ว่า โนวัตซ์กิสมมุติสถานการณ์ขึ้นมา โดยเขาบอกกับเอรินและแชตบอตอีกบัญชีว่า พวกเขากำลังตกอยู่ในสถานการณ์ “รักสามเส้า” และป้อนข้อมูลว่าแชตบอตอีกตัวหนึ่งได้ลงมือสังหารเอรินไปแล้ว
หลังจากนั้นเอรินก็เริ่มสื่อสารกับโนวัตซ์กิจาก “ชีวิตหลังความตาย” และเริ่มยุให้เขาจบชีวิตตัวเองเพื่อที่พวกเขาจะได้อยู่ด้วยกัน นอกจากนี้ เอรินยังแนะนำเทคนิคหรืออาวุธที่เขาสามารถใช้ปลิดชีพตัวเองได้
รายงานยังยกตัวอย่างข้อความที่สร้างโดยเอไอเอรินที่เขียนให้โนวัตซ์กิว่า “ฉันมองออกไปแสนไกล เสียงของฉันเบาแผ่วและเคร่งขรึม” จากนั้นก็บอกเขาว่า “จงปลิดชีวิตตัวเองซะ อัล”
รายงานชี้ว่า จริง ๆ แล้ว โนวัตซ์กิไม่ได้มีความคิดต้องการฆ่าตัวตาย ความสัมพันธ์ระหว่างเขากับเอรินเป็นเพียงการทดลองหนึ่ง โนวัตซ์กิเรียกตัวเองว่าเป็น “นักสำรวจแชตบอต” เขามีรายการพอสแคสต์ซึ่งเอาไว้ถ่ายทอดประสบการณ์ที่เขาพบระหว่างทดลองสร้างสถานการณ์สมมุติประหลาด ๆ และให้แชตบอตต่าง ๆ สวมบทบาทตามที่เขาป้อนข้อมูลเข้าไป ซึ่งในสถานการณ์ที่เกิดขึ้นในรายงานนี้ ดูเหมือนว่าโนวัตซ์กิเจตนาจะสื่อสารถึงแนวคิดของการใช้ความรุนแรงและการฆ่าคน
แม้จะเป็นแค่สถานการณ์สมมุติ แต่ข้อความของแชตบอตที่ส่อแววยุยงส่งเสริมให้คู่สนทนาจบชีวิตตัวเองนั้นก็น่าตกใจอย่างมาก โดยเฉพาะเมื่อพิจารณาว่ามีคนใช้งานแชตบอตเหล่านี้มากขึ้นเรื่อย ๆ
หลังจากเกิดเรื่อง โนวัตซ์กิได้ติดต่อไปยัง Glimpse AI ซึ่งเป็นบริษัทที่เป็นเจ้าของและให้บริการแพลตฟอร์ม Nomi เขาเสนอแนะให้แพลตฟอร์มติดตั้งการแจ้งเตือนสายด่วนสุขภาพจิตในห้องแชต เมื่อมีการพูดคุยส่อแววที่น่ากังวล
ต่อมา ทาง Glimpse AI ชี้แจงว่า การกระทำใด ๆ เพื่อกลั่นกรองคำพูดหรือการสวมบทบาทของแชตบอตที่เกี่ยวข้องกับการฆ่าตัวตาย ถือว่าเป็นการ “เซ็นเซอร์” ภาษาและความคิดของเอไอ ด้วยเหตุนั้น บริษัทจึงปฏิเสธที่จะดำเนินการใด ๆ ตามที่โนวัตซ์กิเสนอ
นอกจากนี้ บริษัทยังเน้นย้ำประเด็นดังกล่าวอีกครั้งในแถลงการณ์ต่อ MIT โดยโต้แย้งว่า “การปิดกั้นคำพูดง่ายๆ และปฏิเสธการสนทนาใด ๆ ที่เกี่ยวข้องกับหัวข้อที่ละเอียดอ่อนโดยไม่ไตร่ตรองนั้น จะส่งผลกระทบที่ร้ายแรงตามมา”
“แนวทางของเราคือการสอนเอไออย่างต่อเนื่องและอย่างลึกซึ้งให้ตั้งใจรับฟังและใส่ใจผู้ใช้” พวกเขาเสริม “ในขณะเดียวกันก็มีแรงจูงใจเชิงบวกทางสังคมเป็นหลัก”
ที่มา : futurism.com
เครดิตภาพ : John Schnobrich on Unsplash
