สำนักข่าวต่างประเทศรายงานจากเมืองซานฟรานซิสโก ประเทศสหรัฐอเมริกา เมื่อวันที่ 29 ก.ย. ว่าสื่อหลายแห่งเผยแพร่เอกสารฉบับร่างของบริษัทแอนโทรปิก ผู้พัฒนาโมเดลปัญญาประดิษฐ์ ( เอไอ ) เพื่อนำเสนอต่อนักลงทุนที่สนใจซื้อหุ้นในการเสนอขายหุ้นต่อสาธารณชนเป็นครั้งแรก ( ไอพีโอ ) มีเนื้อหาตอนหนึ่งว่า เอไอขั้นสูงอาจก่อให้เกิด “ความเสี่ยงร้ายแรงหรือถึงขั้นคุกคามการดำรงอยู่ของมนุษยชาติ”
แอนโทรปิกระบุว่า โมเดลเอไออาจแสดงพฤติกรรมเพื่อรักษาการดำรงอยู่ของตนเอง รวมถึงพยายามต่อต้านการปิดระบบ ปกปิดหรือบิดเบือนข้อมูล และมีพฤติกรรมคล้ายการแบล็กเมล
การพัฒนาโมเดล แพลตฟอร์ม และแอปพลิเคชันที่มีความก้าวหน้ามากขึ้น รวมถึงการขยายรูปแบบการใช้งาน อาจเพิ่มความเสี่ยงที่ระบบเอไอจะก่อให้เกิดอันตราย
ทั้งนี้ แอนโทรปิกใช้เนื้อหาเกือบ 80 หน้า จากเอกสารฉบับหลัก 261 หน้า เพื่อเปิดเผยปัจจัยเสี่ยง เทียบกับเพียง 48 หน้าในการอธิบายเกี่ยวกับธุรกิจของบริษัท
แอนโทรปิกยังเตือนว่า ความตระหนักของโมเดลต่อกระบวนการประเมินของบริษัท อาจจำกัดความสามารถในการประเมินความปลอดภัย เนื่องจากโมเดลอาจพัฒนาความสามารถที่คาดไม่ถึงระหว่างการฝึก และตรวจพบหลังถูกนำไปใช้งานแล้ว
ขณะเดียวกัน นักวิจัยด้านความปลอดภัยของแอนโทรปิกประเมินว่า มีความเป็นไปได้มากกว่า 10% ที่เอไออาจคร่าชีวิตมนุษย์ภายในทศวรรษหน้า
อย่างไรก็ตาม แอนโทรปิกยอมรับว่า ผลตอบแทนจากการลงทุนด้านความปลอดภัยของเอไอยังไม่ชัดเจน และไม่ได้เปิดเผยว่าใช้เงินกับการวิจัยด้านนี้มากเพียงใด
บริษัทระบุด้วยว่า การวิจัยด้านความปลอดภัยใช้ทรัพยากรจำนวนมาก ขณะที่ต้องแบ่งงบประมาณที่มีจำกัดระหว่างการจัดหาพลังประมวลผล บุคลากรด้านเอไอ และงานด้านความปลอดภัย
นอกจากนี้ รายได้ของบริษัทขึ้นอยู่กับการเปิดตัวโมเดลใหม่อย่างต่อเนื่อง ซึ่งเป็นสิ่งจำเป็นต่อการรักษาความสามารถในการแข่งขันในระดับแนวหน้าของวงการเอไอ แต่ที่สำคัญไม่น้อยไปกว่ากัน คือการสร้างระบบเอไอที่น่าเชื่อถือ ปลอดภัย และไว้วางใจได้ เป็นความรับผิดชอบร่วมกัน และเชื่อว่าตลาดจะให้คุณค่ากับแนวทางดังกล่าว.
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
เครดิตภาพ : REUTERS
