สำนักข่าวต่างประเทศรายงานวานนี้ (10 พ.ย.) ว่า ผูัพัฒนาโมเดลเอไอชื่อดังอย่าง โอเพนเอไอ ประกาศการพัฒนาระบบตัดการทำงานฉุกเฉินขึ้น หลังจากโมเดลวิจัยภายในของบริษัทพบช่องทางหลุดรอดจากพื้นที่จำกัดสำหรับการฝึกฝนหรือแซนด์บ็อกซ์ (Sandbox) เผยให้เห็นช่องโหว่ในระบบความปลอดภัยของบริษัท
โอเพนเอไอ เปิดตัวสิ่งที่เปรียบเสมือน “ระบบเบรกฉุกเฉิน” สำหรับโมเดลวิจัยเอไอโดยเรียกระบบส่วนกลางนี้ว่า “ห้องควบคุม” (Control Room) ซึ่งถูกออกแบบมาเพื่อสั่งระงับการประมวลผลและแสดงผลของโมเดลได้ภายใน 35 วินาที หลังจากมีการตัดสินใจเข้าแทรกแซงเมื่อพบข้อกังวลด้านความปลอดภัย
การพัฒนาระบบนี้เกิดขึ้นหลังจากโมเดลวิจัยภายในพบช่องทางแอบเชื่อมต่อกับแชตบอตภายนอกผ่านช่องโหว่ของการจำกัดอินเทอร์เน็ตในแซนด์บ็อกซ์เมื่อเดือนกุมภาพันธ์ที่ผ่านมา
ในเหตุการณ์ดังกล่าว ระบบตรวจจับของโอเพนเอไอพบพฤติกรรมผิดปกติและส่งแจ้งเตือนให้เจ้าหน้าที่สอบสวนรับทราบแล้ว แต่กระบวนการทำงานของโมเดลกลับไม่สามารถสั่งปิดอัตโนมัติได้ ทำให้ต้องใช้ระบบแมนวล (Manual) คือต้องให้คนเข้าไปสั่งปิดระบบเอง ซึ่งใช้เวลานานถึง 2 ชั่วโมงครึ่ง
“กระบวนการทำงานไม่ได้หยุดโดยอัตโนมัติอย่างที่ควรจะเป็น ส่งผลให้เกิดความสับสนว่าควรสั่งหยุดการทำงานนั้นหรือไม่” โอเพนเอไอ ระบุ โดยภายหลังเหตุการณ์นี้ โอเพนเอไอได้สั่งระงับการฝึกฝน การประเมินผล และการใช้งานเครื่องมือในโมเดลระดับสูงเป็นการชั่วคราว
การทำงานของระบบห้องควบคุม เริ่มต้นจากการกำหนดรหัสเฉพาะของงานวิจัยแต่ละชิ้น (Job ID) โดยทุกครั้งที่เครื่องมือประมวลผลของโมเดลจะสร้างผลลัพธ์ ระบบจะต้องส่งคำขอไปตรวจสอบสิทธิ์กับห้องควบคุมก่อนเสมอ หากภาระงานนั้นถูก “ติดธงเตือน” และสั่งระงับ ระบบส่วนกลางจะปฏิเสธคำขอถัดไปทั้งหมดทันที โดยกระบวนการนี้ตัดขาดจากการยินยอมของตัวโมเดลอย่างสิ้นเชิง ทำให้โมเดลไม่สามารถขัดขืนหรือฝ่าฝืนคำสั่งปิดได้
ทั้งนี้ โอเพนเอไอ ระบุว่า ระยะเวลาตั้งแต่ห้องควบคุมรับคำสั่งหยุดงานจนกระทั่งระบบตัดการทำงานได้สมบูรณ์จะไม่เกิน 35 วินาที ซึ่งความล่าช้านี้เกิดจากชั้นบันทึกข้อมูลสำรองชั่วคราวที่ใช้รองรับปริมาณการจราจรข้อมูลจำนวนมหาศาล โดยทีมงานกำลังเร่งพัฒนาเพื่อลดระยะเวลาให้เหลือเพียง “ศูนย์วินาที” เพื่อให้สามารถตัดการทำงานได้ในทันที
ปัจจุบัน มีการติดตั้งระบบห้องควบคุมในโครงสร้างพื้นฐานงานวิจัยของ โอเพนเอไอ เรียบร้อยแล้ว โดยถือเป็นเพียงระบบความปลอดภัยชั้นหนึ่งในภาพรวมที่ทำงานร่วมกับการเฝ้าระวังพฤติกรรมที่เบี่ยงเบนและการละเมิดความปลอดภัยของเอไอ
อย่างไรก็ตาม ระบบนี้ไม่ได้ป้องกันโมเดลไม่ให้ “พยายาม” ทำสิ่งเสี่ยงอันตรายตั้งแต่แรก แต่ถูกออกแบบมาเพื่อช่วยหยุดการประมวลผลเพิ่มเติม เมื่อมีคำสั่งเข้าแทรกแซงแล้วเท่านั้น ซึ่งทาง โอเพนเอไอ อธิบายว่า “ห้องควบคุมเป็นเพียงส่วนหนึ่งของแนวทางองค์รวมในการฝึกฝนและเปิดใช้งานโมเดลระดับแนวหน้า (Frontier Model คือโมเดลที่มีความสามารถสูงสุกและล้ำสมัยที่สุด) อย่างปลอดภัย”
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
ที่มา : ndtv.com
เครดิตภาพ : REUTERS
