ข้อตกลงดังกล่าวไม่รวมถึงจีน รวมถึงข้อเสนอแนะสำหรับการตรวจสอบระบบ AI เพื่อป้องกันการละเมิด การปกป้องข้อมูล และการตรวจสอบซัพพลายเออร์ซอฟต์แวร์
หน่วยงานบังคับใช้กฎหมายและหน่วยงานด้านข่าวกรอง 22 แห่งจาก 18 ประเทศได้ลงนามในข้อตกลงระหว่างประเทศว่าด้วยความปลอดภัย AI ในช่วงสุดสัปดาห์ที่ผ่านมา ซึ่งออกแบบมาเพื่อให้เวอร์ชันใหม่ของเทคโนโลยีนี้ “ปลอดภัยโดยการออกแบบ”
ข้อตกลงนี้เกิดขึ้นหลายเดือนหลังจากสหภาพยุโรปลงนามใน EU AI Act ในเดือนมิถุนายน ซึ่งห้ามเทคโนโลยี AI บางอย่างรวมถึงการเฝ้าระวังทางชีวภาพและการคาดการณ์การบังคับใช้กฎหมาย และจัดประเภทระบบ AI ที่อาจส่งผลกระทบอย่างมากต่อสุขภาพ ความปลอดภัย สิทธิ์ หรือการเลือกตั้งเป็นความเสี่ยงสูง
“ระบบ AI มีศักยภาพที่จะนำประโยชน์มากมายมาสู่สังคม อย่างไรก็ตาม เพื่อให้โอกาสของ AI บรรลุผลสำเร็จอย่างเต็มที่ จะต้องพัฒนา ปรับใช้ และดำเนินการในลักษณะที่ปลอดภัยและรับผิดชอบ” ข้อตกลงล่าสุดระบุไว้
[ Bing’s AI chatbot มาทำงานแทนฉัน ฉันต้องไล่มันออก ] ข้อตกลงนี้เน้นย้ำว่าด้วยความเร็วของการพัฒนา AI ที่รวดเร็ว ความปลอดภัยจะต้องไม่ใช่สิ่งที่คิดตามหลัง แต่เป็นข้อกำหนดหลักที่รวมอยู่ในวงจรชีวิตของระบบ AI
“ระบบ AI อาจตกเป็นเป้าหมายของช่องโหว่ด้านความปลอดภัยแบบใหม่ที่จำเป็นต้องได้รับการพิจารณาควบคู่ไปกับภัยคุกคามด้านไซเบอร์ทั่วไป” รายงานระบุ “เมื่อความเร็วในการพัฒนาสูง — เช่นเดียวกับ AI — ความปลอดภัยมักจะกลายเป็นสิ่งที่ต้องพิจารณาเป็นอันดับสอง”
วิธีหนึ่งที่ความปลอดภัยเฉพาะ AI แตกต่างกันคือการมีอยู่ของปรากฏการณ์ที่เรียกว่า “การเรียนรู้ของเครื่องจักรที่ไม่เป็นมิตร”
เรียกว่าความกังวลที่สำคัญในสาขาการพัฒนาความปลอดภัย AI ในรายงาน การเรียนรู้ของเครื่องจักรที่ไม่เป็นมิตรถูกกำหนดให้เป็นการแสวงหาผลประโยชน์เชิงกลยุทธ์จากช่องโหว่พื้นฐานที่มีอยู่ในส่วนประกอบของการเรียนรู้ของเครื่องจักร
โดยการจัดการองค์ประกอบเหล่านี้ ฝ่ายตรงข้ามอาจ disrupt หรือหลอกลวงระบบ AI ได้ ซึ่งนำไปสู่ผลลัพธ์ที่ผิดพลาดหรือฟังก์ชันการทำงานที่เสียหาย
นอกเหนือจากร่างกฎหมาย AI ของ EU ในสหรัฐอเมริกา ประธานาธิบดี Joe Biden ได้ลงนามในคำสั่งบริหารในเดือนตุลาคมเพื่อควบคุมการพัฒนา AI โดยกำหนดให้ผู้พัฒนาโมเดล AI ที่ทรงพลังต้องแบ่งปันผลลัพธ์ด้านความปลอดภัยและข้อมูลสำคัญกับรัฐบาล
จีนไม่ได้ลงนาม
ข้อตกลงดังกล่าวได้รับการลงนามโดยหน่วยงานรัฐบาลจากออสเตรเลีย แคนาดา ชิลี สาธารณรัฐเช็ก เอสโตเนีย ฝรั่งเศส เยอรมนี อิสราเอล อิตาลี ญี่ปุ่น นิวซีแลนด์ ไนจีเรีย นอร์เวย์ โปแลนด์ เกาหลีใต้ และสิงคโปร์ นอกเหนือจากสหราชินิตีและสหรัฐอเมริกา โดยไม่มีการลงนามในข้อตกลงนี้คือ จีน ซึ่งเป็นมหาอำนาจด้าน
