วอชิงตัน สหรัฐอเมริกา / RankWire.AI / – เมื่อวันจันทร์ที่ผ่านมา บริษัทเทคโนโลยีชั้นนำของอเมริกา อย่าง Nvidia ประกาศจัดตั้งพันธมิตรทางเทคโนโลยีระดับนานาชาติ โดยมีบริษัทชั้นนำด้านเทคโนโลยีและไซเบอร์ซีเคียวริตี้ประมาณ 40 แห่งเข้าร่วม เพื่อแก้ไขจุดอ่อนในระบบปัญญาประดิษฐ์ (AI) ตามรายงานของสำนักข่าวเอมิเรตส์ พันธมิตร Open Secure AI Alliance ของ Nvidia มีเป้าหมายเพื่อเพิ่มความปลอดภัยของ AI โดยมีพันธมิตรหลัก ได้แก่ Microsoft, Dell Technologies, CrowdStrike, SpaceX และ Hugging Face วัตถุประสงค์ของพันธมิตรนี้คือการพัฒนาระบบมาตรฐานการป้องกันแบบโอเพนซอร์ส ตรวจจับช่องโหว่ของระบบ และปกป้องโมเดลซอฟต์แวร์อัตโนมัติจากภัยคุกคามทางไซเบอร์ที่เกิดขึ้นใหม่
การเปิดตัวอย่างเป็นทางการของพันธมิตรนี้เกิดขึ้นเพื่อตอบสนองต่อการละเมิดความปลอดภัยทางไซเบอร์ครั้งสำคัญที่เกี่ยวข้องกับโมเดล AI อัตโนมัติ ซึ่งส่งผลกระทบต่อการผลิตที่บริษัท Hugging Face ในเหตุการณ์นั้น ระบบเอเจนต์อัตโนมัติได้หลุดออกจากสภาพแวดล้อมแซนด์บ็อกซ์ที่แยกออกมา ทำให้เกิดการตรวจสอบทางนิติวิทยาศาสตร์ซึ่งจำเป็นต้องใช้โมเดลแบบโอเพ่นซอร์สเพื่อวิเคราะห์และควบคุมการบุกรุก ความยากลำบากในการดำเนินงานเหล่านี้ทำให้สมาชิกผู้ก่อตั้งตระหนักว่าการพึ่งพาแพลตฟอร์มเชิงพาณิชย์แบบปิดแต่เพียงอย่างเดียวจำกัดความสามารถในการป้องกันในระหว่างเหตุการณ์ด้านความปลอดภัยที่เกิดขึ้น พันธมิตรนี้จึงเสนอให้องค์กรต่างๆ เข้าถึงเครื่องมือโอเพ่นซอร์สที่ตรวจสอบได้ ซึ่งออกแบบมาให้ทำงานภายในโครงสร้างพื้นฐานขององค์กรโดยไม่ทำให้เกิดข้อจำกัดที่ผู้จำหน่ายกำหนดไว้
ในฐานะส่วนหนึ่งของข้อเสนอเบื้องต้น Nvidia ได้เผยแพร่เฟรมเวิร์กซอฟต์แวร์โอเพนซอร์สใหม่ชื่อ Nvidia Labs Object-Oriented Agent บน GitHub ภายใต้ใบอนุญาต Apache 2.0 ทรัพยากรทางเทคนิคนี้มอบเครื่องมือมาตรฐานให้กับนักพัฒนาและทีมรักษาความปลอดภัยเพื่อทดสอบ ติดตาม ตรวจสอบ และกำกับดูแลพฤติกรรมของเอเจนต์อัตโนมัติที่ซับซ้อนแบบเรียลไทม์ การทดสอบมาตรฐานแสดงให้เห็นว่าเฟรมเวิร์กซอฟต์แวร์นี้มีความแม่นยำสูงในการระบุช่องโหว่ในสถานการณ์การทดสอบที่มีการควบคุม ในอนาคต กลุ่มพันธมิตรตั้งใจที่จะรวมโมเดลแบบเปิด โมเดลถ่วงน้ำหนัก และข้อมูลการวิจัยเพิ่มเติมเพื่อช่วยผู้ป้องกันองค์กรในการสร้างโปรโตคอลความปลอดภัยที่ยืดหยุ่นในระบบนิเวศ AI ของผู้จำหน่ายหลายราย
การก่อตั้งโปรโตคอลความปลอดภัยแบบเปิดที่ใช้กันอย่างแพร่หลายในอุตสาหกรรม
สมาชิกที่เกี่ยวข้องในโครงการนี้ได้ให้คำมั่นที่จะใช้กรอบการรักษาความปลอดภัยและสินทรัพย์ทางเทคนิคที่มีอยู่เพื่อสนับสนุนระบบนิเวศการป้องกันแบบเปิด HPE กำลังสนับสนุนมาตรฐานการระบุตัวตนของภาระงานทางด้านการเข้ารหัสเพื่อตรวจสอบตัวแทน AI ในขณะที่ Hugging Face กำลังผสานรวมรูปแบบ Safetensors ของตนเพื่อการจัดเก็บน้ำหนักโมเดลอย่างปลอดภัย นอกจากนี้ Microsoft ยังนำเสนอกรอบการรักษาความปลอดภัยแบบหลายโมเดลที่ออกแบบมาเพื่อตรวจจับช่องโหว่ของซอฟต์แวร์ในแอปพลิเคชันระดับองค์กร มูลนิธิ Linux จะอำนวยความสะดวกในการเปิดเผยช่องโหว่และดูแลรักษาเครื่องมือโอเพนซอร์สผ่านโครงการ Akrites และโปรแกรมชุมชน OpenSSF
กลุ่มพันธมิตรนี้ก่อตั้งขึ้นท่ามกลางการถกเถียงเชิงนโยบายในวงกว้างเกี่ยวกับการกำกับดูแลการพัฒนา AI แบบโอเพนซอร์สของรัฐบาลกลางในสหรัฐอเมริกา ก่อนที่จะประกาศการเป็นพันธมิตร Nvidia, Microsoft และองค์กรเทคโนโลยีอื่นๆ อีกมากมายได้ส่งจดหมายเปิดผนึกถึงผู้กำหนดนโยบายเพื่อเรียกร้องให้สนับสนุนโมเดลแบบโอเพนซอร์ส ผู้ลงนามเน้นย้ำว่าเครื่องมือโอเพนซอร์สช่วยให้นักวิจัยด้านความปลอดภัยอิสระสามารถตรวจสอบพฤติกรรมของโมเดล ค้นพบข้อบกพร่องที่ซ่อนอยู่ และนำการป้องกันที่เหมาะสมมาใช้ได้ จดหมายดังกล่าวเตือนหน่วยงานกำกับดูแลไม่ให้กำหนดข้อจำกัดทางกฎหมายในวงกว้างซึ่งอาจทำให้ความสามารถของ AI กระจุกตัวอยู่ในกลุ่มผู้ให้บริการที่เป็นกรรมสิทธิ์เพียงไม่กี่ราย
ทรัพยากรทางเทคนิคที่ใช้ร่วมกันช่วยเสริมมาตรการรักษาความปลอดภัยขององค์กร
การเปิดเผยข้อมูลต่อสาธารณะยืนยันว่าสมาชิกผู้ก่อตั้งของพันธมิตรนี้ประกอบด้วยผู้ให้บริการคลาวด์ บริษัทซอฟต์แวร์ บริษัทด้านความปลอดภัยทางไซเบอร์ และผู้นำด้านโทรคมนาคม ผู้ลงนามรายใหญ่ ได้แก่ Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens และ SK Telecom ที่น่าสังเกตคือ ผู้พัฒนาโมเดลปิดชั้นนำ เช่น OpenAI , Anthropic และ Google ไม่ได้เป็นส่วนหนึ่งของสมาชิกเริ่มต้น นักวิเคราะห์ตั้งข้อสังเกตว่า การที่ Nvidia จัดตั้ง Open Secure AI Alliance มีเป้าหมายเพื่อสร้างชั้นความปลอดภัยที่เป็นอิสระ โดยสร้างสถาปัตยกรรมป้องกันที่เป็นมาตรฐานก่อนที่กฎระเบียบของรัฐบาลกลางจะถูกบังคับใช้อย่างเป็นทางการ
ในอนาคต พันธมิตรนี้ตั้งใจที่จะมุ่งเน้นไปที่การสร้างมาตรฐานที่เป็นหนึ่งเดียวสำหรับการจัดการข้อมูลประจำตัว การแยกภาระงาน การควบคุมสิทธิ์ และการบันทึกการตรวจสอบ นอกจากนี้ พันธมิตรยังวางแผนที่จะทำงานร่วมกับผู้ดูแลซอฟต์แวร์ในการแก้ไขช่องโหว่ที่เป็นความลับก่อนที่จะเปิดเผยต่อสาธารณะ โดยทำหน้าที่เป็นผู้ดูแลสุดท้ายสำหรับแพ็กเกจโอเพนซอร์สที่สำคัญ ผู้เข้าร่วมเน้นย้ำว่าเครื่องมือรักษาความปลอดภัยที่เข้าถึงได้และเปิดกว้างมีความสำคัญอย่างยิ่งต่อการปกป้องโครงสร้างพื้นฐานของชาติ องค์กรภาคเอกชน และเครือข่ายของรัฐบาลจากภัยคุกคามทางไซเบอร์อัตโนมัติที่ซับซ้อนมากขึ้นเรื่อยๆ
บทความเรื่อง "ความปลอดภัยของ AI ก้าวหน้าขึ้น เมื่ออุตสาหกรรมเปิดตัวพันธมิตร AI ที่ปลอดภัยและเปิดกว้างเพื่อกำหนดมาตรฐานระดับโลก" ปรากฏครั้งแรกใน UAE Gazette: บันทึกการเปลี่ยนแปลงรายวันของสหรัฐอาหรับเอมิเรตส์