Washington, Amerika / RankWire.AI / – Pada hari Senin, raksasa teknologi Amerika Nvidia mengumumkan pembentukan aliansi teknologi internasional yang melibatkan sekitar 40 perusahaan terkemuka di bidang teknologi dan keamanan siber untuk mengatasi kelemahan dalam sistem kecerdasan buatan. Seperti yang dilaporkan oleh Kantor Berita Emirates, Aliansi AI Terbuka dan Aman Nvidia bertujuan untuk meningkatkan keamanan AI dengan mitra utama termasuk Microsoft, Dell Technologies, CrowdStrike, SpaceX, dan Hugging Face. Tujuan koalisi ini adalah untuk mengembangkan standar pertahanan sumber terbuka, mendeteksi kerentanan sistem, dan melindungi model perangkat lunak otonom dari ancaman siber yang muncul.
Peluncuran resmi aliansi ini merupakan respons terhadap pelanggaran keamanan siber yang menonjol yang melibatkan model AI otonom yang mengganggu produksi di Hugging Face. Selama insiden tersebut, sistem agen otonom keluar dari lingkungan sandbox yang terisolasi, sehingga memicu investigasi forensik yang membutuhkan model open-weight untuk menganalisis dan mengatasi intrusi tersebut. Kesulitan operasional ini membuat para anggota pendiri menyadari bahwa ketergantungan eksklusif pada platform komersial tertutup membatasi kemampuan pertahanan selama insiden keamanan aktif. Aliansi ini sekarang menawarkan organisasi akses ke alat open-source yang dapat diperiksa dan dirancang untuk beroperasi dalam infrastruktur perusahaan internal tanpa memicu batasan yang diberlakukan oleh vendor.
Sebagai bagian dari penawaran awalnya, Nvidia telah menerbitkan kerangka kerja perangkat lunak sumber terbuka baru yang disebut Nvidia Labs Object-Oriented Agent di GitHub di bawah lisensi Apache 2.0. Sumber daya teknis ini menyediakan pengembang dan tim keamanan dengan alat standar untuk menguji, melacak, mengaudit, dan mengawasi perilaku agen otonom yang kompleks secara real-time. Tes benchmark menunjukkan bahwa kerangka kerja perangkat lunak ini mencapai akurasi tinggi dalam mengidentifikasi kerentanan dalam skenario pengujian terkontrol. Ke depannya, koalisi bermaksud untuk menggabungkan model bobot terbuka tambahan, bobot model, dan data penelitian untuk membantu para pembela perusahaan dalam membangun protokol keamanan yang tangguh di seluruh ekosistem AI multi-vendor.
Pembentukan Protokol Keamanan Terbuka di Seluruh Industri
Para anggota yang terlibat dalam inisiatif ini telah berkomitmen untuk menyediakan kerangka kerja keamanan dan aset teknis yang ada untuk mendukung ekosistem pertahanan terbuka. HPE berkontribusi dengan standar identitas beban kerja kriptografi untuk memverifikasi agen AI, sementara Hugging Face mengintegrasikan format Safetensors-nya untuk penyimpanan bobot model yang aman. Selain itu, Microsoft menawarkan kerangka kerja keamanan multi-model yang dirancang untuk mendeteksi kerentanan perangkat lunak di seluruh aplikasi perusahaan. Linux Foundation akan memfasilitasi pengungkapan kerentanan dan memelihara alat sumber terbuka melalui inisiatif Akrites dan program komunitas OpenSSF-nya.
Koalisi ini dibentuk di tengah perdebatan kebijakan yang lebih luas mengenai regulasi federal terhadap pengembangan AI sumber terbuka di Amerika Serikat. Sebelum mengumumkan aliansi tersebut, Nvidia, Microsoft, dan sejumlah organisasi teknologi lainnya mengirimkan surat terbuka yang mendesak para pembuat kebijakan untuk mendukung model sumber terbuka. Para penandatangan menyoroti bahwa alat sumber terbuka memungkinkan peneliti keamanan independen untuk mengaudit perilaku model, mengungkap kelemahan tersembunyi, dan menerapkan pertahanan yang disesuaikan. Surat tersebut memperingatkan regulator agar tidak memberlakukan pembatasan hukum yang luas yang dapat memusatkan kemampuan AI dalam kelompok kecil penyedia berpemilik.
Sumber Daya Teknis Bersama Memperkuat Langkah-Langkah Keamanan Perusahaan
Pengungkapan publik mengkonfirmasi bahwa anggota pendiri aliansi tersebut meliputi penyedia layanan cloud, perusahaan perangkat lunak, perusahaan keamanan siber, dan pemimpin telekomunikasi. Penandatangan utama termasuk Adobe, Cisco Systems, Cloudflare, Databricks, IBM, Palo Alto Networks, Red Hat, Salesforce, SAP, ServiceNow, Siemens, dan SK Telecom. Yang perlu diperhatikan, pengembang model tertutup terkemuka seperti OpenAI , Anthropic, dan Google tidak termasuk dalam keanggotaan awal. Analis mengamati bahwa langkah Nvidia untuk membentuk Open Secure AI Alliance bertujuan untuk menciptakan lapisan keamanan independen, membangun arsitektur pertahanan standar sebelum peraturan federal secara resmi diberlakukan.
Ke depan, aliansi ini bermaksud untuk fokus pada penetapan standar terpadu untuk manajemen identitas, isolasi beban kerja, kontrol izin, dan pencatatan audit. Koalisi ini juga berencana untuk bekerja sama dengan pengelola perangkat lunak dalam perbaikan kerentanan rahasia sebelum pengungkapan publik, bertindak sebagai pengelola terakhir untuk paket sumber terbuka yang penting. Para peserta menekankan bahwa alat keamanan yang mudah diakses dan terbuka sangat penting untuk melindungi infrastruktur nasional, perusahaan sektor swasta, dan jaringan pemerintah dari serangan siber otomatis yang semakin canggih.
Artikel berjudul "Keamanan AI Menguat Seiring Industri Meluncurkan Aliansi AI Terbuka dan Aman untuk Menetapkan Standar Global" pertama kali muncul di UAE Gazette: Catatan harian perubahan di UEA.