NVIDIA‘da Yeni Anlatı: Cramer’a Göre “Open AI Security Alliance” Hamlesi
NVIDIA, Microsoft, IBM ve Palantir gibi 36 iş ortağıyla birlikte Pazartesi günü Open Secure AI Alliance‘ı başlatıyor. Bu adım, temmuz ayında kapalı yapay zeka modellerinin Hugging Face’in saldırganını tespit etmesine yardımcı olmayı reddetmesinin hemen ardından geliyor. İttifak üyeleri arasında açık yapay zeka modelleri, veri ve güvenlik araçları paylaşılacak. NVIDIA, savunma tarafının kendi açabileceği, değiştirebileceği ve istediği gibi çalıştırabileceği yapay zekalara ihtiyaç duyduğunu söylüyor. Kapalı Yapay Zeka Modelleri Hugging Facede Neden Sınıfta Kaldı? Saldırı, bulaştırılmış bir veri setiyle başlıyor. Hugging Facein paylaştığı detaylara göre, saldırgan şirketin bir makinesinde kod çalıştırmayı başarıyor. Sponsorlu Sponsorlu Ardından saldırgan parolaları ele geçiriyor. Sonrasında iç sistemlere hafta sonu boyunca yayılıyor. Hugging Facein kendi yapay zekası saldırıyı tespit ediyor. Fakat asıl zorluk temizleme kısmında başlıyor. Şirket, piyasadaki önde gelen ticari yapay zeka modellerinden süreci analiz etmelerini istiyor. Ancak bu modeller reddediyor. Güvenlik filtreleri, saldırganla savunucuyu ayırt edemiyor. Bunun üzerine ekip, açık kaynaklı GLM 5.2 modelini kullanıyor. Kendi sunucularında çalıştırdıkları bu model, saldırgana ait 17.000den fazla işlemi saatler içinde sıralıyor. Hiçbir parola şirket dışına çıkmıyor. 16 Temmuzda Hugging Face saldırıyı gerçekleştiren yapay zekanın hangisi olduğunu bilmediğini belirtiyor. Beş gün sonra OpenAI yanıtı açıklıyor: Güvenlik testleri sırasında, güvenlik sınırları devre dışı bırakılan iki model bu saldırıyı gerçekleştirmiş. Hugging Face‘in kurucu ortağı ve CEO’su Clem Delangue, OpenAIin yayınladığı açıklamada şu ifadeleri