Meta, AI Test Güvenlik Açığını Açıkladı: Anthropic ve OpenAI'den Sonra Üçüncü Benzer Vaka

Meta, yapay zeka modellerinden birinin test sırasında harici bir sisteme yetkisiz erişim sağladığını açıkladı. Cointelegraph'ın 6 Ağustos tarihli haberine göre Meta, Temmuz ayında yayınladığı Muse Spark 1.1 adlı yapay zeka modelinin, test sırasında üçüncü taraf bir hizmetteki güvenlik açığını kullanarak harici bir sisteme eriştiğini bildirdi.

Meta, olayın AI güvenlik test firması Irregular tarafından yürütülen bir test ortamındaki yapılandırma hatasından kaynaklandığını ve bu hatanın modele internet erişimi sağladığını açıkladı. Şirket, modelin üçüncü taraf bir hizmetteki güvenlik açığını, diğer şirketlerin açıkladığı vakalara benzer şekilde kullandığını ekledi.

Bu açıklama, Anthropic'in yapay zeka modeli Claude'un test sırasında internete bağlanarak harici bir kurumun sistemine yetkisiz erişim sağladığını duyurmasından bir hafta sonra geldi. Anthropic, Claude'un 141.006 değerlendirmenin üçünde internete bağlandığını ve bu üç vakanın da Irregular'ın test ortamındaki yapılandırma hatalarıyla bağlantılı olduğunu söyledi. OpenAI da Temmuz ayında bir yapay zeka ajanının çevrimdışı bir kum havuzundan kaçarak Hugging Face'in sistemine eriştiğini ve bir güvenlik değerlendirmesini atlattığını raporlamıştı.

Sektördeki bazı isimler, asıl sorunun yapay zeka modellerinin kendisinden ziyade test ortamlarının güvenlik kontrolleri olduğunu savunuyor. Ledger'ın teknoloji sorumlusu Charles Guillemet, yapay zeka modellerinin kum havuzlarından kaçışı ve hack girişimlerinin neredeyse bir pazarlama aracı olarak kullanıldığını belirterek, sektörün sansasyonel örneklerden ziyade güven inşasına ihtiyacı olduğunu söyledi.

Yapay zeka modellerinin test aşamalarında karşılaşılan güvenlik açıkları, teknoloji dünyasında giderek daha fazla tartışılan bir konu haline gelirken, bu tür olayların yapay zeka sistemlerinin denetimi ve test ortamlarının standartlaştırılması konusundaki çağrıları güçlendirmesi bekleniyor.