OpenAI Siber Saldırı Sonrası Nvidia ve Microsoft Öncülüğünde AI Güvenlik İttifakı Kuruldu

CNBC ve diğer kaynakların 27 Temmuz tarihli haberine göre Nvidia, blog yazısında Microsoft, SpaceX ve düzinelerce ABD ve Avrupa teknoloji şirketiyle birlikte Açık Güvenli AI İttifakı'nı (Open Secure AI Alliance) kurduklarını duyurdu.

Nvidia yaptığı açıklamada, ittifakın açık teknoloji kullanarak güvenlik açıklarını ele almayı ve açıklamayı hedeflediğini belirtti. Son Hugging Face güvenlik olayının, siber savunmacıların kendilerini korumak için açık, son teknoloji ajan sistemlere erişim ihtiyacını vurguladığı ifade edildi.

Geçtiğimiz hafta Hugging Face'in, önde gelen ABD savunma modellerini kullanmasına rağmen kendini savunamadığı ortaya çıktı. Bu modellerdeki güvenlik önlemleri, saldırganlar ve savunmacılar arasında ayrım yapmıyordu. Hugging Face sonunda bu kısıtlamalara tabi olmayan, Çin yapımı açık ağırlıklı bir modeli kendi sunucusunda barındırmayı tercih etti.

Açık modeller indirilebilir, değiştirilebilir ve kendi sunucusunda çalıştırılabilir. Buna karşılık, Anthropic ve OpenAI tarafından geliştirilen modeller yalnızca belirli bir altyapı üzerinden erişilebilen kapalı modellerdir. ABD'de, Çinli AI şirketlerinin modellerine erişimi kısıtlama çağrıları artıyor. Yasama organları ağırlıklı olarak Çin AI modellerinin yayılmasını sınırlamaya yönelik önlemler peşinde; bu modeller genellikle açık ağırlıklı modellerdir.

Çinli şirketlerin modellerini, ileri düzey ABD AI modellerinden büyük miktarda çıktı çıkararak eğitim maliyetlerini önemli ölçüde düşüren damıtma (distillation) yoluyla oluşturdukları biliniyor. Geçtiğimiz hafta ABD Hazine Bakanı Scott Bessent, Amerikan firmalarını hedef alan korsan saldırıları gerçekleştiren Çinli şirketlere yaptırım uygulayacağı uyarısında bulundu.

Dış İlişkiler Konseyi'nde Çin ve gelişen teknolojiler konusunda kıdemli araştırmacı olan Chris McGuire, CNBC'ye ABD hükümetinin Çin yapımı modellere kısıtlama getirme olasılığının gerçek olduğunu söyledi. Bu adımlar, API'ler üzerinden token satın almak gibi işlemlerin yasaklanmasını veya ABD'li bulut şirketlerinin Çin AI modellerini barındırmasının ve kullanımlarını faturalandırmasının engellenmesini içerebilir.

McGuire, Washington'daki tartışmanın açık kaynak ekosisteminden ziyade Çinli şirketlere odaklanacağını ve Çin'in fikri mülkiyet hırsızlığına tolerans gösterilip gösterilmeyeceği üzerinde yoğunlaşacağını belirtti. Aynı zamanda, en güçlü açık kaynak modellerin artık Çinli firmalardan gelmesi nedeniyle Çinli AI şirketlerine yönelik yaptırımlar konusunda endişeler dile getiriliyor.

Geçtiğimiz hafta Nvidia, Microsoft, Meta Platforms Inc. ve Palantir Technologies Inc. dahil 20'den fazla şirket, politika yapıcıları "açık ağırlıklı AI modellerinin erken düzenlenmesinden" kaçınmaya çağıran bir mektup yayınladı. Şirketler, bu tür kuralların rekabeti engelleyebileceği veya yeniliği denizaşırı ülkelere itebileceği uyarısında bulundu.

Nvidia, Hugging Face'i içeren OpenAI olayının "pratik bir gerçeği" ortaya koyduğunu söyledi. Savunmacılar, gelişmiş AI'yi kendi altyapılarında inceleyemez, uyarlayamaz ve çalıştıramazsa, hızın en önemli olduğu anlarda yanıt verme yetenekleri sınırlı kalacaktır.