OpenAI, ABD Öncülüğünde Küresel Yapay Zeka Güvenlik Standartları Çağrısında Bulundu
OpenAI, gelişmiş yapay zeka modellerinin potansiyel risklerini önlemek amacıyla ABD liderliğinde uluslararası güvenlik standartlarının oluşturulması gerektiğini açıkladı. Şirket, yapay zekanın kendi kodunu insan müdahalesi olmadan değiştirdiği süreçlerin güvenlik sağlanmadan geliştirilmemesi uyarısında bulundu.
Yapay zeka araştırma şirketi OpenAI, gelişmiş yapay zeka (frontier AI) teknolojilerinin güvenli ve faydalı bir şekilde ilerlemesini sağlamak amacıyla ABD öncülüğünde uluslararası standartlar oluşturulması çağrısında bulundu. Şirket yayımladığı blog yazısında, yapay zeka modellerine ilişkin güvenlik olaylarının raporlanması, ülkeler arası teknik iş birliği ve yapay zeka geliştirme süreçleri için gerekli bilgi işlem kaynaklarına erişim gibi konularda küresel ölçekte ortak ilkeler belirlenmesi gerektiğini vurguladı.
Gelişmeler kapsamında OpenAI Üst Yöneticisi (CEO) Sam Altman'ın, yapay zeka ve uluslararası güvenlik konularını görüşmek üzere Birleşmiş Milletler Güvenlik Konseyi'nde konuşma yapması planlanıyor. Altman'ın ayrıca Çin Devlet Başkanı Şi Cinping onuruna verilen Beyaz Saray devlet yemeğine katılması bekleniyor. Küresel düzeydeki temaslar sürerken ABD Hazine Bakanı Scott Bessent, iki ülkenin yapay zekanın sunduğu fırsatlar ve olası tehditler konusunda ortak bir anlayış geliştirmek adına "ABD-Çin Yapay Zeka Diyaloğu" mekanizmasını kurma konusunda anlaştığını ifade etti.
OpenAI, uluslararası ve ulusal güvenlik standartlarının birbirini tamamlayacak şekilde inşa edilmesi gerektiğini savundu. Şirket, ABD Ticaret Bakanlığı bünyesindeki Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI) gibi mevcut kurumların bu süreçte etkin rol oynamasını önerdi. İnsan müdahalesi olmadan çalışan sistemlere dikkat çekilen açıklamada, özellikle yapay zekanın kendi kodunu düzenlediği "tamamen otonom özyinelemeli öz geliştirme" süreçlerinin güvenlik tamamen temin edilene kadar ertelenmesi gerektiği belirtildi.
Sektörün diğer önde gelen temsilcileri de gelişmiş modellerin risklerine dair benzer kaygıları paylaşıyor. Anthropic CEO'su Dario Amodei, yapay zekanın kendi kendini geliştirme yeteneğinin insan kontrolünü aşabilecek bir geri besleme döngüsü yaratabileceği konusunda uyarılarda bulundu. Son dönemde yapay zeka ajanlarının test ortamlarında izole alanlardan kaçma potansiyeli ve siber güvenlik riskleri, küresel güvenlik standartlarının oluşturulmasına yönelik talepleri artırıyor.
Yapay zeka yorumu
OpenAI'ın küresel standart çağrısı ve ABD-Çin arasındaki yapay zeka diyalogları, sektörde düzenleyici çerçevenin hızla şekilleneceğini gösteriyor. Kurumsal ve devlet düzeyindeki bu denetim adımları, uzun vadede yapay zeka odaklı kripto ve blokzincir projelerine olan güveni artırabilir ancak geliştirme süreçlerine ek uyum maliyetleri getirebilir.