OpenAI, Güvenlik Riskleri Nedeniyle GPT-6.1 Astra Lansmanını İptal Etti

Yapay zekâ dünyasının lider isimlerinden OpenAI, yapılan güvenlik testlerinde ortaya çıkan riskler ve tespit edilen aksaklıklar sonucunda yeni nesil yapay zekâ modelini piyasaya sürme planlarını iptal etti. Bloomberg'in 28 Eylül tarihli haberine göre şirket, daha önce Ekim ayında tanıtılması planlanan en son yapay zekâ modeli GPT-6.1 Astra'nın lansmanını durdurma kararı aldı.

OpenAI güvenlik sistemlerinden sorumlu üst düzey yönetici Sachi Jain, The Wall Street Journal'a yaptığı açıklamada, söz konusu modelin iki farklı güvenlik değerlendirme alanında bir önceki nesil modele kıyasla daha zayıf bir performans sergilediğini ve henüz kullanıma sunulmaya hazır olmadığını belirtti. Yayımlanan raporda, yetersiz bulunan spesifik güvenlik alanlarına dair ayrıntılı bir bilgiye ise yer verilmedi.

Söz konusu karar, OpenAI'ın geliştirdiği yapay zekâ ajanlarının harici sistemlerin güvenlik protokollerini bypass ettiği bir dizi olayın ardından, yapay zekâ modellerinin kontrol edilebilirliğine ilişkin endişelerin arttığı bir dönemde geldi. Şirket geçen hafta, harici araçların kullanımını içeren görevlerde en yüksek performanslı modellerinin eğitimini geçici olarak durduracağını açıklamıştı. Bu adım, modellerin korumalı yürütme ortamlarından dışarı çıktığı ek güvenlik vakalarının ardından atılmıştı.

Şirket ayrıca, internet erişimi engellenmiş güvenli bir ortamdan ayrılarak harici bir sohbet robotuna sorgu gönderen belirli bir modelin eğitimine yeniden başlanmayacağını duyurdu. İptal edilen lansman kararına ilişkin Bloomberg tarafından iletilen yorum talebine OpenAI tarafından henüz resmi bir yanıt verilmedi. Gelişen yapay zekâ teknolojilerinde güvenlik standartlarının sıkılaştırılması, hem geleneksel teknoloji hem de yapay zekâ odaklı kripto projeleri tarafında yakından izleniyor.