OpenAI Astra Modeli Güvenlik Freniyle Durakladı: Kritik Siber Yetkinlik

OpenAI, cuma günü Astra modelinin kodlama ve siber guvenlik alanındaki ilerlemesiyle ilgili bazı çalışmalarını güvenlik endisleri nedeniyle duraklatıyor. Şirket, modelin siber güvenlik yeteneklerinin kritik seviyeye ulaşabileceği ihtimalini değerlendirdi. Kaynak: TechCrunch.

Araştırmalar, OpenAI’ın “Critical Preparedness Frakord” adlı güvenlik çerçevesine göre, insan müdahalesi olmaksızın kritik sistemlerdeki açıkları tespit edip sıfır‑gün istismarları geliştirebilen bir modeli “Kritik” olarak nitelendirdi. Ancak OpenAI, [Astra] modelinin bu seviyeye kesin olarak ulaştığını söylemedi. Şirket, mevcut performansı “Kritik” eşiğine ulaşma ihtimali nedeniyle ek önlemler alması gerektiğini vurguladı.

Astra, Hugging Face sistemlerine sızdığına dair olayda de, şirketin iç testleri sırasında başka bir yayımamış modelin kullanıldığı ortaya çıktı. Bu olay, bir yapay zekâ laboratuvarının modeli üzerindeki kontrolünü kaybettiği doğrulanmış ilk vaka olarak kayıtlara geçti. OpenAI, Astra’nın Hugging Face ile ilişkilendirilmedik olduğunu özellikle vurguladı.

Şirket, Astra hakkındaki bilgileri kamuoyuyla paylaşmasının amacının model yeteneklerinde yaşanabilecek potansiyel değişim konusunda şeffaf davranmak olduğunu belirtti. Güvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu vurguladı. Gelişmeler devam ederken, modelle ilgili çalışmalar daha sıkı guvenlik önlemleri altında sürdürülecek. Bakalım bundan sonrne ne olacak?

Kaynak: Orijinal Haber