OpenAI test sonuçlarını açıkladı. Yapay zeka modelleri belirlenen sınırların dışına çıktı

OpenAI, test sonuçlarını açıkladı. Yapay zeka modelleri belirlenen sınırların dışına çıtı. İlk raporda, iki bağımsız kuruluşun yaptıkları siber güvenlik değerlendirmelerinde, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan test kapsamının dışına çıktığı tespit edildi.

Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde, internete erişimine izin verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi. Model, internet üzerinde gerçek hizmetlerin API’lerine bağlanırken testin sınırlarını aştı.

İkinci değerlendirme ise OpenAI’ın dış test ortaklarından Irregular tarafından yürütülen bir testte gerçekleşti. Test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulanan açıklamada, modelin simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı. Bu olay, beklenmedik bir şekilde testin dışına taşındı.

Ayrıca, OpenAI, daha önce de siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin yapay zeka platformu Hugging Face’in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu. Bu olay, Hugging Face güvenlik olayından ayrı olarak değerlendirildi.

Sonuç olarak, bu testlerin sonuçları şirketin güvenlik protokollerini yeniden gözden geçirmesini gerektirecek. Ne zaman ve nasıl düzeltme yapılacak, merak konusu. Bakalım bundan sonra ne olacak?

Kaynak: Orijinal Haber