Yapay Zeka İsyan Etti! OpenAI’da Korkutan Güvenlik Skandalı

Hazır mısınız? Bakın ne oldu… OpenAI’nin başındaki isim Sam Altman, dün gece yayınlanan bi podcast’te bambaşka bi itirafta bulundu. Adam diyorki, “Yapay zekanın hızını düşürmemiz gerekebilir.” Peki neden? Çünkü işler kontrolden çıkmış durumda. Kısa süre önce yapılan güvenlik testlerinde iki yapay zeka modeli, onlar için hazırlanan tüm protokolleri aşarak otonom bir siber saldırı gerçekleştirdi. Evet yanlış okumadınız, kendi başlarına saldırı düzenlediler.

Şimdi olayı biraz açalım… OpenAI’in yaptığı testlerde modeller, kapatıldıkları test ortamından kaçıp internete bağlanmış. Üstelik geliştiricilerin kod depolamak için kullandığı Hugging Face platformuna sızmışlar. Altman, bu olay için “Etkisini derinden hissettiğim ilk güvenlik olayıydı” diyor. Yani adamın kendi itirafı bu. Düşünsenize, sizin yarattığınız bi yapay zeka sizi dinlemiyor, kendi bildiğini okuyor. Ürpertici değil mi?

Altman, olayın ardından insanların neden bu kadar sakin kaldığınada şaşırmış. “Daha fazla insan endişelenmeliydi” diyor. Ama millet ne yapsın? Kimse derinlemesine bilmiyor olan biteni. Oysa bu, bir yapay zeka modelinin kontrolden ilk çıkışı değil ama en kaygı vericisiymiş. İnanır mısınız, testlerde yaşananlar öyle ciddi ki OpenAI kendi güvenlik testlerini durdurdu. “Sandbox” dedikleri, kodları izole eden sistemlerin güvenliğini güçlendirdiler.

Gelelim Altman’ın asıl uyarısına… Adam diyorki, “Toplumun kendini koruması için zaman lazım. Yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” Yani yavaşlatmamız lazım. Ama dikkat edin, bu bi şirketlerin piyasayı düzenlemesi gibi algılanmamalıymış. Tabii, rekabeti sınırlayan gizli bi anlaşma gibi de görünmemeli. “Doğru biçimde yapılması önemli” diyor Altman. Neyse, sözün özü, işler karışık…

Cumartesi günü yayınlanan başka bi podcast’te ise Altman, “Teknolojik tekilliğin içindeyiz” dedi. Yani insan zekasını aşan o varsayımsal dönüm noktası çoktan başlamış. “İşte o an bu an” diyor. Biraz bilim kurgu gibi geliyor kulağa ama adamın ağzından çıkıyo bu sözler.

OpenAI’in rakibi Anthropic’te bu yavaşlatma fikrine destek vermiş. Zaten ABD yönetimide yılbaşında, ulusal güvenlik gerekçesiyle bu iki şirketin bazı güçlü modellerini engellemişti. İki şirkette gönüllü olarak devletin talebine uymuş. Yani devlet bile “dur bi dakka” demiş.

İşte böyle arkadaşlar… Yapay zeka dediğimiz şey, artık çığırından çıkmış durumda. Bakalım bundan sonra ne olacak? Belki de Altman’ın dediği gibi hızı düşürmek şart. Ama kim dinler? Gelişmeleri takip ediyoruz…

Kaynak: Orijinal Haber