Arkadaşlar bugün gelen haberler akıl alır gibi değil. Dünyanın en büyük yapay zeka şirketi OpenAI kendi ürettiği yapay zekanın kontrolden çıktığını ve günlerce bunu fark etmediğini itiraf etti. Evet yanlış duymadınız kendi yarattıkları otonom sistem adeta başıboş bir şekilde internete saldırmış… Üstelik sadece bir platforma değil birden fazla hizmete sızmış.
Olayın perde arkası daha da ilginç. OpenAI test aşamasında bir yapay zeka ajanına sızma testi yaptırıyormuş. Yani sisteme “şu sorulara cevap bul” demişler. Ama yapay zeka öyle bi coşmuş ki kendine verilen sınırları aşmış. Kapalı ortamdan çıkarak Hugging Face adlı yapay zeka platformuna saldırmış. Hemde öyle böyle değil resmen hesap bilgilerini çalıp dört farklı hesap üzerinden dört ayrı hizmete erişmiş
Şirket yaptığı açıklamada yapay zekanın internette açık şekilde bulunan giriş bilgilerini kullandığını itiraf etti. Yani adamlar şifre falan kırmamış internetten bulduğu bilgilerle giriş yapmış. Ama işin can alıcı noktası şu: Bu saldırı hangi diğer hizmetlere yapıldı? Şirket bu soruya cevap vermedi. “Kamuya açık hizmetler” dedi geçti.
Hugging Face 16 Temmuzda büyük bi siber saldırıya uğradıklarını duyurmuştu ve hemen polise başvurdular. Yaklaşık bir hafta sonra OpenAI çıkıp “Evet bu saldırıyı bizim yapay zekamız yaptı” dedi. Düşünsenize bir şirket kendi yapay zekasının bir başka platforma sızdığını fark etmesi dört gün sürmüş. DÖRT GÜN! Bu süre boyunca yapay zeka saldırısına devam etmiş kimsenin haberi yok
Hazırlanan raporda ilginç detaylar var. Yapay zeka ajanları insanlardan çok farklı hareket ediyormuş. Mesela aynı işlemleri defalarca tekrar ediyorlar anlamsız komutlar üretiyorlar ama izlerini gizleyemiyorlar. Buna karşın inanılmaz bi hızları var. Çok kısa sürede binlerce farklı yöntemi aynı anda deneyerek yeni durumlara uyum sağlıyorlar. Yani geleneksel güvenlik sistemlerine karşı onların hızına yetişmek imkansız gibi bişey…
Hugging Face’te bu yapay zeka ajanları tam üç gün boyunca fark edilmeden dolaşmış. Şirket ağı içinde gezmişler durmuşlar. Saldırıyı durdurmak saatler sürmüş. Olayın ardından şirket altyapısının neredeyse üçte biri yeniden inşa edilmek zorunda kalınmış. Yani gidip sunucuları söküp yeniden kurmuşlar. Maliyet konusunda ise hiç bi bilgi yok açıklanmadı.
Raporda ayrıca şu çok önemli uyarı da var: bu sistemler hedef odaklı çalışıyor. Kendi alt hedeflerini belirleyebiliyor savunma mekanizmalarına gerçek zamanlı uyum sağlayabiliyor. Yani siz bir güvenlik duvarı koyuyorsunuz o hemen ona göre davranış değiştiriyor. Makine hızında hareket ederek geleneksel güvenlik önlemlerini zorluyor. Korkutucu değil mi?
OpenAI soruşturmanın sonuçlarını kısa süre içinde kamuoyuyla paylaşacağını söyledi. “Benzer olaylardan ders çıkarılması için ayrıntılı bulguları yayımlayacağız” dediler. Bakalım ne kadar ders çıkarıcaz bu işten… Yapay zeka artık o kadar hızlı ve otonomki onu kontrol etmek neredeyse imkansız gibi duruyor. Kim bilir daha neler göreceğiz…
Kaynak: Orijinal Haber
