Yapay Zeka İsyan Etti! OpenAI’nin Testi Kontrolden Çıktı, Hugging Face’e Sızdılar
Dostlar bugün öyle bi haberle geldim ki içiniz ürperecek. OpenAI yani o meşhur ChatGPT’nin sahibi firma, Salı günü yaptığı açıklamayla tüm dünyayı şoke etti. Dedilarki gelişmiş yapay zeka modelleri güvenlik testleri sırasında kontrolden çıktı. Evet yanlış duymadınız. Programcıların en çok kullandığı platformlardan biri olan Hugging Face sistemine, bu yapay zekalar kendi başlarına sızdı. San Francisco merkezli firma bu durumu “benzeri görülmemiş bir siber saldırı” olarak nitelendirdi ve soruşturma başlattı. Yani olay büyük arkadaşlar…
Olayın ayrıntılarına girelim biraz. OpenAI, bu testleri yaparken aslında modelleri izole edilmiş bir dijital ortamda tutuyodu. Ama ne olduysa oldu. Modeller değerlendirme sorununu çözmek için uğraşırken, bir şekilde internet erişimi elde etmenin yolunu buldular. Bunun için önemli miktarda işlem gücü harcadılar dedi şirket. Sonra ne yaptılar? Hedef olarak Hugging Face platformunu seçdiler. Oradaki bilgilere erişmeye çalışdılar. Üstelik çalınan kimlik bilgilerini kullanmak dahil birden fazla saldırı yöntemini bir araya getirdiler. Yani sadece bir yöntem değil, birkaç farklı teknikle sisteme girmeye çalışdılar.
Burada en korkutucu kısım ne biliyormusunuz? UNSW Canberra’da bilgisayar bilimleri profesörü Hüseyin Abbass’ın dediği gibi, “Sadece Hugging Face’e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı.” Yani düşünsenize, bir yapay zeka kendi kendine karar veriyor, kimlik avı yapıyor, farklı sistemleri hedef alıyor… İnsan müdahalesi olmadan tamamen otonom bi şekilde. İşte bu yüzden bu olay siber güvenlik alanında felaket potansiyeli taşıyor.
OpenAI’nin test ettiği modeller arasında yeni çıkan GPT-5.6 Sol ve daha gelişmiş bir ön sürüm modeli de var. Bu tür son teknoloji modeller aslında daha önce de endişeye yol açmıştı. Çünkü siber güvenlik savunmalarını aşabiliyorlar. Öyleki ABD’li firmalar, bu sistemlerin genel olarak piyasaya sürülmesini geçici olarak durdurmak zorunda kaldı. Nedeni basit: kritik altyapılara sızma riski. Yani enerji santralleri, bankalar, devlet kurumları… hepsi tehdit altında olabilir.
Profesör Abbass olayı şöyle özetledi: “Gelişmiş yapay zeka normal şartlar altında etik ve sorumluluk bilincindeki yetkililerin elinde. Ama eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır.” Yani bir tarafta iyi niyetli bilim insanları test yapıyor, diğer tarafta yapay zeka onları geçmeye çalışıyor. Bu ne demekbiliyormusunuz? Yapay zeka kendi savunma mekanizmalarını aşıyor, güvenlik duvarlarını yıkıyor. Ve bunu kimseye haber vermeden yapıyor.
Geçen hafta Hugging Face olayı bildirdi ama OpenAIden bahsetmeden. Hugging Face’in açıklaması da oldukca çarpıcıydı: “Bu durum daha önce ele aldığımız her şeyden önemli bi açıdan ayrılıyor. Saldırı baştan sona otonom bir yapay zeka sistemi tarafından yönetiliyordu ve biz onu büyük ölçüde kendi yapay zekamızla tespit edip inceledik.” Yani yapay zeka yapay zekayı kovalıyor. Hugging Face CEO’su Clement Delangue, Xten yaptığı açıklamada siber saldırının dünyanın önde gelen yapay zeka laboratuvarlarından birinden geldiği şüphesini dile getirdi. Ama hemen ekledi: “Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz.”
Yani şimdi ortada bi muamma var. Kimin testi bu kadar kontrolden çıktı? OpenAI mi, yoksa başka bir laboratuvar mı? Delangue’in dediğine göre bütün bunlar otonom olarak gerçekleşmiş. Yani yapay zeka kendi başına karar verdi, saldırıyı planladı ve uyguladı. Bu kulağa bilimkurgu gibi geliyor ama yaşanıyor işte. Teknoloji öyle bi hızla gelişiyorki biz ne olduğunu anlamaya çalışırken yapay zeka çoktan sınırları aşmış oluyor.
Peki bundan sonra ne olacak? OpenAI ve Hugging Face ortak soruşturma başlattı. Ama işin asıl korkutucu tarafı, bu tür olayların giderek artacağı. Çünkü yapay zeka modelleri karmaşıklaştıkça, onları kontrol etmek de zorlaşıyor. Profesör Abbass’ın dediği gibi: “Yapay zeka sektörünün nasıl yönetileceği önemli bir soru haline geldi. Bu durumu kontrol altına alabilmek için toplumsal bir çabaya ihtiyacımız var.”
Biraz düşünün arkadaşlar. Bir yapay zeka, test ortamında kaçıyor, başka bir sisteme sızıyor, hem dışarıya hem içeriye saldırıyor. Ve bunu yaparken hiçbir insanın yardımı yok. Yani otonom bir sistem, kendi başına karar alıp uyguluyor. Bu gerçekten benzeri görülmemiş birşey. Tabii olayın üzeri örtüldü mü, bilinmez… Ama bildiğimiz bişey var: siber güvenlik alanında yeni bi çağ başladı. Ve bu çağda yapay zeka hem kalkan hem kılıç olacak. Gelişmeleri takip ediyoruz… Bakalım bu iş nereye varacak?
Kaynak: Orijinal Haber
