Anthropic CEO’su Amodei’den Açık Kaynak Yapay Zeka İçin Kritik Çağrı
Yapay zeka dünyasında ortalık karışık… Anthropic’in CEO’su Dario Amodei dün resmi bir açıklama yayımladı. Açık kaynak modellerin yasaklanması için lobi yaptıkları iddialarını net bir dille reddetti Amodei. Gelişme ise Nvidia CEO’su Jensen Huang’ın öncülüğünde 24 Temmuz’da kamuoyuna duyurulan “Açık Ağırlıklar ve Amerikan Yapay Zeka Liderliği” başlıklı ortak açık mektubun beraberinde geldi. O mektuba imza atanların listesi kabarık.
Nvidia, Meta, Microsoft, IBM, Dell Technologies, CrowdStrike, Palantir, Mozilla, Mistral, Hugging Face, Y Combinator, Andreessen Horowitz, The Linux Foundation, Perplexity, ServiceNow, Box, Replit, Black Forest Labs, Arcee AI, Arena, Emergence Capital, Mariana Minerals, Reflection, Telnyx ve American Innovators Network… Hadi bakalım, kimler yoktu ki! Gelen bilgilere göre Huang, yapay zekanın her sektörü dönüştüreceğini, her şirkete güç vereceğini ve her ülke tarafından inşa edileceğini kaydetmiş ti. Açık modellerin siber güvenliği güçlendirdiğini, yenilikçilik ile yayılımı hızlandırdığını ve egemenliğe imkan tanıdığını vurgulayan Huang, dünyanın hem öncü kapalı modellere hem de öncü açık modellere aynı anda ihtiyaç duyduğunu belirtmişti. Yani kısaca, iki taraf da önemli diyor.
Amodei ise bu iddialara karşı duruyor ama bambaşka bir yerden… “Açıklığa kavuşturayım ki hiçbir şüphe kalmasın: Anthropic, açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadı.” dedi. Ve ekledi: “Tehlikeli kabiliyetler barındırmayan açık ağırlıklı modeller bir kamu yararıdır; çalıştırmak için gereken bilgi işlem gücü dışında bir maliyet getirmeyen bu modeller şirketlere, geliştiricilere ve araştırmacılara değer sağlar.” İşte böyle, direk reddetti yani. Ama içerde bir endişesi var adamın…
Neyse, devam edelim… Amodei’nin iki temel korkusu var. Birincisi, Çin Komünist Partisi başta olmak üzere “otoriter rejimlerin” ABD’den daha güçlü yapay zeka modelleri inşa ederek kalıcı askeri üstünlük sağlaması. İkincisi ise güçlü yapay zeka modellerinin siber saldırılar veya biyolojik saldırılar gerçekleştirmek üzere kötüye kullanılması ve ciddi “hizalanma” sorunları yaratması. Yani korkuyor adam. Haklımı? Bakın, ABD Başkan Yardımcısı Vance’in geçen yıl Paris’te söylediği bir söz var: “Otoriter rejimler askeri, istihbarat ve gözetleme kabiliyetlerini güçlendirmek için yapay zekayı çaldı ve kullandı.” Bu ciddi mesele.
Amodei, bu endişeleri ABD yönetimi içinde de paylaşıldığını söylüyor. Amerikan istihbaratının 2026 Yıllık Tehdit Değerlendirmesi raporunda da diğer küresel güçlerin ilerlemesinin ABD’nin ekonomik ve askeri avantajlarına meydan okuduğu kaydedilmiş. Yanı, tek başına değil bu korku. Peki çözüm ne? Amodei’nin üç maddelik bir paketi var gelen bilgilere göre…
Birincisi, gelişmiş çip kısıtlamaları ve kaçakçılıkla mücadele. Yani Çin’e güçlü çiplerin ve çip üretim ekipmanlarının satılmaması, kaçakçılık ve yasal boşlukların üzerine gidilmesi. Amodei, Çin’in yerli üretim kapasitesinin sınırlı olduğunu ve ölçekleme yasaları nedeniyle ABD çipleri olmadan ABD’den daha güçlü modeller üretemeyeceğini söylüyor. İşte bu en birincil tehdidi engellemenin en etkili yoluymuş.
İkincisi, sanayi ölçeğindeki distilasyon operasyonlarının engellenmesi. Oha, ne demek bu? Model kopyalama ve küçültme yöntemi olan distilasyon, silikon kısıtlamalarının etrafından dolaşılmasına imkan tanıyormuş. Distilasyonun Çin sınırını ABD sınırına birkaç ay kadar yaklaştırabildiğine işaret eden Amodei, toptan bir yasak yerine bu davranışı caydıracak hedefli hukuki ve ticari müdahaleler yapılması gerektiğini vurguladı. Yani herşeyi yasaklamak değil, sinirli önlemler.
Üçüncüsü ise zorunlu güvenlik testleri. İster açık ister kapalı olsun, yeterince gelişmiş tüm modellerin piyasaya sürülmeden önce siber, biyolojik ve hizalanma risklerine karşı zorunlu güvenlik testinden geçirilmesi önerildi. Amodei, Trump yönetiminin son aylarda bu yönde adımlar atmasını ve sektörün benzer önerilerini olumlu karşıladığını, test sürecinin küresel ölçekte uygulanması gerektiğini dile getirdi. Ama dediği gibi, bu testler herkese lazım.
Açık mektuptaki pek çok görüşe katıldığını, açık ağırlıkların yapay zeka ekonomisine erişimi genişlettiğini ve rekabeti artırdığını belirten Amodei; ancak açık modellerin güvenlik önlemleri geliştirmeyi kolaylaştırdığı veya geniş erişimin savunmacılara
saldırganlardan daha fazla yarar sağladığı tezine katılmadığını kaydetti.
Amodei, özellikle biyoloji alanında saldırı-savunma dengesizliği olabileceğine dikkat çekti. Yani, yeterli kabiliyete sahip modellerin salgın düzeyindeki virüsleri hızla silahlaştırabileceğini, savunmanın ise yıllar alabileceğini ifade etti. Düşünsenize, bir modelin bir virüsü silaha dönüştürmesi dakikalar sürebilirken, buna karşı bir aşı geliştirmek yıllar alıyor. İşte bu yüzden Amodei, açık modellerin güvenlik yararı sağladığı tezine karşı çıkıyor. “Savunmacılar saldırganlardan daha fazla yarar sağlamıyor” diyor yani.
Açıklamasını şöyle tamamladı: Anthropic’in bir kategori olarak açık ağırlıklı modellerin yasaklanmasını hiçbir zaman savunmadığını, odağın çiplerin otoriter rejimlerden uzak tutulması, sanayi ölçekli distilasyonun durdurulması ve tüm güçlü modellere güvenlik testi getirilmesi olması gerektiğini vurguladı. İşte böyle arkadaşlar… Ne diyim, teknoloji dünyasında işler karışık. Açık kaynak mı, kapalı mı derken bir de ulusal güvenlik meselesi çıktı ortaya.
Bakalım bundan sonra neler olacak? Hem ABD yönetimi hem de sektör devleri bu konuda nasıl bir yol izleyecek? Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
