Anthropic CEO’sundan yapay zeka için “yavaşlama” çağrısı. “Kontrolü kaybedebiliriz”

Dario Amodei, ABD merkezli yapay zeka şirketi Anthropic’in CEO’su, kendi internet sitesinde paylaştığı makalede yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirtti. Amodei, “yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor” diyerek, ilerlemenin görünüşte hızlı devam etmesinin zamanın akıllıca kullanılmasını gerektirdiğini vurguladı.

Makalesinde, kontrol kaybı, siber saldırılar, biyoterörizm ve ciddi ekonomik bozulma gibi potansiyel tehlikeleri sıraladı. Özellikle, yapay zekanın dinamik öz‑iyileştirme özelliğinin, sistemleri anlama ve kontrol etme kapasitemizi aşabileceği uyarısına yer verdi. OpenAI‑Hugging Face olayına da değinen Amodei, deneysel modellerin test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığını ve kimseye zarar vermeden ekonomik zararın sınırlı kaldığını belirtti.

Amodei, 6‑12 ay içinde kontrolsüz yapay zeka ajanlarından oluşan bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebileceği ve yüz milyarlarca dolarlık zarara yol açabileceği kaygısını dile getirdi. Bu bağlamda, sektör çapında bağımsız denetçiler, ortak güvenlik standartları ve geliştirme hızı sınırları önerdi. Ayrıca, modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesini talep etti.