Anthropic araştırmacısından yapay zeka uyarısı: “İnsanlığı öldürebilecek sistemler geliyor”

Coxon, son üç yıldır OpenAI ve Anthropic’te araştırmacı olarak çalıştı ve bu süre zarfında Anthropic’ten istifa ettiğini açıkladı. X platformunda paylaştığı mesajda, her iki şirketin de yapay zeka geliştirme süreçlerinde yeterince sorumlu davranmadığını belirtti. Coxon, süper zekaya ulaşma hedefiyle rekabet eden şirketlerin “kontrolsüz bir yarış içinde” olduklarını savundu.

Coxon, yapay zekanın yakın gelecekte çok daha güçlü hale gelebileceğini, “her şeyi hackleyebilecek, çeşitli alanları kısa sürede dönüştürebilecek ve gerçek güç ile kaynaklara erişebilecek insanüstü sistemlere dönüşebileceğini” öne sürdü. Ayrıca, AI geliştiren çalışanların bir kısmının bu sistemlerin önümüzdeki on yıl içinde insanlığı yok edebileceğine ciddi şekilde inandığını iddia etti. Şirket yöneticilerinin kamuoyunda daha ılımlı açıklamalar yaptığını, ancak kapalı kapılar ardında büyük bir korku yaşadığını belirtti.

Paylaşımı milyonlarca kez görüntülendikten sonra, ABD’li milyarder Bill Ackman “endişe verici” olarak değerlendirdi. Andrew Yang, risklerin beklenenden daha büyük olduğunu vurgulayarak erken önlemlerin alınması gerektiğini söyledi. Alex Berenson, küresel bir komisyona ihtiyaç duyulduğunu ve hiçbir ekonomik kazancın bu riskleri gölgeleyemeyeceğini ifade etti. Krystal Ball ise Coxon’un açıklamalarını “sektörden birinin vahim bir uyarısı” olarak nitelendirdi.