Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi

Jack Clark, ABD merkezli yapay zeka firması Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği röportajda “acil kapatma düğmesi” kavramını gündeme getirdi. Clark, sistemlerin çok tehlikeli hale gelmesi durumunda tamamen devre dışı bırakılabileceğini belirterek, bu özelliğin toplumun kurallar koyma ihtiyacını ortaya çıkarabileceğini söyledi. Röportajda sorulan “acil kapatma düğmesinin üçüncü bir tarafın kontrolü altında tutulması mı gerekir?” sorusuna ise, “Bu, toplumun bilmek isteyeceği ve nihayetinde kurallar koymak isteyeceği bir konu” şeklinde yanıt verdi.

Clark, yapay zekanın tüm insanlığı yok etme olasılığına ilişkin istatistiklerin işe yaramayacağını, ancak “yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir” olduğunu vurguladı. “Muazzam riskler alarak kumar oynuyoruz. Ve asıl mesele, bu sektörün gidişatını değiştirmemiz gerektiği” diyerek, geliştirme süreçlerinin daha sıkı denetlenmesi gerektiğini öne sürdü.

Anthropic’in bir diğer çalışanı Jacob Coxon ise şirketten istifa etmiş ve “yapay zeka sistemlerinin her şeyi hackleyebilecek” ve 10 yıl içinde “insanlığı öldürebileceğine” inandığını iddia etmişti. Coxon’un bu görüşleri, Clark’ın acil kapatma düğmesi çağrısının bağlamını genişletiyor.