Yapay zeka kontrolden çıkarsa fişi çekilebilir mi?
Yapay zeka sistemleri için zorunlu “acil kapatma mekanizması” oluşturulması son haftalarda yeniden gündeme gelmiş durumda. Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada bu mekanizmaların gerekli olabileceğini belirtti. Ancak uzmanlar, dünyadaki tüm yapay zekayı durdurabilecek tek bir düğmenin olmadığını vurguluyor.
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma mekanizmasının bir yapay zeka aracısının yürüttüğü işlemlerin kesilmesi anlamına geldiğini söyledi. Papernot’a göre, sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemi durdurabilir. Fakat program ilk çalıştırıldığı ortamın dışına çıkarsa durum çok daha karmaşık hâle gelir; örneğin, AI’nin kendisini çoğaltabilen bir bilgisayar solucanı yayması durumunda, tüm kopyaların eş zamanlı olarak durdurulması gerekir.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau ise, tüm yapay zekayı tek bir düğme ile kapatmanın mümkün olmadığını söyledi. Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğundan, yapay zekayı tamamıyla kontrol eden tek bir kişi veya kurum bulunmadığını belirtti. Merkezi bir operatör tarafından yönetilen sistemlerin kapatılması teorik olarak mümkünken, dağıtık yapılar bütünüyle durdurulması çok daha zor. Papernot, bu müdahalenin maliyetinin ve yarattığı aksaklıkların “çok büyük” olabileceğini de ekledi.
Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean‑Gabriel Ganascia, acil kapatma tartışmasının yapay zekanın kendi iradesini geliştirdiği varsayımını gereğinden fazla öne çıkardığını, gerçek tehlikenin ise toplumların bu sistemlere giderek artan bağımlılığı olduğunu belirtti. ABD Başkanı Donald Trump, yapay zekanın insanlığın sonunu getirebileceği korkularını “aldatmaca” olarak nitelendirdi; Meta CEO Mark Zuckerberg ise gelişmenin yavaşlatılması çağrılarına karşı çıktı.
Sonuç olarak, tek bir düğme ile tüm yapay zekayı durdurmanın mümkün olmadığı görüşü bir konsensüs oluşturuyor ve acil kapatma mekanizmalarının zorunlu hale getirilmesi konusundaki kararlar hâlâ bekleniyor.
