OpenAI’ın Astra modelinde kullandığı yeni akıl yürütme tekniği güvenlik endişelerini artırdı

OpenAI, henüz kullanıma sunulmayan yeni yapay zeka modeli Astra’nın, gelişmiş siber güvenlik yeteneklerinin yanı sıra, “recurrent depth” adı verilen yeni bir akıl yürütme tekniği kullanmasıyla ilgili güvenlik endişelerini gündeme getirdi. Astra’nın bu yöntemi, modelin düşünme sürecinin belirli bölümlerini gözlemlenin zorlaştırdığı için, araştırmacılar tarafından “opaque recurrence” olarak adlandırıldı. Yapay zeka güvenliği uzmanları, bu yaklaşımın, modellerin içindeki bilgileri kullanma biçimini değiştirebileceğini ve potansiyel olarak güvenlik açıklarını artırabileceğini belirtti. OpenAI henüz modelin detaylarını açıklamadığı için, yöntemle ilgili teknik bilgiler ve uygulanabilirlik konusunda net bir değerlendirme yapılmaya çalışılıyor. Bu bileşen, modelin çıktısının doğruluğunu ve şeffaflığını etkileyebilir, bu da çeşitli sektörlerde kullanım risklerini artırabilir. Bununla birlikte, resmi açıklama bekleniyor.