Anthropic’in Claude deneyi, kendi kendini geliştiren yapay zekaya kapı aralıyor

Anthropic, 2024 yılında yayımladığı yeni bir araştırma ile yapay zeka modellerinin geliştirilmesinde insan araştırmacıların üstlendiği görevin giderek daha büyük bir bölümünü makineye devretmenin mümkün olduğunu ortaya koydu ve bu bulgu, insan müdahalesinin azalabileceğini göstermektedir.

Şirketin Automated Alignment Researcher (AAR) adını verdiği sistem, önceki araştırmaları tarayarak eğitim yöntemleri oluşturuyor, bu yöntemleri kullanarak modelleri eğitiyor, elde edilen sonuçları değerlendiriyor ve başarılı stratejileri sonraki deneylerde tekrar uyguluyor. AAR, aynı zamanda sürekli geri bildirim döngüsüyle model performansını izliyor ve modelin öğrenme sürecini optimize ediyor.

Bu sistem, araştırma süreçlerini otomatikleştirerek model geliştirme sürecindeki insan hatasını azaltmayı hedefliyor ve bu yaklaşım, araştırma topluluğu için önemli bir gelişme olarak görülüyor.