Meta, yapay zeka uygulamalarını denetleyen bir yapay zeka geliştirdi

Meta, yapay zekaları daha az insan müdahalesi ile geliştirmeye olanak tanıyacak yeni bir yapay zeka yayınladı.

Meta, geçtiğimiz Ağustos ayında bir makale yayınlamış ve yeni aracı “düşünce zinciri” tekniğini kullanan ve modellerin tepkileri hakkında güvenilir yargıda bulunabilen bir yapay zeka olarak tanıtmıştı. Şirket, makalede aracın kullanımını ve tekniğini de detaylı olarak açıklamıştı.

Düşünce zinciri tekniği, karmaşık problemleri daha küçük mantıksal adımlara bölüyor ve bilim, kodlama, matematik gibi konulardaki zorlu problemlere verilen yanıtların doğruluğunu artırıyor.

Yeni yapay zeka, diğer yapay zekaları güvenilir bir şekilde denetliyor, eğitiyor, verdikleri cevapların doğruluğunu kontrol ediyor ve verileri kendisi etiketliyor. Yapay zeka, insan iş gücünü azaltan bir tür dijital asistan olarak da görev görüyor.

"Yaptığı işleri kontrol etmede daha da iyi hale gelmesini amaçlıyoruz"

Günümüzde yapay zekalar, “insan geri bildirimiyle güçlendirmeli öğrenme” (Reinforcement Learning from Human Feedback) adı verilen bir süreçte eğitiliyor. Bu süreçte, verileri doğru bir şekilde etiketlemek, karmaşık matematik ve yazma sorgularına verilen yanıtlatın doğruluğunu kontrol etmek alanda uzman olan insanların girdilerinin kontrolüyle sağlanıyor.

Projenin arkasındaki Meta araştırmacılarından Jason Weston, yapay zekayı güvenilir bir şekilde değerlendirme yeteneğinin, kendi hatalarından ders çıkarabilen otonom yapay zeka ajanları inşa etmeye yönelik olası bir yola dair fikir verdiğini söyledi. “Yapay zekanın giderek daha süper insan haline gelmesiyle birlikte, yaptığı işleri kontrol etmede daha da iyi hale gelmesini ve ortalama bir insandan daha iyi olmasını umuyoruz.”