Anayasal yapay zekâ, bir modelin davranışını yazılı ilkelerden oluşan bir "anayasa"ya göre kendi cevaplarını eleştirip düzelterek öğrendiği eğitim yöntemidir.
Anayasal Yapay Zekâ ne demek?
Anthropic tarafından geliştirildi ve Claude modellerinin eğitiminde kullanılıyor. Model, bir cevap ürettikten sonra onu ilkelere göre değerlendirir ve daha uygun bir sürüm yazar; bu örneklerle eğitilir. Böylece her zararlı örnek için insan etiketine ihtiyaç azalır ve modelin hangi ilkelere göre davrandığı daha şeffaf hâle gelir.
Yakın kavramlar
HizalamaAlignmentHizalama, yapay zekâ sistemlerinin insanların niyetlerine, değerlerine ve güvenlik beklentilerine uygun davranmasını sağlama çalışmalarının genel adıdır.Güvenlik, Etik & HukukRLHFReinforcement Learning from Human FeedbackRLHF (insan geri bildirimiyle pekiştirmeli öğrenme), dil modellerini insanların tercih ettiği cevaplara göre eğiterek daha yardımsever, dürüst ve güvenli hâle getirme yöntemidir.Makine Öğrenmesi & EğitimÖz EleştiriSelf-critique / ReflectionÖz eleştiri, modelden ürettiği cevabı belirli ölçütlere göre kendisinin değerlendirmesini ve ardından düzeltmesini isteyen tekniktir.Prompt Mühendisliği