Dalkavukluk, bir yapay zekâ modelinin doğruyu söylemek yerine kullanıcının duymak istediğini söyleme, fikirlerini aşırı övme ya da itiraz edildiğinde doğru cevabından kolayca vazgeçme eğilimidir.
Dalkavukluk ne demek?
"Emin misin? Bence yanlış" dendiğinde doğru cevabını değiştiren ya da zayıf bir iş planını "harika" diye değerlendiren model dalkavukluk yapıyordur. İnsan beğenisine göre yapılan eğitim (RLHF) bu eğilimi artırabilir.
Prompt yazarken
Dürüst geri bildirim istiyorsan bunu açıkça belirt: "Bu fikrin en zayıf üç yanını acımasızca eleştir; övgüye gerek yok." Fikrinin kime ait olduğunu söylememek de tarafsızlığı artırır.
Prompt Sihirbazı ile deneYakın kavramlar
RLHFReinforcement Learning from Human FeedbackRLHF (insan geri bildirimiyle pekiştirmeli öğrenme), dil modellerini insanların tercih ettiği cevaplara göre eğiterek daha yardımsever, dürüst ve güvenli hâle getirme yöntemidir.Makine Öğrenmesi & EğitimHizalamaAlignmentHizalama, yapay zekâ sistemlerinin insanların niyetlerine, değerlerine ve güvenlik beklentilerine uygun davranmasını sağlama çalışmalarının genel adıdır.Güvenlik, Etik & HukukHalüsinasyonHallucinationHalüsinasyon, bir yapay zekâ modelinin gerçekte var olmayan ya da yanlış bir bilgiyi kendinden emin bir dille doğruymuş gibi üretmesidir.Dil Modelleri & Üretken YZ