Halüsinasyon, bir yapay zekâ modelinin gerçekte var olmayan ya da yanlış bir bilgiyi kendinden emin bir dille doğruymuş gibi üretmesidir.
Halüsinasyon ne demek?
Dil modelleri bilgiyi bir veritabanından okumaz; en olası metni üretir. Bilmediği bir konuda bile akıcı ve inandırıcı bir cevap kurabilir. Uydurma kaynaklar, var olmayan makaleler, yanlış tarihler ve hayalî yasa maddeleri tipik halüsinasyon örnekleridir.
RAG ile güvenilir belgelere dayandırmak, kaynak göstermesini istemek, web araması yaptırmak ve önemli bilgileri bağımsız olarak doğrulamak halüsinasyon riskini azaltır.
Örnek
Bir modelin "Bu konuda 2019 tarihli Yılmaz ve Kaya çalışmasına bakabilirsiniz" deyip gerçekte olmayan bir makaleyi önermesi halüsinasyondur.
Prompt yazarken
Promptuna "Emin olmadığın bilgiyi uydurma, bilmiyorsan bilmediğini söyle" ve "Her iddia için kaynağını belirt" gibi açık kurallar ekle.
Prompt Sihirbazı ile dene