RAG (erişimle güçlendirilmiş üretim), bir dil modelinin cevap üretmeden önce ilgili bilgileri bir belge kaynağından bulup bu bilgilere dayanarak cevap vermesini sağlayan yöntemdir.
RAG ne demek?
Kullanıcının sorusu önce bir arama adımından geçer: soru embedding'e çevrilir, vektör veritabanında en ilgili belge parçaları bulunur ve bu parçalar promptun içine eklenir. Model de cevabını bu güncel ve kaynağı belli bilgilere dayandırır.
Şirket içi bilgi botları, belge soru-cevap araçları ve müşteri destek asistanlarının çoğu RAG ile çalışır. Modeli yeniden eğitmeden güncel ve özel bilgiyle çalışmayı sağlar, halüsinasyonu azaltır.
Örnek
Bir İK botu "yıllık izin kaç gün?" sorusunda şirketin izin yönetmeliğinden ilgili maddeyi bulur, cevabı o maddeye dayanarak verir ve kaynağını gösterir.
Prompt yazarken
RAG ile çalışırken modele "Yalnızca verilen belgelerdeki bilgileri kullan; cevap belgelerde yoksa 'belgelerde bu bilgi yok' de ve kaynak parçayı belirt" kuralını ekle.
Prompt Sihirbazı ile dene