Kodlayıcı-kod çözücü, girdiyi önce anlamlı bir iç temsile dönüştüren (kodlayıcı) ve bu temsilden çıktıyı üreten (kod çözücü) iki parçalı model yapısıdır.
Kodlayıcı-Kod Çözücü ne demek?
Makine çevirisi bu yapının klasik örneğidir: kodlayıcı Türkçe cümleyi anlar, kod çözücü İngilizce karşılığını üretir. Orijinal transformer da böyle tasarlanmıştı.
GPT gibi modeller yalnızca kod çözücü (decoder-only), BERT gibi modeller ise yalnızca kodlayıcı (encoder-only) kullanır.
Yakın kavramlar
TransformerTransformer, dikkat mekanizmasına dayanan ve bugünkü büyük dil modellerinin neredeyse tamamının temelini oluşturan sinir ağı mimarisidir.Dil Modelleri & Üretken YZOtokodlayıcıAutoencoderOtokodlayıcı, girdisini önce küçük bir temsile sıkıştırıp sonra bu temsilden girdiyi yeniden oluşturmayı öğrenen sinir ağıdır.Derin Öğrenme & Sinir AğlarıEmbedding (Gömme)EmbeddingEmbedding, bir kelimenin, cümlenin, belgenin ya da görselin anlamını temsil eden ve anlamca yakın içeriklerin birbirine yakın düştüğü sayısal vektördür.Ajanlar, RAG & Araç Kullanımı