Kayıp fonksiyonu, modelin tahmini ile doğru cevap arasındaki farkı tek bir sayıyla ölçen ve eğitimde küçültülmeye çalışılan fonksiyondur.
Kayıp Fonksiyonu ne demek?
Eğitimin amacı bu sayıyı olabildiğince küçültmektir. Regresyonda ortalama kare hata, sınıflandırmada ve dil modellerinde çapraz entropi kaybı en yaygın kullanılan kayıp fonksiyonlarıdır.
Kayıp fonksiyonunun seçimi, modelin neyi "iyi" kabul edeceğini doğrudan belirler.
Yakın kavramlar
Gradyan İnişiGradient DescentGradyan inişi, modelin hata (kayıp) değerini azaltmak için parametrelerini hatanın en hızlı düştüğü yönde küçük adımlarla güncelleyen optimizasyon yöntemidir.Makine Öğrenmesi & EğitimGeri YayılımBackpropagationGeri yayılım, bir sinir ağının çıktısındaki hatanın her bir ağırlıktan ne kadar kaynaklandığını sondan başa doğru hesaplayan algoritmadır.Derin Öğrenme & Sinir AğlarıPerplexity (Şaşkınlık)PerplexityPerplexity (şaşkınlık), bir dil modelinin bir metni ne kadar iyi tahmin ettiğini gösteren ölçüdür; değer düştükçe model metne daha az "şaşırıyor" demektir.Veri & DeğerlendirmeÖğrenme OranıLearning RateÖğrenme oranı, eğitim sırasında model parametrelerinin her güncellemede ne kadar büyük adımlarla değiştirileceğini belirleyen hiperparametredir.Makine Öğrenmesi & EğitimRegresyonRegressionRegresyon, girdilere bakarak sayısal bir değeri (fiyat, sıcaklık, satış miktarı gibi) tahmin eden makine öğrenmesi görevidir.Makine Öğrenmesi & Eğitim