Öğrenme oranı, eğitim sırasında model parametrelerinin her güncellemede ne kadar büyük adımlarla değiştirileceğini belirleyen hiperparametredir.
Öğrenme Oranı ne demek?
Çok büyük öğrenme oranı modelin en iyi noktayı aşıp kararsızlaşmasına, çok küçük öğrenme oranı ise eğitimin çok yavaş ilerlemesine ya da yerel bir noktada takılmasına yol açar.
Uygulamada öğrenme oranı eğitim boyunca genellikle bir plana göre (ısınma, kademeli azaltma) değiştirilir.
Yakın kavramlar
Gradyan İnişiGradient DescentGradyan inişi, modelin hata (kayıp) değerini azaltmak için parametrelerini hatanın en hızlı düştüğü yönde küçük adımlarla güncelleyen optimizasyon yöntemidir.Makine Öğrenmesi & EğitimHiperparametreHyperparameterHiperparametre, eğitim başlamadan önce insanlar tarafından belirlenen ve eğitimin nasıl yapılacağını kontrol eden ayardır.Makine Öğrenmesi & EğitimKayıp FonksiyonuLoss FunctionKayıp fonksiyonu, modelin tahmini ile doğru cevap arasındaki farkı tek bir sayıyla ölçen ve eğitimde küçültülmeye çalışılan fonksiyondur.Makine Öğrenmesi & EğitimEpochEpoch, eğitim sırasında modelin eğitim verisinin tamamını bir kez baştan sona görmesidir.Makine Öğrenmesi & Eğitim