Kendi kendine denetimli öğrenme, etiketleri insanlar yerine verinin kendisinden üreterek modeli eğiten yöntemdir.
Kendi Kendine Denetimli Öğrenme ne demek?
Bir cümledeki sonraki kelimeyi ya da gizlenmiş bir kelimeyi tahmin etmek bunun en bilinen örneğidir: doğru cevap zaten metnin içindedir, kimsenin etiketlemesine gerek yoktur.
Büyük dil modellerinin trilyonlarca token üzerinde ön eğitimi bu yöntem sayesinde mümkün olur.
Yakın kavramlar
Ön EğitimPre-trainingÖn eğitim, bir modelin belirli bir göreve uyarlanmadan önce çok büyük ve genel bir veri kümesiyle eğitildiği ilk ve en maliyetli eğitim aşamasıdır.Dil Modelleri & Üretken YZSonraki Token TahminiNext-token PredictionSonraki token tahmini, dil modellerinin eğitildiği temel görevdir: verilen metnin devamında gelmesi en olası tokeni tahmin etmek.Dil Modelleri & Üretken YZDenetimsiz ÖğrenmeUnsupervised LearningDenetimsiz öğrenme, etiketsiz verideki gizli yapıları, grupları ve örüntüleri modelin kendi başına bulduğu yöntemdir.Makine Öğrenmesi & Eğitim