Ön eğitim, bir modelin belirli bir göreve uyarlanmadan önce çok büyük ve genel bir veri kümesiyle eğitildiği ilk ve en maliyetli eğitim aşamasıdır.
Ön Eğitim ne demek?
Dil modelleri ön eğitimde internetten, kitaplardan ve kod depolarından derlenen trilyonlarca token üzerinde sonraki tokeni tahmin etmeyi öğrenir. Dil bilgisi, dünya bilgisi ve akıl yürütme becerilerinin büyük kısmı bu aşamada edinilir.
Ön eğitimden çıkan model henüz talimatlara iyi uymaz; ardından ince ayar ve RLHF gibi aşamalarla kullanışlı bir asistana dönüştürülür.
Yakın kavramlar
Temel ModelFoundation ModelTemel model, çok büyük ve çeşitli verilerle eğitilmiş, ardından pek çok farklı göreve uyarlanabilen genel amaçlı yapay zekâ modelidir.Dil Modelleri & Üretken YZİnce AyarFine-tuningİnce ayar, önceden eğitilmiş bir modelin belirli bir görev, alan ya da üslup için daha küçük ve özel bir veri setiyle yeniden eğitilmesidir.Makine Öğrenmesi & EğitimRLHFReinforcement Learning from Human FeedbackRLHF (insan geri bildirimiyle pekiştirmeli öğrenme), dil modellerini insanların tercih ettiği cevaplara göre eğiterek daha yardımsever, dürüst ve güvenli hâle getirme yöntemidir.Makine Öğrenmesi & EğitimKendi Kendine Denetimli ÖğrenmeSelf-supervised LearningKendi kendine denetimli öğrenme, etiketleri insanlar yerine verinin kendisinden üreterek modeli eğiten yöntemdir.Makine Öğrenmesi & EğitimBüyük Dil ModeliLLM · Large Language ModelBüyük dil modeli (LLM), çok büyük miktarda metinle eğitilerek dili anlamayı ve üretmeyi öğrenmiş, milyarlarca parametreli yapay zekâ modelidir.Dil Modelleri & Üretken YZFLOPSFLOPS, bir işlemcinin saniyede yapabildiği kayan noktalı sayı işlemi sayısıdır; yapay zekâda hem donanım gücünü hem de bir modelin eğitimi için gereken toplam hesaplama miktarını anlatmak için kullanılır.Altyapı, Donanım & API