Ortaya çıkan yetenekler, küçük modellerde görülmeyen ama model belli bir büyüklüğe ulaştığında birden beliren becerilerdir.
Ortaya Çıkan Yetenekler ne demek?
Çok adımlı aritmetik, örneklerden yeni bir görevi kavrama ya da talimatla kod yazma gibi beceriler, modeller büyüdükçe beklenmedik biçimde ortaya çıktı. Bu gözlem, büyük ölçekli model eğitimine yapılan yatırımları hızlandırdı.
Bazı araştırmacılar bu "birden ortaya çıkma" etkisinin kısmen ölçüm yöntemlerinden kaynaklandığını, becerilerin aslında kademeli geliştiğini savunur.
Yakın kavramlar
Ölçekleme YasalarıScaling LawsÖlçekleme yasaları, model büyüklüğü, eğitim verisi ve işlem gücü arttıkça model başarısının nasıl ve ne kadar arttığını tanımlayan deneysel ilişkilerdir.Dil Modelleri & Üretken YZBüyük Dil ModeliLLM · Large Language ModelBüyük dil modeli (LLM), çok büyük miktarda metinle eğitilerek dili anlamayı ve üretmeyi öğrenmiş, milyarlarca parametreli yapay zekâ modelidir.Dil Modelleri & Üretken YZBağlam İçi ÖğrenmeICL · In-context LearningBağlam içi öğrenme, modelin parametreleri değişmeden, yalnızca prompttaki talimat ve örneklerden yeni bir görevi kavrayıp uygulayabilmesidir.Prompt Mühendisliği