Önyargı, bir yapay zekâ modelinin eğitim verisindeki dengesizlikler ya da tasarım tercihleri yüzünden belirli grupları sistematik olarak kayıran ya da dezavantajlı kılan sonuçlar üretmesidir.
Önyargı ne demek?
Geçmiş işe alım verileriyle eğitilen bir model, verideki cinsiyet dengesizliğini öğrenip aynı ayrımcılığı sürdürebilir. Görsel modellerin "doktor" denince çoğunlukla erkek, "hemşire" denince kadın çizmesi de önyargının görünür bir örneğidir.
Çeşitli ve dengeli veri, farklı gruplar için ayrı ayrı yapılan testler ve insan denetimi önyargıyı azaltmanın yollarıdır.
Prompt yazarken
Görsel ya da metin üretirken çeşitlilik istiyorsan bunu açıkça belirt ("farklı yaş, cinsiyet ve etnik kökenden kişiler"); model varsayılan olarak verideki kalıpları tekrar eder.
Prompt Sihirbazı ile deneYakın kavramlar
AdillikFairnessAdillik, bir yapay zekâ sisteminin kararlarının cinsiyet, yaş, köken ya da engellilik gibi özelliklere göre haksız ayrım yapmamasını hedefleyen ilkedir.Güvenlik, Etik & HukukEğitim VerisiTraining DataEğitim verisi, bir modelin öğrenme sürecinde parametrelerini ayarlamak için kullandığı örneklerin tamamıdır.Makine Öğrenmesi & EğitimAçıklanabilir Yapay ZekâXAI · Explainable AIAçıklanabilir yapay zekâ (XAI), bir modelin belirli bir karara neden ve hangi etkenlere bakarak ulaştığını insanların anlayabileceği biçimde ortaya koymayı amaçlayan yöntemlerdir.Güvenlik, Etik & HukukSorumlu Yapay ZekâResponsible AISorumlu yapay zekâ, yapay zekâ sistemlerinin güvenli, adil, şeffaf, hesap verebilir ve insan haklarına saygılı biçimde geliştirilip kullanılmasını amaçlayan ilkeler bütünüdür.Güvenlik, Etik & HukukSapma TerimiBias TermSapma terimi, bir nöronun ağırlıklı toplamına eklenen ve nöronun ne zaman aktif olacağını kaydıran öğrenilebilir sabit değerdir.Derin Öğrenme & Sinir AğlarıVeri SetiDatasetVeri seti, bir modeli eğitmek, doğrulamak ya da test etmek için toplanmış ve düzenlenmiş örneklerin bütünüdür.Temel Kavramlar