İçerik moderasyonu, kullanıcıların paylaştığı ya da yapay zekânın ürettiği içeriklerin şiddet, nefret söylemi, taciz gibi zararlı unsurlar açısından denetlenmesidir.
İçerik Moderasyonu ne demek?
Sosyal ağlar ve forumlar milyonlarca paylaşımı insanlarla tek tek denetleyemediği için yapay zekâ sınıflandırıcılarından yararlanır; şüpheli içerikler insan moderatörlere aktarılır. Yapay zekâ sağlayıcıları da kendi modellerinin çıktılarını benzer filtrelerden geçirir.
Bağlamı, ironiyi ve kültürel farklılıkları doğru yorumlamak moderasyonun en zor kısmıdır.
Yakın kavramlar
Güvenlik BariyeriGuardrailsGüvenlik bariyeri (guardrail), bir yapay zekâ uygulamasının zararlı, konu dışı ya da kurallara aykırı girdi ve çıktılarını engellemek için kurulan kontrol katmanlarıdır.Güvenlik, Etik & HukukSınıflandırmaClassificationSınıflandırma, bir girdinin önceden belirlenmiş kategorilerden hangisine ait olduğunu tahmin eden makine öğrenmesi görevidir.Makine Öğrenmesi & EğitimSorumlu Yapay ZekâResponsible AISorumlu yapay zekâ, yapay zekâ sistemlerinin güvenli, adil, şeffaf, hesap verebilir ve insan haklarına saygılı biçimde geliştirilip kullanılmasını amaçlayan ilkeler bütünüdür.Güvenlik, Etik & Hukuk