Veri zehirleme, bir modelin eğitim verisine kasıtlı olarak hatalı ya da kötü niyetli örnekler ekleyerek modelin davranışını bozma saldırısıdır.
Veri Zehirleme ne demek?
Saldırgan, modelin belirli bir tetikleyici kelime gördüğünde yanlış davranmasını sağlayacak "arka kapı" örnekleri ekleyebilir ya da genel kaliteyi düşürecek gürültü yayabilir. İnternetten toplanan büyük veri setlerinde her örneği denetlemek zor olduğu için ciddi bir risktir.
Yakın kavramlar
Eğitim VerisiTraining DataEğitim verisi, bir modelin öğrenme sürecinde parametrelerini ayarlamak için kullandığı örneklerin tamamıdır.Makine Öğrenmesi & EğitimKırmızı TakımRed TeamingKırmızı takım, bir yapay zekâ sistemini kötü niyetli bir saldırgan gibi davranarak zorlayıp güvenlik açıklarını ve zararlı davranışlarını ortaya çıkarma çalışmasıdır.Güvenlik, Etik & HukukVeri TemizlemeData CleaningVeri temizleme, veri setindeki hatalı, eksik, tekrar eden ya da tutarsız kayıtları bulup düzeltme veya çıkarma işlemidir.Veri & Değerlendirme