Deepfake, yapay zekâ ile üretilen ve gerçek bir kişinin hiç söylemediği sözleri söylüyor ya da hiç yapmadığı şeyleri yapıyor gibi gösteren sahte video, ses ya da görseldir.
Deepfake ne demek?
Yüz değiştirme, ses klonlama ve dudak senkronizasyonu teknolojileri birleştiğinde son derece inandırıcı sahte içerikler üretilebilir. Dolandırıcılık ("CEO'nuzun sesiyle para transferi talebi"), dezenformasyon, şantaj ve rıza dışı içerikler başlıca kötüye kullanım alanlarıdır.
Kaynağı belirsiz şok edici içeriklere şüpheyle yaklaşmak, sesli taleplerde ikinci bir kanaldan doğrulama yapmak ve filigran/içerik kimliği teknolojileri korunma yollarıdır.
Yakın kavramlar
Ses KlonlamaVoice CloningSes klonlama, bir kişinin kısa ses kayıtlarından yola çıkarak onun sesini taklit eden yapay bir ses modeli oluşturmaktır.Görsel, Video & Ses ÜretimiDudak SenkronizasyonuLip SyncDudak senkronizasyonu, bir videodaki ya da görseldeki kişinin dudak hareketlerini verilen konuşma sesine uyacak şekilde yapay zekâ ile üretme işlemidir.Görsel, Video & Ses ÜretimiFiligranAI WatermarkingYapay zekâ filigranı, yapay zekâ ile üretilmiş metin, görsel, ses ya da videoya, içeriğin kaynağını sonradan tespit etmeyi sağlayan gizli ya da görünür işaret eklenmesidir.Güvenlik, Etik & HukukÇekişmeli Üretici AğGAN · Generative Adversarial NetworkÇekişmeli üretici ağ (GAN), sahte örnekler üreten bir üretici ile bunları gerçeklerinden ayırmaya çalışan bir ayırt edici ağın birbiriyle yarışarak geliştiği üretken modeldir.Görsel, Video & Ses Üretimi