Güvenlik, Etik & Hukuk Terimleri

A4 terim

AB Yapay Zekâ YasasıEU AI ActAB Yapay Zekâ Yasası, Avrupa Birliği'nde yapay zekâ sistemlerini risk düzeylerine göre sınıflandırıp her düzey için farklı kurallar getiren kapsamlı yasal düzenlemedir.Açıklanabilir Yapay ZekâXAI · Explainable AIAçıklanabilir yapay zekâ (XAI), bir modelin belirli bir karara neden ve hangi etkenlere bakarak ulaştığını insanların anlayabileceği biçimde ortaya koymayı amaçlayan yöntemlerdir.AdillikFairnessAdillik, bir yapay zekâ sisteminin kararlarının cinsiyet, yaş, köken ya da engellilik gibi özelliklere göre haksız ayrım yapmamasını hedefleyen ilkedir.Anayasal Yapay ZekâConstitutional AIAnayasal yapay zekâ, bir modelin davranışını yazılı ilkelerden oluşan bir "anayasa"ya göre kendi cevaplarını eleştirip düzelterek öğrendiği eğitim yöntemidir.

D2 terim

DalkavuklukSycophancyDalkavukluk, bir yapay zekâ modelinin doğruyu söylemek yerine kullanıcının duymak istediğini söyleme, fikirlerini aşırı övme ya da itiraz edildiğinde doğru cevabından kolayca vazgeçme eğilimidir.DeepfakeDeepfake, yapay zekâ ile üretilen ve gerçek bir kişinin hiç söylemediği sözleri söylüyor ya da hiç yapmadığı şeyleri yapıyor gibi gösteren sahte video, ses ya da görseldir.

F1 terim

FiligranAI WatermarkingYapay zekâ filigranı, yapay zekâ ile üretilmiş metin, görsel, ses ya da videoya, içeriğin kaynağını sonradan tespit etmeyi sağlayan gizli ya da görünür işaret eklenmesidir.

G1 terim

Güvenlik BariyeriGuardrailsGüvenlik bariyeri (guardrail), bir yapay zekâ uygulamasının zararlı, konu dışı ya da kurallara aykırı girdi ve çıktılarını engellemek için kurulan kontrol katmanlarıdır.

H1 terim

HizalamaAlignmentHizalama, yapay zekâ sistemlerinin insanların niyetlerine, değerlerine ve güvenlik beklentilerine uygun davranmasını sağlama çalışmalarının genel adıdır.

İ2 terim

İçerik ModerasyonuContent Moderationİçerik moderasyonu, kullanıcıların paylaştığı ya da yapay zekânın ürettiği içeriklerin şiddet, nefret söylemi, taciz gibi zararlı unsurlar açısından denetlenmesidir.İnsan DenetimiHITL · Human-in-the-loopİnsan denetimi, yapay zekâ sistemlerinin önemli kararlarında ve işlemlerinde son onayın, kontrolün ya da düzeltme imkânının bir insanda olmasıdır.

J1 terim

JailbreakJailbreak, bir yapay zekâ modelinin güvenlik kurallarını ve kısıtlamalarını özel olarak kurgulanmış promptlarla aşmaya çalışma girişimidir.

K2 terim

Kırmızı TakımRed TeamingKırmızı takım, bir yapay zekâ sistemini kötü niyetli bir saldırgan gibi davranarak zorlayıp güvenlik açıklarını ve zararlı davranışlarını ortaya çıkarma çalışmasıdır.KVKK ve Yapay ZekâKVKK · Personal Data ProtectionKVKK (Kişisel Verilerin Korunması Kanunu), Türkiye'de kişisel verilerin işlenmesini düzenleyen yasadır ve yapay zekâ araçlarına kişisel veri girilirken de geçerlidir.

M1 terim

Model ÇöküşüModel CollapseModel çöküşü, yapay zekâ modellerinin ağırlıklı olarak başka yapay zekâların ürettiği verilerle eğitilmesi sonucu nesilden nesile çeşitliliğini ve kalitesini kaybetmesidir.

Ö1 terim

ÖnyargıBiasÖnyargı, bir yapay zekâ modelinin eğitim verisindeki dengesizlikler ya da tasarım tercihleri yüzünden belirli grupları sistematik olarak kayıran ya da dezavantajlı kılan sonuçlar üretmesidir.

P2 terim

Prompt EnjeksiyonuPrompt InjectionPrompt enjeksiyonu, bir yapay zekâ sistemine işlediği metnin içine gizlenmiş talimatlar yerleştirerek onu asıl görevinden saptırma saldırısıdır.Prompt SızıntısıPrompt LeakingPrompt sızıntısı, bir uygulamanın gizli tutulması amaçlanan sistem promptunun kullanıcı tarafından modele söyletilerek ele geçirilmesidir.

S1 terim

Sorumlu Yapay ZekâResponsible AISorumlu yapay zekâ, yapay zekâ sistemlerinin güvenli, adil, şeffaf, hesap verebilir ve insan haklarına saygılı biçimde geliştirilip kullanılmasını amaçlayan ilkeler bütünüdür.

Ş1 terim

ŞeffaflıkTransparencyŞeffaflık, bir yapay zekâ sisteminin nasıl geliştirildiği, hangi verilerle eğitildiği, ne için kullanıldığı ve sınırlarının neler olduğu konusunda açık bilgi verilmesidir.

V2 terim

Veri GizliliğiData PrivacyVeri gizliliği, yapay zekâ araçlarına girilen bilgilerin nasıl saklandığı, kimlerin erişebildiği ve modelin eğitiminde kullanılıp kullanılmadığıyla ilgili güvencelerin bütünüdür.Veri ZehirlemeData PoisoningVeri zehirleme, bir modelin eğitim verisine kasıtlı olarak hatalı ya da kötü niyetli örnekler ekleyerek modelin davranışını bozma saldırısıdır.

Y2 terim

Yapay Zekâ OkuryazarlığıAI LiteracyYapay zekâ okuryazarlığı, yapay zekâ araçlarının ne yapabildiğini ve ne yapamadığını anlama, onları etkili ve eleştirel biçimde kullanabilme becerisidir.Yapay Zekâ ve Telif HakkıAI & CopyrightYapay zekâ ve telif hakkı, modellerin telifli eserlerle eğitilmesinin ve yapay zekâ ile üretilen içeriklerin kime ait olduğunun hukuki boyutunu anlatan konudur.