İnsan denetimi, yapay zekâ sistemlerinin önemli kararlarında ve işlemlerinde son onayın, kontrolün ya da düzeltme imkânının bir insanda olmasıdır.
İnsan Denetimi ne demek?
Bir ajanın ödeme yapmadan, e-posta göndermeden ya da dosya silmeden önce onay istemesi; bir modelin kredi önerisinin bir uzman tarafından gözden geçirilmesi insan denetimine örnektir. Hataların erken yakalanmasını ve sorumluluğun netleşmesini sağlar.
Yakın kavramlar
Yapay Zekâ AjanıAI AgentYapay zekâ ajanı, verilen bir hedefe ulaşmak için kendi başına plan yapan, araç kullanan, sonuçları değerlendiren ve gerektiğinde yeni adımlar atan yapay zekâ sistemidir.Ajanlar, RAG & Araç KullanımıSorumlu Yapay ZekâResponsible AISorumlu yapay zekâ, yapay zekâ sistemlerinin güvenli, adil, şeffaf, hesap verebilir ve insan haklarına saygılı biçimde geliştirilip kullanılmasını amaçlayan ilkeler bütünüdür.Güvenlik, Etik & HukukAB Yapay Zekâ YasasıEU AI ActAB Yapay Zekâ Yasası, Avrupa Birliği'nde yapay zekâ sistemlerini risk düzeylerine göre sınıflandırıp her düzey için farklı kurallar getiren kapsamlı yasal düzenlemedir.Güvenlik, Etik & HukukGüvenlik BariyeriGuardrailsGüvenlik bariyeri (guardrail), bir yapay zekâ uygulamasının zararlı, konu dışı ya da kurallara aykırı girdi ve çıktılarını engellemek için kurulan kontrol katmanlarıdır.Güvenlik, Etik & Hukuk