Açıklanabilir yapay zekâ (XAI), bir modelin belirli bir karara neden ve hangi etkenlere bakarak ulaştığını insanların anlayabileceği biçimde ortaya koymayı amaçlayan yöntemlerdir.
Açıklanabilir Yapay Zekâ ne demek?
Bir kredi başvurusu reddedildiğinde başvuranın nedenini bilmeye hakkı vardır; bir doktor da yapay zekânın teşhis önerisinin hangi bulgulara dayandığını görmek ister. SHAP ve LIME gibi yöntemler, hangi özelliklerin karara ne kadar katkı yaptığını gösterir.
Büyük dil modellerinin iç işleyişini anlamaya çalışan yorumlanabilirlik (interpretability) araştırmaları da bu alanın parçasıdır.
Yakın kavramlar
Kara KutuBlack BoxKara kutu, girdisi ve çıktısı görülebilen ama kararı nasıl verdiği insanlar tarafından kolayca anlaşılamayan yapay zekâ modellerini anlatan ifadedir.Temel KavramlarŞeffaflıkTransparencyŞeffaflık, bir yapay zekâ sisteminin nasıl geliştirildiği, hangi verilerle eğitildiği, ne için kullanıldığı ve sınırlarının neler olduğu konusunda açık bilgi verilmesidir.Güvenlik, Etik & HukukKarar AğacıDecision TreeKarar ağacı, veriyi bir dizi "evet / hayır" sorusuyla dallara ayırarak tahmin yapan, yorumlanması kolay bir makine öğrenmesi modelidir.Makine Öğrenmesi & EğitimÖnyargıBiasÖnyargı, bir yapay zekâ modelinin eğitim verisindeki dengesizlikler ya da tasarım tercihleri yüzünden belirli grupları sistematik olarak kayıran ya da dezavantajlı kılan sonuçlar üretmesidir.Güvenlik, Etik & HukukSembolik Yapay ZekâSymbolic AISembolik yapay zekâ, bilgiyi semboller ve mantık kurallarıyla temsil edip akıl yürütmeyi bu kurallar üzerinden yapan yaklaşımdır.Temel Kavramlar