Kara kutu, girdisi ve çıktısı görülebilen ama kararı nasıl verdiği insanlar tarafından kolayca anlaşılamayan yapay zekâ modellerini anlatan ifadedir.
Kara Kutu ne demek?
Milyarlarca parametreli bir sinir ağının belirli bir cevaba neden ulaştığını tek tek izlemek pratikte mümkün değildir. Bu durum özellikle sağlık, hukuk ve finans gibi hesap verebilirliğin önemli olduğu alanlarda sorun yaratır.
Açıklanabilir yapay zekâ ve yorumlanabilirlik araştırmaları, bu kara kutuyu aydınlatmayı amaçlar.
Yakın kavramlar
Açıklanabilir Yapay ZekâXAI · Explainable AIAçıklanabilir yapay zekâ (XAI), bir modelin belirli bir karara neden ve hangi etkenlere bakarak ulaştığını insanların anlayabileceği biçimde ortaya koymayı amaçlayan yöntemlerdir.Güvenlik, Etik & HukukDerin ÖğrenmeDeep LearningDerin öğrenme, çok sayıda katmandan oluşan yapay sinir ağlarıyla büyük veriden karmaşık örüntüleri öğrenen makine öğrenmesi yöntemidir.Temel KavramlarŞeffaflıkTransparencyŞeffaflık, bir yapay zekâ sisteminin nasıl geliştirildiği, hangi verilerle eğitildiği, ne için kullanıldığı ve sınırlarının neler olduğu konusunda açık bilgi verilmesidir.Güvenlik, Etik & Hukuk