açıklanabilir yapay zeka

bu kavram son yıllarda yaygınlaşmıştır ve günümüzde yapay zeka araştırmalarında önemli bir rol oynamaktadır. açıklanabilir yapay zekalar sadece aldığı kararı uygulamaz, bunun yanında neden o kararı aldığını da açıklar. mesele bir araba trafiği videosu düşünün ve yapay zeka bu video içinde araba olduğunu size söyleyesin. peki bu çıkarımı nerden yaptı? arabanın parçalarından mı, ışığın arabanın aynasından yansımasından mı, hareket şeklinden mi yoksa şeritlerden mi? yapay zeka bize orada araba gördüğünü söylerken, açıklanabilir yapay zeka orada neden araba gördüğünü söyler. peki açıklanabilir yapay zeka neden gerekli? bunu bir örnekle açıklayalım. bir mahkemeye verilen cezanın doğruluk oranını arttırmak için yapay zeka sistemi kuruluyor. bu yapay zeka sistemi, delilleri analiz ederek, kimin suçlu olduğunu tespit etmekle görevli. böylelikle insanların hata payı en aza indirilerek daha adil bir yargı sistemi kurulmaya çalışılıyor. bir süre sonra bu yapay zekanın delilleri incelerken ten rengini de kriter olarak aldığı farkediliyor. kullandıkları yapay zeka açıklanabilir olmadığı için, akıllara gerçekten adil olup olmadığı sorusu geliyor. açıklanabilirlik bu gibi durumlar yaşamamamız için çok önemli. bize sadece sonucu vermeyip, o sonucu neden elde ettiğini açıklaması hem yapay zekaya daha çok güvenmemize, hem de karar basamaklarını öğrenip yapay zeka algoritmalarını daha sağlıklı bir şekilde geliştirmemize olanak sağlar ve bize vereceği bir sonuçtan daha fazlasını yapabiliriz. bir çin atasözü der ki "bana bin balık vereceğine, bir balık tutmasını öğret."... aynı hesap işte. evet.