NIST’in Nisan 2021 tarihli NISTIR 8367 raporu, yapay zekâda açıklanabilirlik ile yorumlanabilirliğin aynı gereksinim olmadığını psikoloji literatürü üzerinden inceliyor. David A. Broniatowski imzalı, DOI’si 10.6028/NIST.IR.8367 olan 56 sayfalık çalışma, teknik bir model çıktısının insan tarafından nasıl anlamlandırıldığını ve açıklamanın kullanıcı bağlamıyla neden birlikte düşünülmesi gerektiğini ele alıyor.
Yorumlama bağlamı, açıklama mekanizmayı anlatıyor
Rapora göre yorumlanabilirlik, model çıktısını sistemin işlevsel amacı ve son kullanıcıların hedef, değer ve tercihleriyle ilişkilendirerek bağlamsallaştırma yeteneği. Açıklanabilirlik ise algoritmanın çıktısına yol açan mekanizmayı veya uygulamayı doğru biçimde betimleme yeteneği; bu bilgi çoğu zaman algoritmayı iyileştirme amacıyla isteniyor. Kısacası biri “Bu sonuç benim kullanım bağlamımda ne anlama geliyor?” sorusuna, diğeri “Bu sonuç hangi mekanizma nedeniyle üretildi?” sorusuna yaklaşır.
İnsan faktörü açıklama tasarımını değiştiriyor
NIST’in incelediği deneysel psikoloji çalışmaları, insanların ayrıntılı açıklamalara dayanan kararlarla daha az kesin yorumlara dayanan kararlar arasında sistematik biçimde ayrışabildiğini gösteriyor. Kişilik özellikleri ve beceriler, kesin açıklamalardan anlamlı yorum çıkarma kapasitesini etkileyebiliyor. Uygulama açısından bu bulgu, tek tip açıklama ekranının yeterli kabul edilmemesi gerektiğini düşündürüyor: Kullanıcının görevi, bilgi düzeyi ve karar sorumluluğu açıklamanın dili ve ayrıntı düzeyiyle birlikte değerlendirilmelidir. Raporun ayrımı, model doğruluğundan bağımsız bir kullanıcı-anlamı katmanını görünür kılıyor.