NIST’in Eylül 2021 tarihli NISTIR 8312 raporu, açıklanabilir yapay zekâ sistemleri için dört ilke tanımlıyor: explanation, meaningful, explanation accuracy ve knowledge limits. Rapor, açıklamayı yalnızca modelin iç işleyişini anlatan teknik bir çıktı olarak ele almıyor; kullanıcının anlayabileceği, sistemin gerçek üretim sürecini doğru yansıtan ve sistemin güvenle çalışabileceği sınırları dikkate alan bir yaklaşım kuruyor. 43 sayfalık çalışma NIST Information Technology Laboratory imzasıyla yayımlanmış, DOI’si 10.6028/NIST.IR.8312.
Dört ilkenin anlamı
Explanation ilkesi, sistemin çıktısı ve izlediği süreç için kanıt veya gerekçe sunmasını ister. Meaningful ilkesi, açıklamanın hedef kullanıcı tarafından anlaşılabilir olmasına odaklanır. Explanation accuracy, sunulan gerekçenin sistemin çıktıyı üretme sürecini doğru yansıtmasını gerektirir; sonradan eklenmiş ikna edici bir anlatı yeterli değildir. Knowledge limits ise sistemin yalnızca tasarlandığı koşullarda ve yeterli güven düzeyinde çalışmasını, sınırların da kullanıcıya yansıtılmasını gündeme getirir.
Açıklanabilirlik diğer güvenilirlik özellikleriyle birlikte okunuyor
Raporun yönetici özeti, açıklanabilirliği güvenilir yapay zekânın bileşenlerinden biri olarak doğruluk, mahremiyet, güvenilirlik, sağlamlık, güvenlik, zararlı önyargının azaltılması, şeffaflık, adalet ve hesap verebilirlikle ilişkilendiriyor. Bu ilişki pratikte iki kontrol sorusu doğurur: Açıklama kime hizmet ediyor ve sistemin gerçek karar sürecini ne kadar temsil ediyor? Her sistem için aynı açıklama biçiminin gerekli olmadığı da belirtiliyor. Bu nedenle ekip, açıklama tasarımını kullanım amacı, kullanıcı ihtiyacı ve bilgi sınırlarıyla birlikte belgelendirmeli.