NIST’in AI RMF Playbook içindeki Map bölümü, yapay zekâ sisteminin hangi amaçla, hangi ortamda ve kimleri etkileyerek kullanılacağını uygulama öncesinde görünür kılmayı öneriyor. Bu bölüm zorunlu bir kontrol listesi değil; AI Risk Management Framework sonuçlarına ulaşmak için Suggested Actions ve belgeleme yolları sunan gönüllü bir uygulama kaynağı. Temel mesaj net: Yüksek doğruluk, bir sistemin bağlamından bağımsız olarak zararsız olduğu anlamına gelmiyor.
MAP 1.1 sistemi kullanım bağlamına yerleştiriyor
Map işlevinin “Context is established and understood” başlığı altında yer alan MAP 1.1; amaçlanan kullanımın, ilgili yasa ve normların ve dağıtım ortamının anlaşılmasını ve belgelenmesini ister. Kullanıcı grupları, olumlu ve olumsuz etkiler, varsayımlar, yaşam döngüsü riskleri ile test, değerlendirme, doğrulama ve geçerleme (TEVV) yaklaşımı ve sistem metrikleri aynı bağlam kaydının parçalarıdır. Böylece ekip, yalnızca modelin ne kadar iyi sonuç verdiğini değil, bu sonucun hangi koşullarda anlamlı olduğunu da tanımlar.
Bağlam kaydı tasarım kararını nasıl etkiler?
Pratikte ilk adım; kullanım amacını, etkilenecek toplulukları, kabul edilebilir dağıtım sınırlarını ve sistem dışı alternatifleri birlikte yazmaktır. NIST’in önerdiği topluluk görüşmeleri, bir riskin sadece teknik ekip tarafından değil, sonuçtan etkilenecek kişiler açısından da değerlendirilmesine imkân verir. Bu kayıt daha sonra Measure aşamasında hangi göstergelerin seçileceğini ve Manage aşamasında hangi risklerin ele alınacağını besler. Playbook’un üst notunda içeriğin AI RMF 1.0 revizyonu sonrasında güncelleneceği belirtiliyor; bu nedenle sayfa, bağlam kararlarının yanında izlenmesi gereken canlı bir referans olarak görülmeli.