Avrupa Birliği’nin Yapay Zekâ Tüzüğü, temel haklara açık tehdit oluşturan bazı yapay zekâ uygulamalarını yasaklıyor. Avrupa Komisyonu’nun açıklamasına göre yasaklar arasında sosyal puanlama ve işyerleri ile eğitim kurumlarında duygu tanıma uygulamaları bulunuyor.
Yasaklı uygulamaların büyük bölümü 2 Şubat 2025’te uygulanmaya başladı. Sosyal puanlama, kişilerin davranış veya kişilik özelliklerine göre sınıflandırılarak başka bir bağlamda haksız ya da orantısız muameleye uğramasına yol açan sistemleri kapsıyor.
Duygu tanımada sınırlı istisnalar var
İşyeri ve eğitim kurumlarında duygu tanıma sistemleri genel olarak yasak. Tüzükte tıbbi veya güvenlik gerekçeleriyle bağlantılı sınırlı istisnalar bulunuyor. Örneğin çalışanların öfkesini kamera yoluyla ölçen veya öğrencilerin dikkat düzeyini otomatik olarak çıkaran sistemler yasak kapsamına girebiliyor.
Yasak listesinde manipülasyon, kırılganlıkların sömürülmesi, yalnızca profillemeye dayalı suç riski tahmini, internetten toplu yüz tarama ve bazı biyometrik kategorizasyon uygulamaları da yer alıyor.
Ek yasak için farklı bir takvim bulunuyor
Komisyonun açıklamasına göre rıza olmadan müstehcen veya çocuk istismarı içeren içerik üreten yapay zekâ uygulamalarına ilişkin ek yasak, Yapay Zekâ Omnibus düzenlemesi kapsamında Aralık 2026’da yürürlüğe girecek. Bu takvim, 2 Şubat 2025’te başlayan yasaklardan ayrı.
Yasak ile yüksek riskli sistem ayrılıyor
Yapay Zekâ Tüzüğü’nün yaklaşımı, tüm yapay zekâ kullanımını aynı kategoride değerlendirmiyor. Yasaklı uygulamalar doğrudan uygulama türüne ve kullanım bağlamına göre tanımlanırken, yüksek riskli sistemler için farklı yükümlülükler öngörülüyor. Bu nedenle bir sistemin yalnızca yapay zekâ kullanması, tek başına yasak olduğu anlamına gelmiyor.
Sosyal puanlama bakımından belirleyici unsur, bir kişiye ait davranış veya kişilik verilerinin başka bir bağlamda haksız ya da orantısız sonuç doğuracak biçimde kullanılabilmesi. Duygu çıkarımı bakımından da işyeri ve eğitim bağlamı özel bir koruma alanı oluşturuyor.