Açıklanabilir Yapay Zekanın Dört Prensibi

 

Açıklanabilir Yapay Zekanın Dört Prensibi

 

Ağustos, 2020

 

Özet

 

“Açıklanabilir yapay zeka (YZ) sistemlerinin temel özelliklerini oluşturan dört ilke sunmaktayız. Bu ilkeler bilgisayar bilimi, mühendislik ve psikoloji alanları da dahil olmak üzere açıklanabilir YZ’nin multidisipliner doğasını kapsayacak şekilde geliştirilmiştir. Tüm durumlara uygun tek boyutlu bir açıklama mevcut olmadığından, farklı kullanıcılar farklı türde açıklamalara ihtiyaç duyacaktır. Biz, beş açıklama kategorisi sunmaktayız ve açıklanabilir YZ teorilerini özetlemekteyiz. Açıklanabilir algoritmaların ana kategorilerini kapsayan algoritmalara genel bir bakış sunmaktayız. Temel bir karşılaştırma olarak, insanlar tarafından sağlanan açıklamaların dört ilkemize ne derecede iyi uyduğunu değerlendiriyoruz. Bu değerlendirme ise açıklanabilir YZ sistemlerini tasarlamanın zorluklarına ilişkin öngörüler sağlamaktadır.”

 

Raporun orijinalini aşağıda bulabilirsiniz:

NIST%20Explainable%20AI%20Draft%20NISTIR8312%20%281%29.pdf erişimi için tıklayın

 

 

Yapay Zeka Kararlarını Açıklama

ICO & Alan Turing Enstitüsü

2 Aralık 2019

 

ICO ve Alan Turing Enstitüsü, yapay zeka (“YZ”) ile verilen kararları açıklama üzerine ortak istişare rehberini yayınladı. Bu doküman, YZ tarafından sunulan veya yardım edilen süreçleri, hizmetleri ve kararları bunlardan etkilenen kişilere açıklamaya yardımcı olmak için organizasyonlara pratik tavsiyeler vermeyi amaçlamaktadır.

Organizasyonlar giderek bireyler hakkındaki kararları desteklemek veya onlar hakkında kararlar vermek için YZ kullanmaktadır. Yaptığınız veya yapmayı düşündüğünüz bu ise, bu doküman size hitap etmektedir.

Rehberin gerçek dünyada pratikte uygulanabilir olmasını sağlamak istiyoruz, bu sayede YZ sistemlerini geliştirirken organizasyonlar bundan kolaylıkla yararlanabilir. Bu yüzden geri bildirimleriniz bizim için önemli.

Rehber üç bölümden oluşmaktadır. Uzmanlık seviyenize ve organizasyonunuzun yapısına göre, bazı bölümler sizin için diğerlerinden daha ilintili olabilir. Sizin için en faydalı kısımları seçebilirsiniz.

Dokümana ilişkin anketimiz size üç bölümün tamamına yönelik sorular yöneltecek; istediğiniz soruya cevap verebilirsiniz.

Bölüm 1: Açıklanabilir YZ’nin temelleri, anahtar kavramları tanımlamakta ve birkaç farklı açıklama türünü ana hatlarıyla belirtmektedir. Bu kısım, YZ sistemlerinin geliştirilmesinde yer alan tüm personeller için geçerli olacaktır.

Bölüm 2: Açıklanabilir YZ, verilen YZ kararlarını açıklama ve kişilere bu konuda açıklamalar yapma pratikleriyle size yardımcı olmaktadır. Bu öncelikle organizasoyonunuzdaki teknik ekipler için faydalı olmakla beraber, özellikle DPO’nuz ve uyum ekibiniz için de kullanışlı olacaktır.

Bölüm 3: Organizasyonunuz için açıklanabilir YZ’nin anlamı, YZ’den etkilenen kişilere anlamlı açıklamalar sağlayacak şekilde kurulduğunuzdan emin olmak için uygulayabileceğiniz çeşitli rollere, politikalara, prosedürlere ve belgelere sahip olmaktır. Bu öncelikle organizasyonunuzun üst düzey yönetim ekibine yönelik olmakla birlikte DPO’nuz ve uyum ekibiniz için de faydalı olacaktır.

 

Rehbere ilişkin düşüncelerinizi [email protected] adresine iletebilirsiniz.

 

Rehberin orojinalini ve bağlantı adresini aşağıda bulabilirsiniz: 

https://ico.org.uk/media/about-the-ico/consultations/2616441/explain-about-this-guidance.pdf