Yapay Zeka Kullanımından Kaynaklı Ayrımcılığı Önleme

 

Yapay Zeka Kullanımından Kaynaklı Ayrımcılığı Önleme

 

Eşitlik ve Ayrımcılık Yapmama Komitesi
Raportör:  Christophe LACROIX, Belçika, 2020

 

Özet

Yapay zeka (YZ), otomatik karar verme süreçlerinin büyük ölçüde kalitesini artırarak verimlilik açısından fırsatlar yaratmaktadır – ancak buna paralel olarak, ayrımcılığı devam ettirebilmekte ve şiddetlendirebilmektedir. YZ’nin kamu ve özel sektör kullanımlarının ayrımcı bir etkiye sahip olduğu zaten göz önündeyken, bilgi akışı aşırılıkları ön planda tutma ve nefreti teşvik etme eğilimindedir. Önyargılı veri kümelerinin kullanımı, insan haklarını koruma ihtiyacına entegre olamayan tasarım, algoritmaların şeffaf olmaması ve etkileri bakımından hesap verebilirlik eksikliği ve yapay zeka ekiplerinde çeşitlilik eksikliği; hepsi bu olguya katkıda bulunmaktadır. 

Devletler, yapay zekanın toplumda ayrımcı bir etkiye sahip olmasını önlemek için harekete geçmeli ve bu alanda uluslararası standartlar geliştirmek için birlikte çalışmalıdır.

Parlamentolar ayrıca yapay zeka tabanlı teknolojilerin kullanımını denetlemede ve kamu denetimine tabi olmasını sağlamada aktif bir rol oynamalıdır. Ayrımcılıkla mücadelede yerel mevzuat gözden geçirilmeli ve YZ kullanımından kaynaklı ayrımcılığa uğrayan mağdurların etkili kanun yoluna erişimi sağlanmalı ve ulusal eşitlik kurumu, YZ tabanlı teknolojilerin etkileriyle başa çıkmak üzere donanımlı hale getirilmelidir.

Eşitliğe saygı ve ayrımcılık yapmama, en başından itibaren YZ tabanlı sistemlerin tasarımına entegre edilmeli ve kullanımdan önce test edilmelidir. Kamu ve özel sektör, teknoloji araştırmalarında ve mesleklerde çeşitliliği ve disiplinler arası yaklaşımları aktif bir şekilde teşvik etmelidir.

 

Raporun orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

doc.%2015151.pdf erişimi için tıklayın

Ayrımcılık Yapan Sistemler – Yapay Zekada Cinsiyet, Irk ve Güç

 

Ayrımcılık Yapan Sistemler – Yapay Zekada Cinsiyet, Irk ve Güç

 

Sarah Myers West, AI Now Enstitüsü, New York Üniversitesi

Meredith Whittaker, AI Now Enstitüsü, New York Üniversitesi, Google Open Research

Kate Crawford, AI Now Enstitüsü, New York Üniversitesi, Microsoft Research

Nisan 2019

 

Araştırma Bulguları

YZ sektöründe cinsiyet ve ırk arasında bir çeşitlilik krizi söz konusudur. Son araştırmalar, önde gelen YZ konferanslarında yazarların sadece % 18’inin kadın1 ve YZ profesörlerinin % 80’inden fazlasının ise erkek 2olduğunu gösteriyor. YZ endüstrisindeki 3bu eşitsizlik ise daha da fazladır: kadınlar Facebook’ta YZ araştırma personelinin sadece% 15’ini ve Google’da ise % 10’unu oluşturmaktadır. Siyahi işçiler için ise tablo daha da kötü durumdadır. Örneğin, Google’ın işgücünün yalnızca % 2,5’i siyahi iken, Facebook ve Microsoft ise bu sayı % 4’tedir. Bu dengesizliği gidermek için yıllarca süren çaba ve yatırım göz önüne alındığında, alanın mevcut durumu endişe vericidir.

YZ sektörünün mevcut çeşitlilik krizini ele alışında derin bir değişim ihtiyacı hasıl olmuştur. YZ endüstrisinin çeşitlilik probleminin ciddiyetini, mevcut metodların gücün dengesiz dağılışı ile mücadele edemediğini, ayrıca YZ’nin bu eşitsizliği güçlendirdiğini kabul etmesi gerekir. Ayrıca, birçok araştırmacı YZ sistemlerindeki önyargıların tarihsel ayrımcılık kalıplarını yansıttığını göstermiştir. Bunlar aynı sorunun iki tezahürüdür ve birlikte ele alınmaları gerekir.

“Teknikte kadınlara” olan yoğun odaklanma çok dar ve beyaz kadınları diğerlerinden daha ayrıcalıklı kılmaktadır. Irk, cinsiyet ve diğer kimlik ve niteliklerin kesişme noktalarının insanların YZ ile olan deneyimlerini nasıl şekillendirdiğini bilmemiz gerekir. YZ çalışmalarının büyük çoğunluğu cinsiyetin ikili olduğunu varsayar ve genel olarak diğer tüm toplumsal cinsiyet kimliği biçimlerini silerek, fiziksel görünüme ve basmakalıp varsayımlara dayanarak insanları “erkek” veya “kadın” olarak atar.

“Algoritma akışını“ düzeltmek, YZ’nin çeşitlilik sorunlarını çözmez. Farklı meslekten adayların okuldan sektöre akışını değerlendiren onlarca yıllık “algoritma akışı çalışmaları”na rağmen, YZ endüstrisindeki çeşitlilik konusunda önemli bir ilerleme olmamıştır. Algoritma akışına odaklanma; işyeri kültürleri, güç asimetrileri, taciz, dışlayıcı işe alım uygulamaları, haksız tazminat ve insanların YZ sektöründen tamamen uzaklaşmasına veya çalışmalarını engellemesine neden olan belirtkeleme ile ilgili daha derin sorunları ele almamıştır.

YZ sistemlerinin, ırk ve cinsiyetin sınıflandırılması, tespiti ve öngörülmesindeki kullanımı, acil olarak yeniden değerlendirmeye ihtiyaç duymaktadır. “Irk bilimi”nin geçmişi, dış görünüşe dayalı ırk ve cinsiyet sınıflandırmasının bilimsel olarak kusurlu olduğuna ve kolayca kötüye kullanıldığına dair acımasız bir hatırlatıcıdır. Fiziksel görünüşü karakter veya içsel durumlar için bir vekil olarak kullanan sistemler, vesikalık fotoğraftan4 cinsiyeti belirlediğini, yüz özelliklerine dayanarak “suçluyu” öngördüğünü5 veya “mikro ifadeler” ile işçi yeterliliğini değerlendirdiğini 6iddia eden YZ araçları da dahil olmak üzere tüm bunlara kuşkuyla bakmak gerekir. Bu tür sistemler tarihsel eşitsizliği derinleştirecek ve haklı gösterebilecek şekilde ülkedeki ırk ve cinsiyet yanlılığı modellerini tekrarlamaktadır. Bu araçların ticari konuşlandırılması ise derin bir endişe kaynağıdır.

 

Raporun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://ainowinstitute.org/discriminatingsystems.pdf