Yapay Zekanın Yargı Sistemlerinde Kullanılmasına İlişkin Avrupa Etik Şartı

 

Yapay Zekanın Yargı Sistemlerinde Kullanılmasına İlişkin Avrupa Etik Şartı

 

global network artificial intelligence ethics

 

Gizem YILMAZ

Marmara Avrupa Araştırmaları Dergisi

Cilt 28, Sayı 1

2020

 

 

 

Özet

 

Yapay zekâ, bugün kullandığımız pek çok teknolojinin içinde bulunmakla birlikte verilerin analizi ve saklanması ile sistemler arası kurduğu bağlantılar sayesinde yargı organlarının işini de kolaylaştırarak adalet sistemine hizmet etmektedir. Özellikle Amerika Birleşik Devletleri’nde ve Çin’de, avukat robotlar ile hukukî danışmanlık hizmeti verildiği ve karar verme yetisine sahip yapay zekâ yazılımlarının geliştirildiği görülmektedir. Yapay zekânın yetkilerinin artırılması ve kullanımının bu kadar yaygınlaşması ise beraberinde güvenilirliğinin sorgulanmasına ve taşıdığı risklerin tartışılmasına yol açmaktadır. Öyle ki, yapay zekâ yazılımlarının yol açacağı zararların tazmini bakımından sorumluluğun kime veya neye ait olacağı konusu bile tek başına hukuk sistemlerinde yeni kabuller gerektirmektedir. Yapay zekânın hayatımıza dâhil olduğu bu yeni toplum modeline yön verecek hukuk kurallarının hangi eksende düzenlenmesi gerektiği ise benimsenecek etik kurallar çerçevesinde belirlenecektir. Avrupa Birliği, yapay zekâ ile insan hakları arasındaki etik prensiplerin oluşturulması ve yapay zekânın yargı sistemlerinde kullanılması için önemli bir adım atmıştır. Bu anlamda, önce yapay zekâ teknolojilerinin hukuk dünyasında yargılamaya hizmet ederken tâbi olacağı kuralları belirlemek üzere bir İşbirliği Bildirgesi oluşturmuş, sonra ise “insan odaklı etik” anlayışıyla Yapay Zekâ Etik Şartı’nı yayımlamıştır. Bu iki temel metin, Avrupa Birliği’nde bundan sonraki yapay zekâ çalışmalarına ışık tutacak nitelikte olduğundan özel bir öneme sahiptir.”

 

 

Makalenin orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://avrupa.marmara.edu.tr/dosya/avrupa/mjes%20arsiv/vol%2028_1/2_Gizem_Yilmaz.pdf

Güvenilir Yapay Zeka İçin Politika ve Yatırım Önerileri

 

Güvenilir Yapay Zeka İçin Politika ve Yatırım Önerileri

 

the High-Level Expert Group 

26 Haziran 2019

 

Giriş

Avrupa Komisyonu yapay zeka (YZ) konusunda yayınladığı çeşitli tebliğlerinde, güvenilir ve insan merkezli olması yolunda bir vizyon belirlemiştir. Şu üç sacayağı Komisyon’un vizyonunu desteklemektedir: (i) kavranışını yükseltmek için YZ’de kamu ve özel  sektör yatırımlarını arttırmak, (ii) sosyo-ekonomik değişimlere hazırlık yapmak ve (iii) Avrupa değerlerini korumak ve güçlendirmek için uygun bir etik ve yasal çerçeve sağlamak. Bu vizyonun uygulanmasını desteklemek için, Komisyon iki çıktı (bir dizi YZ Etik Kuralları ve bir dizi Politika ve Yatırım Önerisi) hazırlamakla görevlendirilen, bağımsız bir grup olan Yapay Zeka Üst Düzey Uzman Grubunu (AI HLEG) kurdu.

İlk çıktımız olan, 8 Nisan 2019’da (Etik Kuralları) yayınlanan Güvenilir YZ Etik Kuralları’nda, bireysel ve toplumsal refahı geliştirmek ve güvenimize layık olmak amacıyla YZ sistemlerinin insan merkezli olması gerektiğini belirttik. Güvenilir sayılması için, YZ sistemlerinin -buradaki tüm aktörler ve süreçler de dahil olmak üzere – yasal, etik ve sağlam olması gerektiğini ileri sürdük. Bu nedenle, bu Kılavuz İlkeler, Avrupa için istediğimiz ve istemediğimiz YZ türünün tanımlanmasında ilk önemli adımı teşkil etti, ancak bu, Avrupa’nın Güvenilir YZ’nin sağlayabileceği yararlı etkiyi gerçekleştirebilmesini sağlamak için yeterli değil.

Bir sonraki adımımız olan bu belge, AB kurumlarına ve Üye Devletlere yönelik Güvenilir YZ için Politika ve Yatırım Önerilerimizi içermektedir. İlk çıktımıza dayanarak, güvenilir YZ’yi sürdürülebilirliğe, büyümeye ve rekabetçiliğe doğru yönlendirmenin yanı sıra insanlara liderlik ederken, fayda sağlarken ve onları korurken yol gösterici önerilerde bulunmaktayız. AB Kurumlarının ve Üye Devletlerin bu hedeflerin gerçekleştirilmesinde ve veri ekonomisinde önemli bir oyuncu, bir Güvenilir YZ sistemleri tedarikçisi ve sağlıklı bir yönetişimin standart belirleyicisi olarak rol oynayacağına inanıyoruz.

Önerilerimiz, Güvenilir YZ’nin, genel olarak insanlar ve toplumdan (A) başlayarak ve daha sonra özel sektöre (B), kamu sektörüne (C) ve Avrupa’nın araştırma ve akademisine(D) odaklanmaya devam ederek, faydalı bir etkiye ulaşmada yardımcı olabileceğine inandığımız dört ana alana odaklanmaktadır. Ek olarak, veri ve altyapı (E), beceri ve eğitim (F), uygun yönetim ve düzenleme (G) ile finansman ve yatırım (H) konularına odaklanarak bu etkilerin kolaylaştırılması için gerekli olan temel imkânları da ele alıyoruz.

Bu öneriler kapsamlı öneriler şeklinde değil de, yalnızca en büyük potansiyele sahip durumlar için en öncelikli alanları ele almaya çalışıyor şeklinde görülmelidir. Avrupa, hem bireysel hem de toplumsal refahı artırabilecek biçimde, Avrupa’daki tek YZ türü olması gerektiğine inandığımız Güvenilir YZ’yi geliştirerek, uygulayarak, kullanarak ve ölçekleyerek kendisini diğerlerinden ayırabilir.

 

Dokümanın orijinalini aşağıda bulabilirsiniz:

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60343

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Avrupa Komisyonu Üst Düzey Uzman Grubu

8 Nisan 2019

 

ÖZET

Kılavuzun amacı güvenilir yapay zeka (YZ) için önayak olmaktadır. Güvenilir YZ, sistemin tüm yaşam döngüsü boyunca karşılanması gereken üç bileşene sahiptir: (1) Yürürlükteki tüm kanun ve yönetmeliklere uyarak, yasal olmalı, (2) etik ilkelere ve değerlere bağlılık sağlayarak etik olmalı ve (3) iyi niyetli olsalar bile, YZ sistemleri istenmeyen zararlara neden olabileceğinden, hem teknik hem de sosyal açıdan güçlü olmalıdır. Her bir bileşen kendi içinde gereklidir; ancak güvenilir YZ’nin başarısı için yeterli değildir. İdeal olarak, her üç bileşen de uyum içinde çalışır ve çalışmalarında örtüşürler. Uygulamada, bu bileşenler arasında uyuşmazlık ortaya çıkarsa, toplum onları hizalamaya çalışmalıdır.

Bu kılavuz, güvenilir YZ’yi elde etmek için bir çerçeve oluşturmuştur. Çerçeve açık bir şekilde, güvenilir YZ’nin ilk bileşenini (yasal YZ) ele almıyor. Bunun yerine, ikinci ve üçüncü bileşenlerde rehberlik etmeyi amaçlıyor: etik ve güçlü YZ’nin teşvik edilmesi ve güvence altına alınması. Tüm paydaşlara hitap eden kılavuz, içerdiği ilkelerin sosyoteknik sistemlerde nasıl kullanılabileceği konusunda rehberlik ederek bir etik ilkeler listesinin ötesine geçmeyi amaçlamaktadır. Bölüm 1’deki en soyuttan, Bölüm III’teki en somut olana kadar üç ayrı kısımda kılavuzluk sağlanmış, YZ sistemleri tarafından ortaya konan fırsatlar ve hassas hususlarla kapanış yapılmıştır.

I. Temel haklara dayanan bir yaklaşımla, Bölüm I YZ sistemlerinin geliştirilmesinde, uygulanmasında ve kullanımında saygı gösterilmesi gereken etik ilkeleri ve bunlarla ilişkili değerleri belirlemektedir.

Bölüm I’den çıkarılan anahtar ilkeler:

  • YZ sistemlerini, insan otonomisine saygı, zararın önlenmesi, adalet ve açıklık açısından etik ilkelere uyacak şekilde geliştirin, uygulayın ve kullanın. Bu ilkeler arasındaki potansiyel gerilimleri kabul edin ve ele alın.
  • Çocuklar, engelliler ve tarihsel olarak dezavantajlı olan ya da dışlanma riski taşıyan kişiler gibi daha savunmasız grupları içeren durumlara ve işverenler ile işçiler veya işletmeler ve tüketiciler arasında olduğu gibi güç veya bilgi asimetrileri ile karakterize edilen durumlara özellikle dikkat edin.
  • Bireylere ve topluma önemli faydalar sağlarken, YZ sistemlerinin de belli riskler doğurduğunu ve tahmin edilmesi, tanımlanması veya ölçülmesi zor olabilecek etkiler dahil olmak üzere (örneğin, demokrasi, hukukun üstünlüğü ve adaletin dağıtımında veya insan aklının kendisinde) olumsuz bir etkisi olabileceğini kabul edin. Uygun olduğunda bu riskleri azaltmak için ve riskin büyüklüğü ile orantılı olarak yeterli önlemleri alın.

II. Bölüm I’e göre, Bölüm II, YZ sistemlerinin karşılaması gereken yedi gereksinimi listeleyerek güvenilir YZ’nin nasıl gerçekleştirilebileceği konusunda kılavuzluk eder. Uygulaması için hem teknik hem teknik olmayan yöntemler kullanılabilir.

Bölüm II’den çıkarılan anahtar ilkeler:

  • YZ sistemlerinin geliştirilmesi, uygulanması ve kullanımının, güvenilir YZ için yedi temel gereksinimi karşıladığından emin olun: (1) insan temsilcisi ve gözetim, (2) teknik sağlamlık ve güvenlik, (3) mahremiyet ve veri yönetimi, (4) şeffaflık, (5) çeşitlilik, ayrımcılık yapmama ve adalet, (6) çevresel ve toplumsal refah ve (7) hesap verebilirlik.
  • Bu gereksinimlerin uygulanmasını sağlamak için teknik ve teknik olmayan yöntemleri göz önünde bulundurun.
  • YZ sistemlerinin değerlendirilmesine yardımcı olun ve gereksinimlerin yerine getirilmesi için araştırma ve inovasyonu teşvik edin; sonuçları yayın ve soruları daha geniş kitlelere açın ve YZ etik alanında yeni nesil uzmanları sistematik olarak eğitin.
  • YZ sisteminin yetenekleri ve sınırları, gerçekçi beklentinin belirlenmesi ve gereksinimlerin karşılanma şekli hakkında paydaşlarla açık ve proaktif bir şekilde iletişim kurun. YZ sistemleriyle uğraşma konusunda şeffaf olun.
  • YZ sistemlerinin, özellikle kritik bağlamlarda veya durumlarda izlenebilirliğini ve denetlenebilirliğini kolaylaştırın.
  • YZ sisteminin yaşam döngüsü süresince paydaşları buna dahil edin.Tüm paydaşların güvenilir YZ konusunda farkındalık kazanması ve eğitilmeleri için eğitimleri teşvik edin.
  • Farklı ilkeler ve gereksinimler arasında temel gerilimler olabileceğine dikkat edin. Bu değişimleri ve çözümlerini sürekli olarak belirleyin, değerlendirin, belgelendirin ve iletin.

III.  Bölüm III, Bölüm II’de belirtilen temel gereksinimleri operasyonelleştirmeyi amaçlayan somut ve ayrıntılı olmayan bir güvenilir YZ değerlendirme listesi sunmaktadır. Bu değerlendirme listesinin YZ sisteminin belirli kullanım durumlarına göre uyarlanması gerekecektir.

Bölüm III’ten çıkarılan anahtar ilkeler:

  • YZ sistemlerini geliştirirken, uygularken veya kullanırken güvenilir bir YZ değerlendirme listesi benimseyin ve bunu sistemin uygulandığı özel kullanım durumuna uyarlayın.
  • Böyle bir değerlendirme listesinin asla detaylı olmayacağını unutmayın. Güvenilir YZ’nin sağlanması, onay kutularıyla değil, gereksinimleri sürekli belirleme ve uygulama, çözümleri değerlendirme, YZ sisteminin yaşam döngüsü boyunca iyileştirilmiş sonuçları sağlama ve buna paydaşları dahil etme ile ilgilidir.

Belgenin son bölümü, izlenmesi gereken yararlı fırsatlardan örnekler ve dikkatle ele alınması gereken, YZ sistemleri tarafından ortaya konan kritik hususları sunarak, çerçeve boyunca değinilen sorunların bazılarını somutlaştırmayı amaçlamaktadır.

Bu kılavuz, güvenilir YZ çalışmalarına ulaşmada yatay bir temel oluşturarak, genel olarak YZ uygulamalarına kılavuzluk sunmayı amaçlasa da, farklı durumlar farklı zorluklar doğurur. Bu nedenle, bu yatay çerçeveye ek olarak, YZ sistemlerinin bağlamsallığı göz önüne alındığında sektörel bir yaklaşımın gerekli olup olmadığı araştırılmalıdır.

Bu kılavuz, ne herhangi mevcut veya gelecekteki bir politikanın veya bir düzenlemenin yerini alma niyetindedir ne de böyle bir girişimi engellemeyi amaçlamaktadır. Bu belge “Avrupa için Güvenilir YZ” tartışması için bir başlangıç noktasıdır.

Avrupa’nın ötesinde Kılavuz ayrıca, küresel düzeyde YZ sistemleri için etik bir çerçeve üzerinde araştırma, yansıtma ve tartışmayı geliştirmeyi amaçlamaktadır.

 

Kılavuzun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Güvenilir Yapay Zeka İçin Taslak Etik Esaslar

Güvenilir Yapay Zeka İçin Taslak Etik Esaslar

Avrupa Komisyonu Üst Düzey Uzman Grubu

18 Aralık 2018

 

ÖZET

 

Bu çalışma belgesi, Avrupa Komisyonu’nun Yapay Zeka Üst Düzey Uzman Grubu (AI HLEG) tarafından üretilen ve son hali Mart 2019’da belirlenecek olan YZ Etik Kuralları’nın bir taslağını oluşturmaktadır.

Yapay zeka, zamanımızın en dönüştürücü güçlerinden biridir ve toplumun dokusunu değiştirecektir. Avrupa’nın başarmak için çabalaması gereken refah ve büyümeyi artırma konusunda harika bir fırsat sunuyor. Son on yılda, çok miktarda dijital veri, güçlü bilgisayar mimarileri ve makine öğrenmesi gibi YZ tekniklerindeki gelişmeler sayesinde büyük ilerlemeler kaydedildi. Otonom taşıtlarda, sağlık hizmetlerinde, ev / hizmet robotlarında, eğitim veya siber güvenlik konularında önemli YZ gelişmeleri, yaşam kalitemizi her geçen gün arttırmaktadır. Ayrıca, YZ, küresel sağlık ve refah, iklim değişikliği, güvenilir yasal ve demokratik sistemler ve Birleşmiş Milletler Sürdürülebilir Kalkınma Hedefleri’nde ifade edilen diğer hususlar gibi, dünyanın karşı karşıya olduğu büyük zorlukların birçoğunun üstesinden gelmenin anahtarıdır.

Bireyler ve toplum için muazzam faydalar üretme kabiliyetine sahip olan YZ ayrıca, uygun şekilde yönetilmesi gereken belirli riskleri de barındırmaktadır. Genel olarak, YZ’nin faydaları risklerinden ağır basıyor olsa da, YZ’nin faydalarını azami düzeye çıkarırken, risklerini de asgariye indiren yolu takip etmemiz gerekir. Doğru yolda kalmamızı sağlamak için, insan merkezli bir YZ yaklaşımı, YZ’nin gelişimi ve kullanımının başlı başına bir araç olarak görülmemesi gerektiğini, aynı zamanda insan refahını arttırma hedefine sahip olduğumuzu aklımızda tutmayı da gerektirmektedir. Güvenilir YZ bizim kuzey yıldızımız olacak, çünkü insanlar teknolojiye güvenebilirlerse ancak o zaman YZ’nin meyvelerin tereddüt etmeden ve tam olarak yararlanabilecekler.

Güvenilir YZ’nin iki bileşeni vardır: (1) “etik bir amaç” sağlayacak şekilde temel haklara, uygulanabilir düzenlemelere ve temel ilke ve değerlere saygı göstermelidir ve (2) teknik olarak sağlam ve güvenilir olmalıdır, çünkü iyi niyetli olsa bile, teknolojik hakimiyet eksikliği istenmeyen zararlara neden olabilir.

Bu rehber bu nedenle Güvenilir YZ için bir çerçeve oluşturmaktadır:

-Bölüm I, Yapay zekanın uyması gereken temel hakları, ilkeleri ve değerleri belirleyerek, YZ’nin etik amacını sağlamayı ele almaktadır.

– Bu ilkelerin ardından Bölüm II, hem etik amacı hem de teknik sağlamlığı ele alarak Güvenilir YZ’nin gerçekleştirilmesi konusunda rehberlik eder. Bu, Güvenilir YZ için gereklilikleri listeleyerek ve uygulanması için kullanılabilecek teknik ve teknik olmayan yöntemlere genel bir bakış sunarak yapılmaktadır.

– Bölüm III daha sonra, Güvenilir YZ için somut fakat ayrıntılı olmayan bir değerlendirme listesi sağlayarak gereklilikleri işler hale getirmektedir. Bu liste daha sonra belirli kullanım durumlarına uyarlanır.

Bu nedenle, etik YZ ile ilgili diğer belgelerin aksine, rehberler, YZ için başka temel bir değer ve ilkeler listesi sunmayı amaçlamaz, bunun yerine YZ sistemlerinin somut olarak uygulanması ve işletilmesi konusunda rehberlik sunar. Bu rehberlik, Bölüm I’deki en soyuttan (temel haklar, ilkeler ve değerler), Bölüm III’teki (değerlendirme listesi) en somut olana kadar, üç ayrı kısımda sunulmaktadır.

Rehber, YZ’yi geliştiren, dağıtan veya kullanan, ilgili şirketleri, kuruluşları, araştırmacıları, kamu hizmetlerini, kurumları, bireyleri veya diğer kuruluşları kapsayan tüm ilgili paydaşlara yöneliktir. Bu rehberin son versiyonunda, paydaşların gönüllü olarak onay vermelerini sağlayacak bir mekanizma ortaya konacaktır.

Mühim olan ise, bu rehber, ne herhangi bir politika yapmanın veya düzenlemenin yerine geçmeyi (AI HLEG’nin ikinci çalışmasında ele alınacak: Mayıs 2019 Politika ve Yatırım Önerileri) ne de bunun tanıtımını engellemeyi amaçlamaktadır. Dahası rehber, teknoloji ve bilgimiz geliştikçe, sürekli olarak uygunluk sağlamak için zaman içinde düzenli olarak güncellenmesi gereken canlı bir belge olarak görülmelidir. Bu nedenle, bu belge “Avrupa’da yapılan Güvenilir YZ” tartışması için bir başlangıç noktası olmalıdır.

Avrupa, etik yaklaşımını sadece küresel düzeyde rekabet ederken yayınlayabilse de, YZ’ye etik bir yaklaşım, kullanıcı güvenini oluşturacağı ve daha geniş YZ algısını kolaylaştıracağından sorumlu rekabet gücünü sağlamak için kilit önemdedir. Bu rehber, Avrupa’daki YZ inovasyonunu engellemek anlamına gelmez, bunun yerine hem bireyleri hem de ortak yararı korumak ve fayda sağlamak gibi benzersiz bir YZ markası geliştirmek için etiği ilham kaynağı olarak kullanmayı amaçlar. Bu, Avrupa’nın en gelişmiş, güvenli ve etik YZ konusunda kendisini lider konuma getirmesine imkân tanır. Avrupa vatandaşları yalnızca güvenilirliği sağlayarak YZ’nin faydalarından tam olarak faydalanacaktır.

Son olarak, Avrupa’nın ötesinde, bu rehber ayrıca küresel düzeyde YZ için, etik bir çerçeve üzerinde yansımaları ve tartışmaları geliştirmeyi amaçlamaktadır.

 

Taslağın orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

 

https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai