robotic.legal
Selin Çetin

Güvenilir Yapay Zeka İçin Etik Kılavuz

0 751

 

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Avrupa Komisyonu Üst Düzey Uzman Grubu

8 Nisan 2019

 

ÖZET

Kılavuzun amacı güvenilir yapay zeka (YZ) için önayak olmaktadır. Güvenilir YZ, sistemin tüm yaşam döngüsü boyunca karşılanması gereken üç bileşene sahiptir: (1) Yürürlükteki tüm kanun ve yönetmeliklere uyarak, yasal olmalı, (2) etik ilkelere ve değerlere bağlılık sağlayarak etik olmalı ve (3) iyi niyetli olsalar bile, YZ sistemleri istenmeyen zararlara neden olabileceğinden, hem teknik hem de sosyal açıdan güçlü olmalıdır. Her bir bileşen kendi içinde gereklidir; ancak güvenilir YZ’nin başarısı için yeterli değildir. İdeal olarak, her üç bileşen de uyum içinde çalışır ve çalışmalarında örtüşürler. Uygulamada, bu bileşenler arasında uyuşmazlık ortaya çıkarsa, toplum onları hizalamaya çalışmalıdır.

Bu kılavuz, güvenilir YZ’yi elde etmek için bir çerçeve oluşturmuştur. Çerçeve açık bir şekilde, güvenilir YZ’nin ilk bileşenini (yasal YZ) ele almıyor. Bunun yerine, ikinci ve üçüncü bileşenlerde rehberlik etmeyi amaçlıyor: etik ve güçlü YZ’nin teşvik edilmesi ve güvence altına alınması. Tüm paydaşlara hitap eden kılavuz, içerdiği ilkelerin sosyoteknik sistemlerde nasıl kullanılabileceği konusunda rehberlik ederek bir etik ilkeler listesinin ötesine geçmeyi amaçlamaktadır. Bölüm 1’deki en soyuttan, Bölüm III’teki en somut olana kadar üç ayrı kısımda kılavuzluk sağlanmış, YZ sistemleri tarafından ortaya konan fırsatlar ve hassas hususlarla kapanış yapılmıştır.

I. Temel haklara dayanan bir yaklaşımla, Bölüm I YZ sistemlerinin geliştirilmesinde, uygulanmasında ve kullanımında saygı gösterilmesi gereken etik ilkeleri ve bunlarla ilişkili değerleri belirlemektedir.

Bölüm I’den çıkarılan anahtar ilkeler:

  • YZ sistemlerini, insan otonomisine saygı, zararın önlenmesi, adalet ve açıklık açısından etik ilkelere uyacak şekilde geliştirin, uygulayın ve kullanın. Bu ilkeler arasındaki potansiyel gerilimleri kabul edin ve ele alın.
  • Çocuklar, engelliler ve tarihsel olarak dezavantajlı olan ya da dışlanma riski taşıyan kişiler gibi daha savunmasız grupları içeren durumlara ve işverenler ile işçiler veya işletmeler ve tüketiciler arasında olduğu gibi güç veya bilgi asimetrileri ile karakterize edilen durumlara özellikle dikkat edin.
  • Bireylere ve topluma önemli faydalar sağlarken, YZ sistemlerinin de belli riskler doğurduğunu ve tahmin edilmesi, tanımlanması veya ölçülmesi zor olabilecek etkiler dahil olmak üzere (örneğin, demokrasi, hukukun üstünlüğü ve adaletin dağıtımında veya insan aklının kendisinde) olumsuz bir etkisi olabileceğini kabul edin. Uygun olduğunda bu riskleri azaltmak için ve riskin büyüklüğü ile orantılı olarak yeterli önlemleri alın.

II. Bölüm I’e göre, Bölüm II, YZ sistemlerinin karşılaması gereken yedi gereksinimi listeleyerek güvenilir YZ’nin nasıl gerçekleştirilebileceği konusunda kılavuzluk eder. Uygulaması için hem teknik hem teknik olmayan yöntemler kullanılabilir.

Bölüm II’den çıkarılan anahtar ilkeler:

  • YZ sistemlerinin geliştirilmesi, uygulanması ve kullanımının, güvenilir YZ için yedi temel gereksinimi karşıladığından emin olun: (1) insan temsilcisi ve gözetim, (2) teknik sağlamlık ve güvenlik, (3) mahremiyet ve veri yönetimi, (4) şeffaflık, (5) çeşitlilik, ayrımcılık yapmama ve adalet, (6) çevresel ve toplumsal refah ve (7) hesap verebilirlik.
  • Bu gereksinimlerin uygulanmasını sağlamak için teknik ve teknik olmayan yöntemleri göz önünde bulundurun.
  • YZ sistemlerinin değerlendirilmesine yardımcı olun ve gereksinimlerin yerine getirilmesi için araştırma ve inovasyonu teşvik edin; sonuçları yayın ve soruları daha geniş kitlelere açın ve YZ etik alanında yeni nesil uzmanları sistematik olarak eğitin.
  • YZ sisteminin yetenekleri ve sınırları, gerçekçi beklentinin belirlenmesi ve gereksinimlerin karşılanma şekli hakkında paydaşlarla açık ve proaktif bir şekilde iletişim kurun. YZ sistemleriyle uğraşma konusunda şeffaf olun.
  • YZ sistemlerinin, özellikle kritik bağlamlarda veya durumlarda izlenebilirliğini ve denetlenebilirliğini kolaylaştırın.
  • YZ sisteminin yaşam döngüsü süresince paydaşları buna dahil edin.Tüm paydaşların güvenilir YZ konusunda farkındalık kazanması ve eğitilmeleri için eğitimleri teşvik edin.
  • Farklı ilkeler ve gereksinimler arasında temel gerilimler olabileceğine dikkat edin. Bu değişimleri ve çözümlerini sürekli olarak belirleyin, değerlendirin, belgelendirin ve iletin.

III.  Bölüm III, Bölüm II’de belirtilen temel gereksinimleri operasyonelleştirmeyi amaçlayan somut ve ayrıntılı olmayan bir güvenilir YZ değerlendirme listesi sunmaktadır. Bu değerlendirme listesinin YZ sisteminin belirli kullanım durumlarına göre uyarlanması gerekecektir.

Bölüm III’ten çıkarılan anahtar ilkeler:

  • YZ sistemlerini geliştirirken, uygularken veya kullanırken güvenilir bir YZ değerlendirme listesi benimseyin ve bunu sistemin uygulandığı özel kullanım durumuna uyarlayın.
  • Böyle bir değerlendirme listesinin asla detaylı olmayacağını unutmayın. Güvenilir YZ’nin sağlanması, onay kutularıyla değil, gereksinimleri sürekli belirleme ve uygulama, çözümleri değerlendirme, YZ sisteminin yaşam döngüsü boyunca iyileştirilmiş sonuçları sağlama ve buna paydaşları dahil etme ile ilgilidir.

Belgenin son bölümü, izlenmesi gereken yararlı fırsatlardan örnekler ve dikkatle ele alınması gereken, YZ sistemleri tarafından ortaya konan kritik hususları sunarak, çerçeve boyunca değinilen sorunların bazılarını somutlaştırmayı amaçlamaktadır.

Bu kılavuz, güvenilir YZ çalışmalarına ulaşmada yatay bir temel oluşturarak, genel olarak YZ uygulamalarına kılavuzluk sunmayı amaçlasa da, farklı durumlar farklı zorluklar doğurur. Bu nedenle, bu yatay çerçeveye ek olarak, YZ sistemlerinin bağlamsallığı göz önüne alındığında sektörel bir yaklaşımın gerekli olup olmadığı araştırılmalıdır.

Bu kılavuz, ne herhangi mevcut veya gelecekteki bir politikanın veya bir düzenlemenin yerini alma niyetindedir ne de böyle bir girişimi engellemeyi amaçlamaktadır. Bu belge “Avrupa için Güvenilir YZ” tartışması için bir başlangıç noktasıdır.

Avrupa’nın ötesinde Kılavuz ayrıca, küresel düzeyde YZ sistemleri için etik bir çerçeve üzerinde araştırma, yansıtma ve tartışmayı geliştirmeyi amaçlamaktadır.

 

Kılavuzun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Bunları da beğenebilirsin
Haber Bülenimize Abone Olun
Eklenmiş yazılardan ilk siz haberdar olmak istiyorsanız bültenimize abone olun.
İstediğiniz zaman abonelikten çıkabilirsiniz.