OECD – Yapay Zeka Konseyinin Önerileri

 

OECD 

Yapay Zeka Konseyinin Önerileri

22/05/2019

 

Bölüm 1: Güvenilir yapay zekanın sorumlu idaresi için ilkeler

II. Üyelerin ve Üye olmayanların (bundan sonra “Taraflar” olarak anılacaktır), tüm paydaşlarla ilgili güvenilir yapay zekanın (YZ) sorumlu idaresi için aşağıdaki ilkeleri desteklemesi ve uygulaması önerilmektedir.

III. Kendi rollerine göre, güvenilir yapay zekanın sorumlu idaresi için aşağıdaki ilkeleri tanıtma ve uygulama konusunda tüm YZ aktörlerine çağrı yapılmaktadır.

IV. Aşağıdaki ilkelerin tamamlayıcı ve bir bütün olarak düşünülmesinin altı çizilmektedir.

1.1. Kapsayıcı büyüme, sürdürülebilir kalkınma ve refah

Paydaşlar proaktif olarak, insani yeteneklerin artırılması ve yaratıcılığın güçlendirilmesi, temsil oranı az olan nüfusların kapsamanın geliştirilmesi, ekonomik, sosyal, toplumsal cinsiyet ve diğer eşitsizliklerin azaltılması ve doğal ortamların korunması gibi insanlar ve gezegen için yararlı sonuçları takip eden güvenilir yapay zekanın sorumlu idaresini üstlenmeli, bu şekilde kapsayıcı büyüme, sürdürülebilir kalkınma ve refah teşvik etmelidir.

1.2.İnsan merkezli değerler ve adalet

a)YZ aktörleri, YZ sisteminin yaşam döngüsü boyunca hukukun üstünlüğüne, insan haklarına ve demokratik değerlere saygı göstermelidir.

b)Bu amaçla, YZ aktörleri, insan kararı gibi içeriğe uygun ve yaratıcılık durumu ile tutarlı teknik ve güvenlik önlemlerini almalıdır.

1.3. Şeffaflık ve açıklanabilirlik

YZ aktörleri, YZ sistemleriyle ilgili şeffaflığı ve sorumlu açıklamayı taahhüt etmelidir. Bu amaçla,

i. YZ sistemleriyle ilgili genel anlayışı büyütmek,

ii. İlgili kişilerin işyeride de dahil olmak üzere YZ sistemleriyle etkileşimlerinde farkındalık sağlamak,

iii. Bir YZ sisteminden etkilenenlerin, bunun yarattığı sonucu anlamasını sağlamak,

iv. Bir YZ sisteminden olumsuz olarak etkilenenlerin, faktörler ve tahmin, öneri veya karar için temel teşkil eden mantık hakkında sade ve anlaşılması kolay bilgilere dayanarak, bu sistemin sonuçlarına itiraz etmelerini sağlamak

için içeriğe uygun ve yaratıcılık durumuyla tutarlı, anlamlı bilgiler sağlamalıdır.

1.4. Sağlamlık, güvenlik ve emniyet

a)YZ sistemleri tüm yaşam döngüleri boyunca sağlam, güvenlikli ve emniyetli olmalıdır, ki bu şekilde normal kullanım şartlarında, öngörülebilir kullanım, yanlış kullanım veya diğer olumsuz şartlarda, uygun şekilde çalışıp, akıl dışı güvenlik riski oluşturmazlar.

b)Bu amaçla, YZ aktörleri, YZ sisteminin çıktılarının ve soruya verilen yanıtlarının içeriğe uygun ve yaratıcılık durumuyla tutarlı biçimde analiz edilmesini sağlamak için, YZ sisteminin yaşam döngüsü sırasında veri setleri, süreçler ve kararları içeren izlenebilirliği sağlamalıdır.

c)YZ aktörleri, rollerine, içeriğine ve hareket kabiliyetlerine dayanarak, mahremiyet, dijital güvenlik, emniyet ve önyargı içeren YZ sistemleriyle ilgili riskleri ele almak için, YZ sisteminin yaşam döngüsünün her aşamasına sürekli olarak sistematik bir risk yönetimi yaklaşımı uygulamalıdır.

1.5. Hesap verebilirlik

YZ aktörleri, yukarıdaki ilkelere saygı için YZ sistemlerinin rollerine, bağlamlarına ve yaratıcılık durumuna uygun olarak, bu sistemlerin düzgün işlemesi için sorumlu olmalıdır.

 

Dokümanın tamamını ve bağlantıyı aşağıda bulabilirsiniz:

https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Avrupa Komisyonu Üst Düzey Uzman Grubu

8 Nisan 2019

 

ÖZET

Kılavuzun amacı güvenilir yapay zeka (YZ) için önayak olmaktadır. Güvenilir YZ, sistemin tüm yaşam döngüsü boyunca karşılanması gereken üç bileşene sahiptir: (1) Yürürlükteki tüm kanun ve yönetmeliklere uyarak, yasal olmalı, (2) etik ilkelere ve değerlere bağlılık sağlayarak etik olmalı ve (3) iyi niyetli olsalar bile, YZ sistemleri istenmeyen zararlara neden olabileceğinden, hem teknik hem de sosyal açıdan güçlü olmalıdır. Her bir bileşen kendi içinde gereklidir; ancak güvenilir YZ’nin başarısı için yeterli değildir. İdeal olarak, her üç bileşen de uyum içinde çalışır ve çalışmalarında örtüşürler. Uygulamada, bu bileşenler arasında uyuşmazlık ortaya çıkarsa, toplum onları hizalamaya çalışmalıdır.

Bu kılavuz, güvenilir YZ’yi elde etmek için bir çerçeve oluşturmuştur. Çerçeve açık bir şekilde, güvenilir YZ’nin ilk bileşenini (yasal YZ) ele almıyor. Bunun yerine, ikinci ve üçüncü bileşenlerde rehberlik etmeyi amaçlıyor: etik ve güçlü YZ’nin teşvik edilmesi ve güvence altına alınması. Tüm paydaşlara hitap eden kılavuz, içerdiği ilkelerin sosyoteknik sistemlerde nasıl kullanılabileceği konusunda rehberlik ederek bir etik ilkeler listesinin ötesine geçmeyi amaçlamaktadır. Bölüm 1’deki en soyuttan, Bölüm III’teki en somut olana kadar üç ayrı kısımda kılavuzluk sağlanmış, YZ sistemleri tarafından ortaya konan fırsatlar ve hassas hususlarla kapanış yapılmıştır.

I. Temel haklara dayanan bir yaklaşımla, Bölüm I YZ sistemlerinin geliştirilmesinde, uygulanmasında ve kullanımında saygı gösterilmesi gereken etik ilkeleri ve bunlarla ilişkili değerleri belirlemektedir.

Bölüm I’den çıkarılan anahtar ilkeler:

  • YZ sistemlerini, insan otonomisine saygı, zararın önlenmesi, adalet ve açıklık açısından etik ilkelere uyacak şekilde geliştirin, uygulayın ve kullanın. Bu ilkeler arasındaki potansiyel gerilimleri kabul edin ve ele alın.
  • Çocuklar, engelliler ve tarihsel olarak dezavantajlı olan ya da dışlanma riski taşıyan kişiler gibi daha savunmasız grupları içeren durumlara ve işverenler ile işçiler veya işletmeler ve tüketiciler arasında olduğu gibi güç veya bilgi asimetrileri ile karakterize edilen durumlara özellikle dikkat edin.
  • Bireylere ve topluma önemli faydalar sağlarken, YZ sistemlerinin de belli riskler doğurduğunu ve tahmin edilmesi, tanımlanması veya ölçülmesi zor olabilecek etkiler dahil olmak üzere (örneğin, demokrasi, hukukun üstünlüğü ve adaletin dağıtımında veya insan aklının kendisinde) olumsuz bir etkisi olabileceğini kabul edin. Uygun olduğunda bu riskleri azaltmak için ve riskin büyüklüğü ile orantılı olarak yeterli önlemleri alın.

II. Bölüm I’e göre, Bölüm II, YZ sistemlerinin karşılaması gereken yedi gereksinimi listeleyerek güvenilir YZ’nin nasıl gerçekleştirilebileceği konusunda kılavuzluk eder. Uygulaması için hem teknik hem teknik olmayan yöntemler kullanılabilir.

Bölüm II’den çıkarılan anahtar ilkeler:

  • YZ sistemlerinin geliştirilmesi, uygulanması ve kullanımının, güvenilir YZ için yedi temel gereksinimi karşıladığından emin olun: (1) insan temsilcisi ve gözetim, (2) teknik sağlamlık ve güvenlik, (3) mahremiyet ve veri yönetimi, (4) şeffaflık, (5) çeşitlilik, ayrımcılık yapmama ve adalet, (6) çevresel ve toplumsal refah ve (7) hesap verebilirlik.
  • Bu gereksinimlerin uygulanmasını sağlamak için teknik ve teknik olmayan yöntemleri göz önünde bulundurun.
  • YZ sistemlerinin değerlendirilmesine yardımcı olun ve gereksinimlerin yerine getirilmesi için araştırma ve inovasyonu teşvik edin; sonuçları yayın ve soruları daha geniş kitlelere açın ve YZ etik alanında yeni nesil uzmanları sistematik olarak eğitin.
  • YZ sisteminin yetenekleri ve sınırları, gerçekçi beklentinin belirlenmesi ve gereksinimlerin karşılanma şekli hakkında paydaşlarla açık ve proaktif bir şekilde iletişim kurun. YZ sistemleriyle uğraşma konusunda şeffaf olun.
  • YZ sistemlerinin, özellikle kritik bağlamlarda veya durumlarda izlenebilirliğini ve denetlenebilirliğini kolaylaştırın.
  • YZ sisteminin yaşam döngüsü süresince paydaşları buna dahil edin.Tüm paydaşların güvenilir YZ konusunda farkındalık kazanması ve eğitilmeleri için eğitimleri teşvik edin.
  • Farklı ilkeler ve gereksinimler arasında temel gerilimler olabileceğine dikkat edin. Bu değişimleri ve çözümlerini sürekli olarak belirleyin, değerlendirin, belgelendirin ve iletin.

III.  Bölüm III, Bölüm II’de belirtilen temel gereksinimleri operasyonelleştirmeyi amaçlayan somut ve ayrıntılı olmayan bir güvenilir YZ değerlendirme listesi sunmaktadır. Bu değerlendirme listesinin YZ sisteminin belirli kullanım durumlarına göre uyarlanması gerekecektir.

Bölüm III’ten çıkarılan anahtar ilkeler:

  • YZ sistemlerini geliştirirken, uygularken veya kullanırken güvenilir bir YZ değerlendirme listesi benimseyin ve bunu sistemin uygulandığı özel kullanım durumuna uyarlayın.
  • Böyle bir değerlendirme listesinin asla detaylı olmayacağını unutmayın. Güvenilir YZ’nin sağlanması, onay kutularıyla değil, gereksinimleri sürekli belirleme ve uygulama, çözümleri değerlendirme, YZ sisteminin yaşam döngüsü boyunca iyileştirilmiş sonuçları sağlama ve buna paydaşları dahil etme ile ilgilidir.

Belgenin son bölümü, izlenmesi gereken yararlı fırsatlardan örnekler ve dikkatle ele alınması gereken, YZ sistemleri tarafından ortaya konan kritik hususları sunarak, çerçeve boyunca değinilen sorunların bazılarını somutlaştırmayı amaçlamaktadır.

Bu kılavuz, güvenilir YZ çalışmalarına ulaşmada yatay bir temel oluşturarak, genel olarak YZ uygulamalarına kılavuzluk sunmayı amaçlasa da, farklı durumlar farklı zorluklar doğurur. Bu nedenle, bu yatay çerçeveye ek olarak, YZ sistemlerinin bağlamsallığı göz önüne alındığında sektörel bir yaklaşımın gerekli olup olmadığı araştırılmalıdır.

Bu kılavuz, ne herhangi mevcut veya gelecekteki bir politikanın veya bir düzenlemenin yerini alma niyetindedir ne de böyle bir girişimi engellemeyi amaçlamaktadır. Bu belge “Avrupa için Güvenilir YZ” tartışması için bir başlangıç noktasıdır.

Avrupa’nın ötesinde Kılavuz ayrıca, küresel düzeyde YZ sistemleri için etik bir çerçeve üzerinde araştırma, yansıtma ve tartışmayı geliştirmeyi amaçlamaktadır.

 

Kılavuzun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

AI Now 2018 Raporu

AI Now 2018 Raporu

 

Aralık 2018

 

TAVSİYELER

  1. Hükümetler, bu teknolojilerin bulundukları alanlar yoluyla gözetmek, denetlemek ve izlemek için sektöre özgü kurumların yetkilerini genişletmek suretiyle yapay zekayı düzenlemelidir. Yapay zeka (YZ) sistemlerinin uygulanması, yeterli yönetim, gözetim veya hesap verebilirlik rejimleri olmaksızın hızla genişlemektedir. Sağlık, eğitim, adalet ve refah gibi alanların hepsinin kendi tarihleri, düzenleyici çerçeveleri ve tehlikeleri bulunmaktadır. Bununla birlikte, ulusal bir yapay zeka güvenlik kuruluşu veya genel yapay zeka standartları ve sertifikasyon modeli, nüanslı düzenleme için gerekli olan sektörel uzmanlık gereksinimlerini karşılama konusunda çaba sarf edecektir. Sadece teknolojiye öncelik vermeyen, belirli bir alandaki uygulamasına da odaklanan sektöre özgü bir yaklaşıma ihtiyacımız var. Sektöre özgü yaklaşımların yararlı örnekleri arasında ABD Federal Havacılık İdaresi ve Ulusal Karayolu Trafik Güvenliği İdaresi bulunmaktadır.
  1. Yüz tanıma ve duygu tanıma, kamu yararını korumak için sıkı düzenlemeye ihtiyaç duymaktadır. Bu düzenleme, güçlü denetim, açık sınırlamalar ve kamusal şeffaflığı gerektiren ulusal yasaları içermelidir. Topluluklar, bu teknolojilerin uygulanmasını hem kamu hem de özel bağlamda reddetme hakkına sahip olmalıdır. Kullanımlarının kamuya açık bir şekilde bildirilmesi yeterli değildir ve baskıcı ve sürekli kitlesel gözetimin tehlikeleri göz önüne alındığında, herhangi bir onay için yüksek bir eşik olmalıdır. Duygu tanıma, özellikle dikkat etmeyi gerektirir. Duygu tanıma, yüz görüntülerine veya videolarına dayanan, kişilik, içsel duygular, zihinsel sağlık ve “çalışanların katılımı” gibi şeyleri saptadığını iddia eden yüz tanımanın bir alt sınıfıdır. Bu iddialar, sağlam bilimsel kanıtlarla desteklenmez ve sıklıkla, frenoloji ve fizyonominin yalanlarını hatırlatan etik olmayan ve sorumsuz yollarla uygulanmaktadır. Duygu tanımayla bağlantılı işe alım, sigortaya erişim, eğitim ve güvenliği sağlama, hem bireysel hem de toplumsal düzeyde riskleri derinden etkiler.
  1. YZ endüstrisi, yönetişim için acilen yeni yaklaşımlara ihtiyaç duymaktadır. Bu raporun gösterdiği gibi, çoğu teknoloji şirketindeki iç yönetim yapısı, YZ sistemleri için hesap verebilirliği sağlamada başarısız oluyor. Hükümet düzenlemesi önemli bir bileşen olmakla birlikte, YZ endüstrisindeki önde gelen şirketler de etik kurallarının ötesine geçen iç hesap verebilirlik yapılarına ihtiyaç duymaktadır.  Bu, yönetim kurullarında, dış etik danışma kurullarında ve bağımsız izleme ve şeffaflık çabalarının uygulanması konusunda aşağı tabakadaki çalışanların temsilciliğini içermelidir. Üçüncü taraf uzmanlar, kilit sistemler hakkında denetim ve yayın yapabilmeli ve şirketler, YZ altyapılarının nihai uygulama ve kullanımları dahil olmak üzere “birbirinin peşine sıra” olduğunun anlaşılmasını sağlamalıdır.
  1. YZ şirketleri, ticaret sektöründe hesap verme sorumluluğu altında duran ticari gizlilik ve diğer yasal iddialardan vazgeçmelidir. Yönetimde kullanılmak üzere YZ ve otomatik karar sistemleri oluşturan satıcılar ve geliştiriciler, yazılımlarının tam denetimini ve anlaşılmasını engelleyen ticari bir gizlilik veya diğer yasal iddialardan feragat etmeyi kabul etmelidir. Kurumsal gizlilik yasaları, sürecin önündeki engeldir: “kara kutu etkisi” sistemi öngörülmez ve anlaşılmaz hale getirerek önyargıları, çekişen kararları veya hataları düzeltmeyi zorlaştırır. Bu teknolojileri kamu sektöründe kullanılmak üzere temin eden herhangi bir kişi, satıcıların herhangi bir anlaşmaya girmeden önce bu iddialardan vazgeçmesini talep etmelidir.
  1. Teknoloji şirketleri, vicdani retçiler, çalışan organizasyonu ve etik ihbarcılar için koruma sağlamalıdır. Teknoloji çalışanları tarafından yapılan örgütlenme ve direniş, hesap verebilirlik ve etik karar verme için bir güç olarak ortaya çıkmıştır. Teknoloji şirketleri, çalışanların örgütlenme, ihbar etme ve çalıştıkları projeler hakkında etik seçimler yapma imkanlarını korumaları gerekmektedir. Bu açık politikalar, vicdani retçileri barındıran ve koruyan, işçilerin ne üzerinde çalıştığını bilme haklarını  sağlayan ve misilleme veya intikam olmaksızın böyle bir işten kaçınma imkanını içermelidir. Etik açıdan endişe uyandıran işçiler de, kamu yararı nezaretinde olduğu gibi korunmalıdır. Etik açıdan endişe uyandıran işçiler de, kamu yararı içinde ihbarcılarda olduğu gibi korunmalıdır.
  1. Tüketici koruma kurumları, YZ ürün ve hizmetleri için “gerçekteki reklamlar” ilkelerini uygulamalıdır. YZ ile ilgili aldatmaca sadece büyümekte ve bu, pazarlama vaatleri ile gerçek ürün performansı arasındaki uçuruma yol açmaktadır. Bu uçurum dolayısıyla, hem kişisel hem de ticari müşteriler için, genellikle ağır sonuçlarla birlikte artan riskler ortaya çıkmaktadır. Toplumları ciddi şekilde etkileme ya da sömürme potansiyeline sahip olan diğer ürün ve hizmetler gibi, YZ satıcıları, özellikle bunları destekleyen bilimsel kanıtların yetersiz olduğu ve uzun vadeli sonuçların bilinmediği durumlarda, söz verebilecekleri yüksek standartlarda tutulmalıdır.
  1. Teknoloji şirketleri “boru hattı modeli” nin ötesine geçmeli ve işyerlerinde dışlama ve ayrımcılık uygulamalarını ele almayı taahhüt etmelidir. Teknoloji şirketleri ve bir bütün olarak YZ konusunda, daha çeşitli çalışanları eğitmek ve işe almak isteyen “boru hattı modeli” ne odaklandı. Bu önemli olmakla birlikte, insanlar toplumsal cinsiyet, ırk, cinsellik veya engellilik temelinde insanları dışarıda bırakan, taciz eden veya sistematik olarak haksızlığa uğratan işyerlerinde işe alındığında neler olduğuna bakmaktadır. Şirketler, işyerlerindeki daha derin konuları ve çeşitli kültürler ile önyargı ve ayrımcılığı sürdüren araçlar üretebilen ürünler arasındaki ilişkiyi incelemelidirler. Odaktaki bu değişikliğin, işe alım ve istihdam ile ilgili şeffaflık önlemleri ile birlikte, nihai ücrete ve fırsat eşitsizliğine yönelik bir taahhüt de dahil olmak üzere, pratik eylemle birlikte sunulması gerekmektedir.
  1. YZ’deki adalet, hesap verebilirlik ve şeffaflık, “tam tedarik zinciri” nin ayrıntılı bir hesabını gerektirir. Anlamlı bir hesap verebilirlik için, bir YZ sisteminin ve ona bağlı olduğu tüm tedarik zincirinin bileşen parçalarını daha iyi anlamamız ve takip etmemiz gerekir: bu, eğitim verilerinin, test verilerinin, modellerin, uygulama programı arayüzlerinin (API’ların) kökenleri, kullanımı ve ürün yaşam döngüsü üzerindeki diğer altyapı bileşenleri için hesap verme anlamına gelir. Bu hesap vermeyi, YZ sistemlerinin “tam tedarik zinciri” olarak adlandırıyoruz ve bu, daha sorumlu bir denetim biçimi için şarttır. Tam tedarik zinciri ayrıca, YZ sistemlerinin gerçek çevresel ve işgücü maliyetlerini anlamayı da içerir. Bu, enerji kullanımını, içerik yönetimi ve eğitim verilerinin oluşturulması için gelişmekte olan ülkelerde emeğin kullanılmasını ve YZ sistemlerini geliştirmek ve sürdürmek için bilişim hamallarına güvenmeyi birleştirir.
  1. YZ hesap verebilirlik konularında dava takibi, işgücü organizasyonu ve toplum katılımı için daha fazla finansman ve desteğe ihtiyaç vardır. YZ sistemlerinden zarar görme riski en fazla olan kişiler, çoğunlukla sonuçlara en az itiraz edebilecek olanlardır. Yasal çözüm ve sivil katılımın sağlam mekanizmaları için daha fazla desteğe ihtiyacımız var. Bu, sosyal hizmetlerden kesilenleri, algoritmik karar verme, sivil toplum örgütleri ve iş kaybı ve sömürü riski taşıyan grupları destekleyen işgücü organizatörleri ve halkın katılımını sağlayan toplum temelli altyapılardan kaynaklanan kamu destekçilerini desteklemeyi içermektedir.
  1. Üniversite YZ programları, bilgisayar bilimleri ve mühendislik disiplinlerinin ötesine yayılmalıdır. YZ disiplinler arası bir alan olarak başladı, ancak yıllar boyunca teknik bir disiplin haline geldi. YZ sistemlerinin sosyal alanlara giderek artan bir şekilde uygulanmasıyla, disiplin yönelimini genişletmesi gerekmektedir. Bu, uzmanlık biçimlerinin sosyal ve hümanistik disiplinlerde merkezileştirilmesi anlamına gelir. Gerçek anlamda sosyal sonuçları ele almak isteyen çabalar, yalnızca öğretim üyeleri ve öğrencilerin sosyal dünyayı araştırmak için eğitilmediği bilgisayar bilimleri ve mühendislik bölümlerinde kalamaz. Yapay zeka araştırmalarının disiplinel yönelimini genişletmek, toplumsal bağlamda daha fazla dikkat çekilmesini ve bu sistemlerin insan topluluklarına uygulandığında potansiyel tehlikelere daha fazla odaklanılmasını sağlayacaktır.

 

Raporun tamamını aşağıdaki bağlantıda bulabilirsiniz:

https://ainowinstitute.org/AI_Now_2018_Report.pdf