Yapay Zeka Fizibilite Çalışması

 

Yapay Zeka Fizibilite Çalışması

 

Avrupa Konseyi

Yapay Zeka Ad Hoc Komitesi

2020

Giriş

“Yakın zamanda Parlamenterler Meclisi (PACE) tarafından kabul edilen raporlar da dahil olmak üzere, çeşitli Avrupa Konseyi belgelerinde belirtildiği gibi, yapay zeka sistemleri bireylerin yaşamını büyük ölçüde dönüştürmekte ve toplumun yapısı ve kurumlarının işleyişi üzerinde derinlemesine bir etkiye sahip olmaktadır. Kullanımları sağlık, ulaşım, eğitim ve kamu yönetimi gibi çok sayıda alanda önemli faydalar sağlama potansiyeline sahiptir ve genel itibariyle insanlık için umut verici fırsatlar oluşturmaktadır. Bunun yanında, yapay zeka sistemlerinin geliştirilmesi ve kullanımı, özellikle Avrupa toplumunun üzerine inşa edildiği temel unsurlar olan insan hakları, demokrasi ve hukukun üstünlüğüne müdahale konusunda önemli riskleri de beraberinde getirmektedir.

Yapay zeka sistemleri, etkisi yalnızca tasarımına bağlı olmayan, aynı zamanda kullanılan veriler, güdülen amaçlar, işlevsellik ve doğruluk, dağıtım ölçeği ve kullanıldığı daha geniş kurumsal, toplumsal ve yasal bağlam dolayısıyla “sosyo-teknik sistemler” olarak görülmelidir. Yapay zeka sistemlerinin olumlu veya olumsuz sonuçları aynı zamanda onları geliştiren ve kullanan insanların değerlerine ve davranışlarına da bağlıdır, bu da insan sorumluluğunun sağlanmasının önemine yol açmaktadır. Bununla birlikte, yapay zeka sistemlerinin, insan hakları, demokrasi ve hukukun üstünlüğü üzerindeki olumlu ve olumsuz etkileri açısından onları diğer teknolojilerden ayıran bazı farklı özellikleri vardır.

İlk olarak, yapay zeka sistemlerinin ölçeği, bağlılığı ve erişimi, diğer teknolojilerde veya insan davranışında da bulunan belirli riskleri artırabilmektedir. Yapay zeka sistemleri, insanlardan çok daha hızlı bir şekilde, benzeri görülmemiş miktarda ayrıntılı veriyi (son derece hassas kişisel veriler dahil) analiz edebilmektedir. Bu yetenek, yapay zeka sistemlerinin, “proxy discrimination ” olarak adlandırılan durumlarda yeni ayrımcılık temellerine dayalı olarak, haksız önyargıyı devam ettirecek veya artıracak şekilde kullanılmasına yol açabilmektedir. Makine öğrenimi bağlamında bu ayrımcılığın artan önemi, doğrudan ve dolaylı ayrımcılık arasındaki farkın veya aslında, geleneksel olarak anlaşıldığı şekliyle, bu farkın uygunluğuna ilişkin yoruma dayalı soruları ortaya çıkarabilmektedir. Ayrıca, yapay zeka sistemleri istatistiksel hata oranlarına sahiptir. Milyonlarca insana uygulanan bir sistemin hata oranı sıfıra yakın olsa bile, sistemlerin dağıtım ölçeği ve birbirine bağlanabilirliği nedeniyle binlerce kişi yine de olumsuz etkilenebilmektedir. Öte yandan, yapay zeka sistemlerinin ölçeği ve erişimi, diğer teknolojilerde veya insan davranışında da bulunan belirli riskleri ve önyargıları azaltmak ve insan hatası oranlarını izlemek ve azaltmak için kullanılabilecekleri anlamana da gelmektedir.

İkinci olarak, birçok yapay zeka sisteminin karmaşıklığı veya belirsizliği (özellikle makine öğrenimi uygulamalarında), sistem geliştiricileri de dahil olmak üzere, insanların sistemin işleyişini veya sonucunu anlamasını veya izlemesini zorlaştırabilmektedir. Sistemin yaşam döngüsü boyunca farklı aşamalarda birçok farklı aktörün katılımı dolayısıyla bu belirsizlik, potansiyel bir olumsuz sonuçtan sorumlu olan unsurların belirlenmesini daha da karmaşık hale getirerek insan sorumluluğunu ve hesap verebilirliği azaltmaktadır.

Üçüncüsü, bazı yapay zeka sistemleri geri bildirim ve pekiştirmeli öğrenme yoluyla kendilerini yeniden ayarlayabilmektedir. Bununla birlikte, bir yapay zeka sistemi, haksız önyargılar, hatalar, yanlışlıklar veya diğer eksiklikler içeren kendi kararlarından kaynaklanan veriler üzerinde yeniden eğitilirse, sistemin ayrımcı, hatalı veya kötü niyetli işleyişine yol açabilecek kısır bir geri bildirim döngüsü ortaya çıkabilmekte ve tespit edilmesi zorlaşabilmektedir.”

 

Çalışmanın orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://rm.coe.int/cahai-2020-23-final-eng-feasibility-study-/1680a0c6da

 

Yapay Zeka Kullanımından Kaynaklı Ayrımcılığı Önleme

 

Yapay Zeka Kullanımından Kaynaklı Ayrımcılığı Önleme

 

Eşitlik ve Ayrımcılık Yapmama Komitesi
Raportör:  Christophe LACROIX, Belçika, 2020

 

Özet

Yapay zeka (YZ), otomatik karar verme süreçlerinin büyük ölçüde kalitesini artırarak verimlilik açısından fırsatlar yaratmaktadır – ancak buna paralel olarak, ayrımcılığı devam ettirebilmekte ve şiddetlendirebilmektedir. YZ’nin kamu ve özel sektör kullanımlarının ayrımcı bir etkiye sahip olduğu zaten göz önündeyken, bilgi akışı aşırılıkları ön planda tutma ve nefreti teşvik etme eğilimindedir. Önyargılı veri kümelerinin kullanımı, insan haklarını koruma ihtiyacına entegre olamayan tasarım, algoritmaların şeffaf olmaması ve etkileri bakımından hesap verebilirlik eksikliği ve yapay zeka ekiplerinde çeşitlilik eksikliği; hepsi bu olguya katkıda bulunmaktadır. 

Devletler, yapay zekanın toplumda ayrımcı bir etkiye sahip olmasını önlemek için harekete geçmeli ve bu alanda uluslararası standartlar geliştirmek için birlikte çalışmalıdır.

Parlamentolar ayrıca yapay zeka tabanlı teknolojilerin kullanımını denetlemede ve kamu denetimine tabi olmasını sağlamada aktif bir rol oynamalıdır. Ayrımcılıkla mücadelede yerel mevzuat gözden geçirilmeli ve YZ kullanımından kaynaklı ayrımcılığa uğrayan mağdurların etkili kanun yoluna erişimi sağlanmalı ve ulusal eşitlik kurumu, YZ tabanlı teknolojilerin etkileriyle başa çıkmak üzere donanımlı hale getirilmelidir.

Eşitliğe saygı ve ayrımcılık yapmama, en başından itibaren YZ tabanlı sistemlerin tasarımına entegre edilmeli ve kullanımdan önce test edilmelidir. Kamu ve özel sektör, teknoloji araştırmalarında ve mesleklerde çeşitliliği ve disiplinler arası yaklaşımları aktif bir şekilde teşvik etmelidir.

 

Raporun orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

doc.%2015151.pdf erişimi için tıklayın

Güvenilir YZ için Değerlendirme Listesi

 

Güvenilir Yapay Zeka için Değerlendirme Listesi

 

European AI Alliance | FUTURIUM | European Commission

AB Komisyonu

YZ Üst Düzey Uzman Grubu

Ağustos 2020

 

Temel Haklar

Temel haklar, insan onuru ve ayrımcılık yasağı gibi hakların yanı sıra birkaç örnek vermek gerekirse veri koruma ve mahremiyetle ilgili hakları da kapsamaktadır. Bu Değerlendirme Listesi ile bir YZ sisteminin öz değerlendirmesi yapılmadan önce, temel haklar etki değerlendirmesi (FRIA) yapılmalıdır.

Bir FRIA Avrupa İnsan Hakları Sözleşmesi (AİHS), protokolleri ve Avrupa Sosyal Şartı ve Şart’taki belirli maddelere ilişkin sorular içerebilir.

1.YZ sistemi, aşağıdaki hususlardan herhangi birine (kapsamlı olmayan şekilde) dayanarak insanlara karşı potansiyel olarak olumsuz ayrımcılık yapıyor mu: cinsiyet, ırk, renk, etnik veya sosyal köken, genetik özellikler, dil, din veya inanç, siyasi veya başka herhangi bir görüş, ulusal bir azınlığa üyelik, mülkiyet, doğum, engellilik, yaş veya cinsel yönelim?

YZ sisteminin geliştirme, devreye alma ve kullanım aşamaları sırasında olası olumsuz ayrımcılığı (önyargı) test etmek ve izlemek için süreçler oluşturdunuz mu?

YZ sistemindeki olası olumsuz ayrımcılığı (önyargı) ele almak ve düzeltmek için süreçler oluşturdunuz mu?

2.YZ sistemi çocuk haklarına saygı duyuyor mu, örneğin çocuğun korunması ve çocuğun yüksek yararını dikkate alınıyor mu?

YZ sistemi tarafından çocuklara verilen olası zararı ele almak ve düzeltmek için süreçler oluşturdunuz mu?

YZ sisteminin geliştirilmesi, devreye alınması ve kullanılması aşamalarında çocuklara verilecek olası zararları test etmek ve izlemek için süreçler oluşturdunuz mu?

3.YZ sistemi, bireylerle ilgili kişisel verileri GDPR uyarınca koruyor mu?

Veri koruma etki değerlendirmesine duyulan ihtiyacı ayrıntılı olarak değerlendirmek için bunların amaçlarına göre işleme operasyonlarının gerekliliği ve orantılılığının bir değerlendirmesi dahil, YZ sisteminin geliştirme, devreye alma ve kullanım aşamaları ile ilgili süreçler oluşturdunuz mu?

YZ sisteminin geliştirme, devreye alma ve kullanım aşamalarıyla ilgili olarak, kişisel verilerin korunmasını sağlamak için koruma önlemleri, güvenlik önlemleri ve mekanizmalar dahil olmak üzere riskleri ele almak adına öngörülen önlemleri uygulamaya koydunuz mu?

4.YZ sistemi ifade ve bilgi edinme özgürlüğüne ve / veya toplantı ve dernek kurma özgürlüğüne saygı duyuyor mu?

Yapay zeka sisteminin geliştirme, devreye alma ve kullanım aşamalarında ifade ve bilgi edinme özgürlüğü ve / veya toplantı ve dernek kurma özgürlüğüne yönelik olası ihlalleri test etmek ve izlemek için süreçler oluşturdunuz mu?

Yapay zeka sisteminde ifade ve bilgi edinme özgürlüğü ve / veya toplantı ve dernek kurma özgürlüğüne yönelik olası ihlalleri ele almak ve düzeltmek için süreçler oluşturdunuz mu?

 

Dokümanın orijinalini aşağıdaki bağlantı adresinden bulabilirsiniz:

https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=68342

 

Yapay Zeka Raporu: Mükemmellik ve güven konusunda Avrupa yaklaşımı

 

Yapay Zeka Raporu

Mükemmellik ve güven konusunda Avrupa yaklaşımı

Brüksel, 19.02.2020

Özet

Yapay zeka (YZ) hızla gelişiyor. Sağlık hizmetlerini iyileştirerek (örn. tanıyı daha kesin hale getirmek, hastalıkların önlenmesini sağlamak),tarım verimliliğini artırarak, iklim değişikliğinin azaltılmasına ve adaptasyonuna katkıda bulunarak, öngörücü bakım yoluyla üretim sistemlerinin verimliliğini yükselterek, Avrupalıların güvenliğini artırarak ve hayal edebileceğimiz diğer birçok yolla hayatımızı değiştirecek. Aynı zamanda, yapay zeka, belirsiz karar verme, cinsiyete dayalı veya diğer ayrımcılık durumları, özel hayatımıza izinsiz girme veya suç işleme amaçlarıyla kullanılma gibi bir dizi potansiyel risk içeriyor.

Sert küresel rekabetin arka planı karşısında, Nisan 2018’de sunulan YZ için Avrupa stratejisini temel alan sağlam bir Avrupa yaklaşımına ihtiyaç duyuluyor. YZ’nin fırsatlarını ve zorluklarını ele almak için AB YZ’nin gelişimini ve kullanımını teşvik etmede Avrupa değerlerine dayalı olarak hareket etmeli ve kendi yolunu tanımlamalıdır.

Komisyon bilimsel atılım sağlamayı, AB’nin teknolojik liderliğini korumayı ve yeni teknolojilerin tüm Avrupalıların hizmetinde olmasını sağlamayı ve haklarına saygı göstererek hayatlarını iyileştirmeyi taahhüt ediyor.

Komisyon Başkanı Ursula von der Leyen, yapay zekanın insani ve etik etkileri konusunda eşgüdümlü bir Avrupa yaklaşımı ve büyük verinin inovasyon için daha iyi kullanılması konusundaki Kılavuzu duyurdu.

Böylece Komisyon, YZ’yi kavramayı teşvik etmek ve bu yeni teknolojinin belirli kullanımlarına ilişkin riskleri ele almak şeklinde düzenleyici ve yatırım odaklı bir yaklaşımı desteklemektedir. Bu Rapor’un amacı, bu hedeflere nasıl ulaşılacağına dair politika tercihlerini belirlemektir. Askeri amaçlarla YZ’nin geliştirilmesine ve kullanılmasına değinmez. Komisyon, Üye Devletleri, diğer Avrupa kurumlarını ve endüstriyi, sosyal ortakları, sivil toplum kuruluşlarını, araştırmacıları, genel olarak kamuoyunu ve ilgili tarafları da içeren tüm paydaşları, Rapor’a karşılık vermeye ve Komisyon’un gelecekte bu alanda vereceği kararlara katkıda bulunmaya davet ediyor.

Raporun tamamını aşağıdaki bağlantı adresinden erişebilirsiniz:

https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_en.pdf

Yapay Zeka Kararlarını Açıklama

ICO & Alan Turing Enstitüsü

2 Aralık 2019

 

ICO ve Alan Turing Enstitüsü, yapay zeka (“YZ”) ile verilen kararları açıklama üzerine ortak istişare rehberini yayınladı. Bu doküman, YZ tarafından sunulan veya yardım edilen süreçleri, hizmetleri ve kararları bunlardan etkilenen kişilere açıklamaya yardımcı olmak için organizasyonlara pratik tavsiyeler vermeyi amaçlamaktadır.

Organizasyonlar giderek bireyler hakkındaki kararları desteklemek veya onlar hakkında kararlar vermek için YZ kullanmaktadır. Yaptığınız veya yapmayı düşündüğünüz bu ise, bu doküman size hitap etmektedir.

Rehberin gerçek dünyada pratikte uygulanabilir olmasını sağlamak istiyoruz, bu sayede YZ sistemlerini geliştirirken organizasyonlar bundan kolaylıkla yararlanabilir. Bu yüzden geri bildirimleriniz bizim için önemli.

Rehber üç bölümden oluşmaktadır. Uzmanlık seviyenize ve organizasyonunuzun yapısına göre, bazı bölümler sizin için diğerlerinden daha ilintili olabilir. Sizin için en faydalı kısımları seçebilirsiniz.

Dokümana ilişkin anketimiz size üç bölümün tamamına yönelik sorular yöneltecek; istediğiniz soruya cevap verebilirsiniz.

Bölüm 1: Açıklanabilir YZ’nin temelleri, anahtar kavramları tanımlamakta ve birkaç farklı açıklama türünü ana hatlarıyla belirtmektedir. Bu kısım, YZ sistemlerinin geliştirilmesinde yer alan tüm personeller için geçerli olacaktır.

Bölüm 2: Açıklanabilir YZ, verilen YZ kararlarını açıklama ve kişilere bu konuda açıklamalar yapma pratikleriyle size yardımcı olmaktadır. Bu öncelikle organizasoyonunuzdaki teknik ekipler için faydalı olmakla beraber, özellikle DPO’nuz ve uyum ekibiniz için de kullanışlı olacaktır.

Bölüm 3: Organizasyonunuz için açıklanabilir YZ’nin anlamı, YZ’den etkilenen kişilere anlamlı açıklamalar sağlayacak şekilde kurulduğunuzdan emin olmak için uygulayabileceğiniz çeşitli rollere, politikalara, prosedürlere ve belgelere sahip olmaktır. Bu öncelikle organizasyonunuzun üst düzey yönetim ekibine yönelik olmakla birlikte DPO’nuz ve uyum ekibiniz için de faydalı olacaktır.

 

Rehbere ilişkin düşüncelerinizi [email protected] adresine iletebilirsiniz.

 

Rehberin orojinalini ve bağlantı adresini aşağıda bulabilirsiniz: 

https://ico.org.uk/media/about-the-ico/consultations/2616441/explain-about-this-guidance.pdf

Federal Hükümet’in Yapay Zeka Stratejisi için Veri Etiği Komisyonu’nun Önerileri

Federal Hükümet’in Yapay Zeka Stratejisi için Veri Etiği Komisyonu’nun Önerileri

Image result for daten ethik kommission"

9 Ekim 2018

Veri Etiği Komisyonu, Federal Hükümet’in yapay zeka konusunda bir strateji geliştirmesinden memnuniyet duymaktadır. Veri Etiği Komisyonu 4 ve 5 Eylül 2018 tarihli kurucu toplantısında, Federal Hükümet’in böyle bir strateji için oluşturduğu politika dokümanı üzerine tartıştı. Komisyon, Federal Hükümet’in stratejisine aşağıdaki hususların eklemesini tavsiye etmektedir:

  • “Yapay zekayı geliştirme ve uygulama süreci boyunca liberal demokrasimize dayalı etik ve yasal ilkeleri koruma” hedefi;
  • “Bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini artırma” eylem alanı

I.

“Yapay zeka” (YZ) kavramı medyada ve genel olarak söylemlerde farklı şeylere gönderme yapmak için kullanılmaktadır. Federal Hükümet’in politika dokümanı, dokümanda yer verilen teknolojileri açıkça belirtmemektedir. Dolayısıyla bu bilgi eklenmelidir.

Bu bağlamda, “yapay zekayı” teknolojiler ve onların potansiyel olarak otomatikleştirilmiş uygulamalarında kullanılabilecek bir sonuca ulaşmak için, insan zekası üzerine modellenmiş karmaşık yöntemler kullanarak çok büyük ve heterojen veri kümelerini işleyen uygulamalar bakımından ortak bir terim olarak anlamaktayız. Bilgisayar biliminin bir parçası olarak YZ’nin en önemli yapı taşları alt sembolik örüntü tanıma, makine öğrenmesi, bilgisayarla işlenmiş bilginin temsili ve sezgisel arama, çıkarım ve planlamayı kapsayan bilgi işlemedir.

Bugün YZ kullanan uygulama yelpazesi zaten çok büyüktür. Bu uygulamalar seyahat rotalarının basit bir şekilde hesaplanmasından imge ve dil tanıma ve oluşturmaya, karar ve tahminlerde bulunma ve etki yaratma için oldukça karmaşık ortamlara kadar çeşitlilik göstermektedir. En önemli uygulamalar, dil ve görüntü tanıyan sistemleri; işbirliğine dayalı robotlar ve diğer otomatik sistemleri (araba, uçak, tren); çok etmenli sistemleri; sohbotları kapsamaktadır. Yaşamın tüm alanlarını etkileyecek ve daha geniş eylem alanlarında daha fazla insan faaliyetini otomatik olarak (kısmen) değiştirebilecek ve çok daha iyi performans gösterebilecek otonom ve kapsamlı uygulamaların geliştirilmesini beklemekteyiz.

Bu bağlamda ortaya çıkan etik ve yasal önemi olan sorular ayrıca, uzman sistemler olarak da tanımlanan, algoritmalara dayalı basit kural sistemleriyle de ilgilidir. Bunlar, genellikle anlaşıldığı gibi YZ’yi oluşturmamaktadır. Federal Hükümet’in YZ’ye yönelik stratejisinin de bu süreçleri kapsaması önemlidir.

II.

Muhtemel YZ uygulamalarının çeşitliliği ve ilgili teknolojilerin karmaşıklığı, özellikle onları etik ve yasalara uygun olarak tasarlamayı ve bu uygunluğu düzenlemeyi zorlaştırmaktadır. Gittikçe daha fazla karar alma süreci, insanlardan eylem konusu YZ gömülü sistemlere doğru değişirken, YZ’nin geliştirilmesinden, programlanmasından, tanıtılmasından, kullanılmasından, yönlendirilmesinden, izlenmesinden ve dış incelemesinden kimin sorumlu olduğuna dair yeni sorular ortaya çıkmaktadır. Ayrıca, spesifik işleyiş, girilen ve / veya uygulamayı “eğitmek” için kullanılan verilerin seçimine ve kalitesine bağlıdır. Bazı veri türlerini basitçe görmezden gelmek ve kötü hazırlanmış verileri kullanmak, sistematik ayrımcılığa yol açan etik sonuçları barındırabilir ya da çoğulluğa karşı çıkacak şekilde sonuçlanabilir. Bu bağlamda, ayrıca temel haklara zarar vermeksizin YZ teknolojilerinde işlenebilecek veri miktarını artırmak için, modern anonimleştirme yöntemlerini araştırmaya ve sentetik eğitim verilerini oluşturmaya daha fazla destek verilmelidir,

Bazı YZ uygulamalarında ihtiyaç duyulan veriler, aynı zamanda yüksek düzeyde teknolojik uzmanlığa sahip az sayıda şirket arasında yoğunlaşmıştır. Bu, kişisel olmayan verilere “özel ellerde” erişimin kanunla düzenlenmesi gerekip gerekmediği sorusunu gündeme getirmektedir.

Son olarak, demokratik süreçle ilgili olarak, insan davranışını giderek daha inandırıcı bir şekilde taklit edebilen teknolojinin, sosyal eğilimleri ve siyasi görüşleri etkilemek için de kolayca kullanılabileceği belirtilmelidir.

“Tasarım yoluyla etik, tasarımda etik ve tasarım için etik” yaklaşımını ve “Avrupa yapımı YZ” markasını kullanarak, YZ geliştirme ve uygulama süreci boyunca etik hususlara değinilmelidir. Bu YZ araştırma, geliştirme ve üretiminin yanı sıra YZ tabanlı uygulamaların kullanımı, işletilmesi, izlenmesi ve yönetilmesini içermektedir. Veri Etiği Komisyonu için etik, öncelikle sınırların tanımı anlamına gelmemektedir; aksine, etik düşünceler gelişim sürecinin başından itibaren ele alındığında tavsiye edilebilir ve istenen uygulamaları destekleyerek tasarıma güçlü bir katkı sağlayabilirler.

Teknoloji, kullanıcılar ve toplum (“YZ ekosistemi”) arasındaki etkileşimleri de göz önünde bulundurmak gerekir. Bu ekosistem içerisinde, yeterli şeffaflık, hesap verebilirlik, ayrımcılıktan kurtulma özgürlüğü ve ek insan katkısı olmadan gerçekleştirilebilecek kararları hazırlayan veya sonuç çıkaran bu otomatik süreçleri gözden geçirme kabiliyetinin sağlanması gerekmektedir. Algoritma odaklı işlemlerin kullanımında ve sonuçlarında güven oluşturmanın tek yolu budur. Politika dokümanı (s. 9), kamu yönetiminde kullanılan algoritmalar için bu önlemleri haklı olarak talep etmektedir. Ancak aynı ilkeler, özel sektöre de uygun bir şekilde uygulanmalıdır. Kısmen bağımsız üçüncü kişiler ve kısmen de otomatikleştirilmiş süreçlerle desteklenebilecek kalite güvence önlemlerine de ihtiyaç vardır. Ayrıca, etkilenen kişilerin ve denetim otoritelerinin, etkili yasal yollara erişimin yanı sıra, müdahale etmek için uygun ve etkili olanaklara sahip olmalarını sağlamak da gereklidir.

YZ ile sorumlu bir şekilde başa çıkmak için en önemli standart, özellikle de Anayasadan önce, temel haklar, hukukun üstünlüğü ilkeleri, refah sistemi ve demokrasidir. Bu aynı zamanda, bireylerin kendi verilerini belirleme hakkını, bu da şirketlerin verilerini nasıl kullandıklarını müşterilere bildirmelerini; bir uygulamanın kişisel kullanımı ile ilgili bireysel kullanıcı kararlarına saygıyı; haksız ayrımcılığa karşı korumayı; ve makine kararlarını etkili biçimde gözden geçirme imkanını içermektedir. Ayrıca, YZ tabanlı teknolojilerin etik, yasal ve ekonomik ilkelere göre geliştirilmesi ve uygulanması konusundaki sorumluluğun derecesini açıkça tanımlayan yasal hükümlere de ihtiyacımız bulunmaktadır. Bu aynı zamanda YZ ile ilgili olarak tazminat ve kamu hukuku yükümlülüklerinin uygulanması için de geçerlidir.

Bu teknolojilerin tasarlanması ve uygulanması sürecine etik ve yasal ilkeler eklemek için gerekli olan çok çeşitli kontrol mekanizmaları düşünülebilir. Bu mekanizmalara demokratik bir süreçte ulusal ve Avrupa düzeyinde karar verilmelidir. YZ’nin devlet aktörleri tarafından kullanımı özel gözetim altında tutulmalıdır.

Denetim olanakları arasında, Anayasa, sertifikasyon ve standartlara uygun başvuruların hedefli olarak tanıtılması, resmi denetleme yetkisi ve kurumların YZ ve bağlayıcı yasalarla ilgili temel haklar ve etik kurallara uyması yer almaktadır.

Bunu göz önünde bulundurarak Veri Etiği Komisyonu, Federal Hükümet’in yapay zeka konusundaki stratejisinin, YZ geliştirme ve uygulama sürecinde tüm etik ve yasal ilkeleri desteklemesini, talep etmesini ve stratejinin bunu ek bir amaç olarak içermesini tavsiye etmektedir. Stratejinin eylem alanları bu amaç göz önünde bulundurularak tanımlanmalıdır.

III.

Her türlü bilgi ve teknoloji toplumun her seviyesini ve yaşamımızı daha önce hiç bilinmediği ölçüde etkilemektedir. Demokrasinin yapısal bağlantılı unsurları olarak sosyal etkileşimleri ve söylemi giderek daha fazla etkilemektedirler. YZ için yeni uygulamaların hızlı gelişimi aynı zamanda sürekli bir eleştirel inceleme süreci gerektirmektedir. Bu derin ve çeşitli değişiklikler sadece bireysel ifadeler için değil, aynı zamanda toplumdaki yaşamımız için de önemlidir. Artık her zamankinden daha gerekli olan özgürlüğü ve demokrasiyi güçlendiren bir.yaklaşımda bulunmaktadır. Diğer şeylerin yanı sıra, bireylerin ve kurumsal aktörlerin yeterli dijital ve medya okuryazarlığı kazanabilecekleri ve teknik yeniliklerle nasıl başa çıkacakları konusunda eleştirel olarak düşünebilecekleri bir çerçeveye ihtiyacımız bulunmaktadır.

Federal Hükümet’in politika dokümanı, politika yapıcıların yanı sıra araştırma topluluğu, sivil toplum, iş dünyası ve sanayi temsilcileri ile sürekli bir diyalog içinde Almanya’da güveni artıran bir YZ kültürü oluşturmak için yapay zeka konusundaki stratejisini uygulamaya çağırmaktadır. Veri Etiği Komisyonu bu önlemlerin önemini vurgulamaktadır.

Aynı zamanda YZ stratejisine ayrı bir eylem alanı eklemeyi de önermekteyiz: “Bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini artırma”. Bu, bireylerin ve kurumsal aktörlerin yeterli dijital ve medya okuryazarlığı kazanmalarını ve YZ ile nasıl başa çıkacaklarını eleştirel olarak yansıtma yeteneği edinmelerini sağlamak içindir. Bu yetenekler, toplumun YZ kullanımına duyulan güveni arttırmaya yardımcı olabilecek objektif, bilinçli ve ayrıntılı bir inceleme yapması için esastır. Bununla birlikte Veri Etiği Komisyonu, şu anda Federal Hükümet’in politika dokümanında tanımlandığından daha geniş bir yaklaşımın gerekli olacağına inanmaktadır.

Dijital ve medya okuryazarlığını ve eleştirel yansımasını teşvik etmenin yolları, kampanyalarda kapsamlı, nesnel bilgiler sunmaktan, okulda ve yetişkin eğitim kurslarında medya okuryazarlığı öğretmekten, yasaları ve teknoloji dünyasında etik ilkeleri uygulama için teknolojilerin kullanılmasına ve geliştirilmesine kadar uzanmaktadır. Medya ve medya denetim kurumlarının da bu bağlamda oynayacakları önemli bir rol vardır: Rolleri sadece yeni teknolojiler hakkında toplumu bilgilendirmek ve teknolojik gelişmeyi eleştirel bir şekilde incelemek değil, aynı zamanda tartışma için yeni forumlar sağlamaktır.

Teknoloji etki değerlendirmesine yapılan yatırım, toplumumuzda YZ gibi teknolojilerin uygulandığı ölçüde artmalıdır. Örneğin, veri taşınabilirliği, birlikte çalışabilirlik ve tüketiciye olanak sağlayan teknolojiler konusunda daha fazla araştırma ve geliştirme yapılmalıdır; bunlar, birincil amacı tüketicilerin günlük kararlarında yardımcı olmak olan YZ uygulamalarını içermektedir.

Ve devletin, güven sağlayan çerçeve koşullarını oluşturma ve uygulama sorumluluğu ile kullanıcılar ve bir yandan yeni teknolojilerden etkilenen diğerlerinin özgürlük, otonomi ve sorumluluğu ile pazar gücü ve rekabet arasında bir denge bulunmalıdır. YZ’nin geliştirilmesinde büyük rol oynayan şirketlerin artan ekonomik gücü, araştırma ve sivil toplumun tam olarak bu şirketlerden gelen fonlara bağımlı hale gelmesine neden olmamalıdır. Hükümet, araştırma ve sivil toplumun bu önemli toplumsal tartışmaya bağımsız ve yetkinlik temelli katkılar sunmalarını sağlamalıdır.

YZ de dahil olmak üzere modern teknolojiler, belirli işlerdeki insanları geliştirip belirginleştirdikçe, sadece yeni beceriler kazanmakla kalmaz aynı zamanda mevcut becerileri de kaybederiz. Bu, gelecek nesillerin bağımsız kalmaları için belirli becerilerin korunması ve geliştirilmesi konusundaki sorumluluğumuzun tartışılmasını gerektirmektedir. Bu nedenle, tüm toplumun hakimiyeti için tanımı ve gereklilikleri de tartışmamız gerekmektedir.

Bu nedenle Veri Etiği Komisyonu, bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini geliştirmek için uygun çerçeve koşulları yaratmaya odaklanan başka bir eylem alanını stratejiye eklemeyi önermektedir.

IV.

İlerleme ve sorumlu inovasyon, toplumun refahına büyük katkı sağlamaktadır. Karşılamamız ve teşvik etmemiz gereken muazzam fırsatlar sunmakta ama aynı zamanda riskleri de bulunmaktadır. Bu fırsatlar, insanların bireysel haklarının korunması ve sosyal bütünlüğün güçlendirilmesi konusunda her şeyden önce özgürlük, adalet ve refahın sürekliliğini sağlayabilir. Bunu akılda tutarak, Veri Etiği Komisyonu bu dokümanın başında belirtilen iki maddeyi Federal Hükümet’in yapay zeka stratejisine eklemesini şiddetle tavsiye etmektedir.

Raporun orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUndWissenschaft/DEK_Empfehlungen_englisch.pdf?__blob=publicationFile&v=3

Sivil ve Askeri Dronlar

 

Sivil ve Askeri Dronlar

 

Avrupa Parlamentosu, Ekim 2019

 

ÖZET

Genellikle bugünün en önemli yıkıcı teknolojilerinden biri olarak sınıflandırılan dronlar, iş modellerini, mevcut yasaları, emniyet ve güvenlik standartlarını, taşımacılığın geleceğini ve modern savaşı temelden yeniden ele alarak gerçekten bu sıfatı hak etmektedir. Avrupa Birliği (AB), dronların sunduğu fırsatların farkında ve onları havacılık tarihinde yeni bir bölüm olarak görmektedir. AB havacılık stratejisi, yeni ve gelişen teknolojilerin araştırılması için rehberlik etmekte ve rekabetçi AB havacılık endüstrisini sürdürmek için dronların iş dünyasına ve topluma entegrasyonunu sağlamaktadır.

Böcek boyutundaki ağırlıktan birkaç tona kadar değişen dronlar, birden fazla kullanım alanına sahiptir; çekim yapma, tarım ve tıbbi yardımdan arama kurtarma operasyonlarına kadar çok çeşitli işlevleri gerçekleştirebilmektedir. Sivil ve askeri dronların avantajları arasında göreceli düşük maliyetleri, ulaşılması, daha fazla iş üretkenliği ve insan hayatı riskini azaltma kapasitesi bulunmaktadır. Bu özellikler kitlesel ticarileşme ve askeri planlama entegrasyonlarına yol göstermektedir. Yine de düzenleme ve gözetim zorlukları özellikle çift kullanımlı dronlar -kolayca silahlı dronlara dönüştürülebilen veya suç işleme amaçları için silahlandırılabilen sivil dronlar- özelinde devam etmektedir.

AB düzeyinde, Avrupa Komisyonu, güvenli insansız hava araçları operasyonlarında uyumlaştırılmış bir yasal düzenleme çerçevesinin sağlanmasına yardımcı olmak için sivil dronları ve Avrupa Havacılık Güvenliği Ajansını düzenleme yetkisine sahiptir. En son AB mevzuatı dronlar için şimdiye kadarki en yüksek güvenlik standartlarına ulaştı. Yasa koyucular, devlet ve üreticiler için diğer bir zorluk da vatandaşların ve tüketicilerin güvenini arttırma ihtiyacıdır. Dronların kötüye kullanımlarının, başarı, şeffaflık ve etkili iletişimden daha çok halkın önünde olduğu düşünülürse, vatandaşları yaklaşmakta olan dron çağına hazırlamak  bir zorunluluktur.

 

Orijinal dokümana aşağıdaki bağlantıdan ulaşabilirsiniz:

http://www.europarl.europa.eu/RegData/etudes/BRIE/2019/642230/EPRS_BRI(2019)642230_EN.pdf

 

Büyük Veri Etiği

 

Büyük Veri Etiği

 

2017

 

Özet

 

Avrupa Ekonomi ve Sosyal Komitesi (EESC)’nin faaliyetlerini desteklemek amacıyla yapılan bu çalışma, Büyük Veri’nin etik boyutlarını, AB içindeki ekonomik büyümeye duyulan ihtiyaçla dengelemek amacıyla araştırmaktadır. Çalışmanın ilk bölümünde, Büyük Veri ile ilgili etik sorunları vurgulamak için mevcut literatürün derinlemesine bir incelemesi yapılmıştır. Yukarıda açıklanan dengeye ulaşmanın aracı olarak beş aksiyon geliştirilmiştir. Çalışmanın ikinci aşaması, birtakım kilit paydaşlarla yapılan görüşmeler ve Büyük Veri kullanımı ile ilgili hususlarda genel bilgiler edinen bir anket yürütülmesini içermektedir. Teklif edilen dengeleme aksiyonlarına ilişkin geri bildirimler de alınmış olup son incelemede göz önünde bulundurulmuştur. Büyük Veri’nin yararları katılımcılar tarafından nadiren tartışılırken, görüşmelerden ve anketlerden ortaya çıkan tutumlar, ilgiden endişeye doğru uzanmaktadır. Avantajlar, Büyük Veri’ye olduğu kadar risklere de özgüdür ve bu husus çalışma boyunca daha geniş bir şekilde tartışılmaktadır.

 

Çalışmanın orijinalini ve tamamını aşağıda bulabilirsiniz:

https://www.eesc.europa.eu/sites/default/files/resources/docs/qe-04-17-306-en-n.pdf

 

ABD Hava Kuvvetleri Yapay Zeka Stratejisi

 

ABD Hava Kuvvetleri Yapay Zeka Stratejisi

 

2 0 1 9
Amerika Birleşik Devletleri Hava Kuvvetleri
 Savunma Bakanlığı Yapay Zeka Stratejisine Ek Yapay Zeka Bölümü

 

Giriş

 

Yapay zeka (YZ), 21. yüzyılda savaşın yapılış şeklini değiştirmeye hazırlanıyor. Şu anda Hava Kuvvetleri’nin sahip olduğu üstünlük, bu teknolojileri benimseme şeklimize bağlı olarak ya sarsılacak ya da güçlenecektir.

Önceki teknolojik gelişmelerin aksine, YZ hali hazırda birçok ticari girişimin içinde yayılmakta; dolayısıyla devletçe kontrol edilemez veya zapt edilemez bir durumdadır. Ticaret hayatının bu teknolojileri benimsemek için acele etmesi gibi, küresel rakiplerimiz de YZ entegrasyonu ve silahlanmasını, geleneksel güçlü yönlerimize karşı koymak ve algılanan zayıflıklarımızdan yararlanmak için etkili bir önlem olarak hızlandırıyor. Bu, Hava Kuvvetlerimiz için özellikle Hava, Uzay ve Siber görevleri yürütme yeteneğimizin veri ve bilgiler tarafından yönlendirilen içgörülere dayandığı durumlarda geçerlidir. Şu an yaptığımız stratejik seçimlere bağlı olarak, YZ’nin benimsenmesiyle dünya çapında faaliyet gösterme yeteneğimiz körelebilir veya güçlenebilir.

Hava Kuvvetleri, ülkeye Hava ve Uzay Üstünlüğü, Küresel Güç, Hızlı Küresel Hareketlilik, İstihbarat, Gözetleme ve Keşif ve Komuta Kontrolü sağlamakla yükümlüdür. YZ, bu farklı görevlerin beşinde de rekabet etme, caydırma ve kazanma yeteneğimizin altını çizecek bir güçtür. Yarının Hava Kuvvetlerini daha hızlı ve daha zeki kılmak, üst düzey mücadelede çok alanlı operasyonlar gerçekleştirmek, açık çatışma seviyesinin altındaki tehditlere karşı koymak ve dünyadaki müttefiklerimizle ortaklık sağlamak çok önemlidir.

Bu bölüm ve ilgili ekler, ortak Yapay Zeka Merkezi (JAIC) tarafından yürütülen, Ulusal Savunma Stratejisi ve Savunma Bakanlığı Yapay Zeka Stratejisi ile çabalarımızı uyumlu hale getirmeye hizmet etmektedir. Dijital çağda etkin bir şekilde yönetmek, manevra yapmak ve öncülük etmek için gereken temel prensipleri, işlevleri ve hedefleri detaylandırmaktadır. Bunu yapmak, hem destek hem de savaşla mücadele operasyonları için YZ’yi kullanıma hale getirme yeteneğimize bağlıdır.

Yapay zeka her sorunun çözümü değildir. Benimsenmesi, ülkeye karşı etik, ahlaki ve yasal yükümlülüklerimize uygun şekilde düşünülmelidir. Bu büyük sorumluluğu üstlenen Havacılar, atanan görevlerini gelişen teknolojilere odaklanarak, aynı zamanda yapılan her şeyin bir insan çabası olduğu anlayışıyla yürütmelidir.

Büyük güç rekabetine dönüldüğünde; Birleşik Devletler Hava Kuvvetleri, herbir Havacı’nın yeteneğini geliştirirken, sonuçları daha yüksek hız ve hassasiyetle daha iyi hale getirmek için tüm görev kümelerinde YZ’nin en karakteristik formlarını kullanacak ve yönetecektir. Amerikan milletine olan her zamanki sorumluluğumuzla, bunu milletimizi ve onun hayati çıkarlarını en iyi şekilde korumak ve savunmak için yapmaktayız.

 

Metnin orijinalini ve tamamını aşağıda bulabilirsiniz:

https://www.af.mil/Portals/1/documents/5/USAF-AI-Annex-to-DoD-AI-Strategy.pdf

Akıllı Şehir Yaratmak: Politika Önerileri

 

Akıllı Şehir Yaratmak: Politika Önerileri

AB Akıllı Şehir Bilgi Sistemleri 

 

Rapor Hakkında

Bu raporun amacı, öğrenilen kilit noktaları paylaşmak ve Akıllı Şehir projelerinin gelişiminin nasıl destekleneceğine ilişkin politika önerileri sunmaktır. Bu rapor, AB tarafından finanse edilen projelerce test edilmiş, başarılı, yenilikçi teknolojilerin çoğaltılmasını desteklemeyi ve teşvik etmeyi amaçlayan Akıllı Şehirler Bilgi Sistemleri (SCIS) projesindeki SCIS Raporunun üçüncüsüdür. SCIS projesi, veri alışverişi yapılması, bilgi birikiminin tecrübe edilmesi ve akıllı şehirlerin yaratılması ve enerji açısından verimli bir kentsel ortamın oluşturulması konusunda işbirliği yapmak için Avrupa genelinde proje geliştiricileri, şehirler, kurumlar, endüstri ve uzmanları bir araya getiriyor.

Bu rapor yerel, ulusal ve AB düzeyindeki politika yapıcılar için politika önerileri sunmaktadır. Politikadan etkilenen temel alanları, yani hukuki düzenleme ve finansı kapsamaktadır. Raporda, Akıllı Şehirler ile ilgili AB makamları için inovasyon politikası üzerine bir uzman bölümü de sunulmaktadır. Akıllı şehir planlaması ve şehir planlamacılarının ve destekçilerinin etki alanı olan proje uygulama konuları, SCIS’in teknolojinin geliştirilmesi ile ilgili raporunda ele alınmıştır. Bu rapor, politika koşullarından doğan, projelerin karşılaştığı engellerin bir analizini sunarak, projelere odaklanan SCIS bilgi veritabanını tamamlamaktadır. Aynı zamanda bazı potansiyel politika çözümleri önermektedir. Bu rapor, bu nedenle, bir dereceye kadar, teknik çalışmada madalyonunun diğer yüzüdür ve bu nedenle birçok ortak çalışmayı göz önüne getirecektir. Rapor birkaç ana bilgi kaynağına dayanmaktadır:

• Avrupa Komisyonu tarafından ortak olarak finanse edilen, Akıllı Şehirler ve Topluluklar FP7 ve Horizon 2020 projelerinin enerji, mobilite ve ulaşım ile ICT alanlarında teknolojik, politika ve finansal analizleri;

• Akıllı Şehirler projeleri koordinatörlerinin özel çalıştaylar sırasında paylaştığı bilgiler;

• Akıllı Şehirler ve Topluluklar üzerine Avrupa İnovasyon Ortaklığı gibi diğer Akıllı Şehir platformlarından gelen görüşler;

• Literatür taraması ve diğer kaynaklar.

 

Rapor aşağıdaki yapıya sahiptir:

Bölüm 1, Raporu tanıtmakta;

Bölüm 2, inovasyon ve yayma konusundaki üç yönetişim düzeyinde, yetkililer ve politika yapıcılar tarafından ele alınacak politika zorluklarına genel bir bakış sunmakta;

Bölüm 3, ulusal ve yerel düzeyde ihtiyaç duyulan politika aksiyonlarına odaklanmakta;

Bölüm 4 ise AB düzeyinde politika konularına odaklanmaktadır.

 

Raporun orijinalini ve tamamını aşağıda bulabilirsiniz:

https://www.smartcities-infosystem.eu/sites/default/files/document/the_making_of_a_smart_city_-_policy_recommendations.pdf