Yapay Zeka AR-GE Gelişmeleri: 2016-2019 İlerleme Raporu

 

Yapay Zeka AR-GE Gelişmeleri: 2016-2019 İlerleme Raporu

Kasım 2019

Özet

Amerika Birleşik Devletleri’nin yapay zeka (YZ) ulusal stratejisi, yapay zekadaki küresel liderliği korumak için araştırma ve geliştirmeyi (AR-GE) en önemli öncelik olarak tanımlamaktadır. Amerika Birleşik Devletleri, büyük ölçüde güçlü Ar-Ge ekosistemi sayesinde YZ inovasyonunda dünyaya öncülük etmektedir. Federal aktörler, misyonlarıyla örtüşen alanlarda, dünya standartlarında araştırma programına yatırım yaparak YZ inovasyonuna önemli ölçüde katkıda bulunmaktadır.

Bu 2016–2019 Yapay Zeka Ar-Ge İlerleme Raporu (“2016–2019 İlerleme Raporu”), aktörlerin Federal YZ Ar-Ge konusunda sunmak için kaydettiği önemli ilerlemeyi belgelemektedir.

Federal araştırma yatırımlarına rehberlik etmek, Planın 2016 versiyonunu temel alan Ulusal Yapay Zeka Araştırma ve Geliştirme Stratejik Planı: 2019 Güncellemesi’dir (“2019 Planı”). 2019 Planı sekiz ulusal YZ Ar-Ge stratejisini ortaya koymaktadır:

Strateji 1: Yapay zeka araştırmalarına uzun vadeli yatırımlar yapma

Strateji 2: Yapay zeka-insan etkileşimi için etkili yöntemler geliştirme

Strateji 3: Yapay zekanın etik, hukuki ve sosyolojik etkilerini ele alma ve anlama

Strateji 4: Yapay zeka sistemlerinin güvenliğini ve emniyetini sağlama

Strateji 5: Yapay zeka eğitimi ve testi için ortak kamu veri kümeleri ve ortamları geliştirme

Strateji 6: Yapay zeka teknolojilerini kıyas ve standartlar aracılığıyla ölçme ve değerlendirme

Strateji 7: Ulusal Yapay Zeka Ar-Ge iş gücü ihtiyaçlarını daha iyi anlama

Strateji 8: Yapay zekadaki ilerlemeleri hızlandırmak için kamu-özel sektör ortaklıklarını genişletme

Bu 2016-2019 İlerleme Raporu, YZ araştırmasını önce strateji, sonra sektörlere göre vurgulamakta ve devamında, hükümete genel bir bakış sağlayan bireysel katkıları açıklayan destekleyici detaylar içermektedir. Program ve faaliyetlerin çeşitliliği, yapay zekadaki Federal yatırımların dikkate değer genişliğini ve derinliğini yansıtmaktadır. Bu rapor sadece Federal Ar-Ge’nin geniş temalarını vurgulamakla kalmayıp, aynı zamanda alanı geliştiren bireysel YZ Ar-Ge atılımlarını vurgulayan açıklayıcı örnekler sunmaktadır. 

Bir bütün olarak ele alındığında, 2016-2019 İlerleme Raporu aşağıdaki temel mesajları içermektedir:

  1. Federal Hükümet, alanı dönüştürebilecek yenilikçi YZ kavramlarına önemli bir yatırım yapmaktadır.
  2. Birleşik Devletler, ulusal YZ Ar-Ge stratejisi ile tutarlı olarak, YZ’ye yatırım yapan geniş Federal kurum yelpazesinden önemli ölçüde faydalanmaktadır.
  3. Federal yatırımlar toplumumuzu daha iyi hale getirmek için devrim yaratan etkili atılımlar yaratmaktadır.

Bütün olarak ele alındığında, bu raporda açıklanan yatırımlar, Federal Hükümetin Ar-Ge sayesinde Amerika’nın YZ yeteneklerini nasıl geliştirdiğini göstermekte ve bu yetenekler gelecek yıllar için Amerikan halkının refahını, güvenliğini, emniyetini ve yaşam kalitesini artırmasını sağlamaktadır.

 

Raporun tamamını aşağıda bulabilirsiniz:

Blokzincir 1.0 ve 2.0

Blokzincir 1.0 ve 2.0

 

Dijital şifreleme teknolojilerinin uzun yıllardır süren gelişimi 2009 yılında bizlere bir hediye armağan etti. Bir birey veya kurumun salt kendi tasarrufuyla değiştiremeyeceği verilerin kaydedilebileceği bir işlem ağı hayatımıza girdi. Bitcoin isimli kripto paranın kullanımıyla Blokzincir 1.0 yaygınlaştı.

            Blokzincir teknolojisine entegre edilen, yazılımlara karar alma yeteneği kazandıran geliştirmeler sayesinde Blokzincir 2.0 ortaya çıkmış oldu.  Blokların şartlı (conditionally) işlemler yapabilmesiyle “akıllı sözleşmeler” kavramıyla tanıştık. Akıllı sözleşmeler sayesinde dijital ağ bünyesinde taraf iradeleri uyuşabiliyor, karşılıklı edimler yerine getirilebiliyor ve en önemlisi de gerçekleştirilen tüm bu işlemler blokzincire bir daha değiştirilemeyecek şekilde kaydediliyor[1].

            Blokzincir 3.0 ve 4.0 gibi hedef teknolojiler de geliştiricilerin takvimlerinde mevcut. Ancak yazımızın sınırları ve bu teknolojilerin henüz evrimleşmeye başlaması sebebiyle bu kısma değinmeyeceğiz.

 

Akıllı Sözleşmeler Ne Vadediyor?

            Blockzincir 2.0 teknolojisinin ürünü olan akıllı sözleşmeler, sözleşmeden doğan borçların bir aracı kişiye ihtiyaç duyulmaksızın ifasını sağlar. Bir nevi “otomatik” sözleşmelerdir. Nitekim akıllı sözleşme denildiğinde akla gelen ilk örnek kahve, bisküvi vb. ürünleri temin ettiğimiz otomatlardır[2]. Bir madeni parayı otomata attığınızda otomat kendiliğinden seçtiğiniz ürünü size verir. Bu yöntem günümüzde abonman sözleşmelerinde hatta araç kiralama hizmetlerinde kullanılmaktadır. Akıllı sözleşmeyle gerçekleştirdiğiniz faaliyetler blokzincirin değiştirilemez ağına işlendiğinde noter tesciline ihtiyaç duymayabilirsiniz.

Akıllı sözleşmelerin kullanımı belki başka alanlarda da yaygınlaşacaktır. Ancak bu genişlemenin önünde büyük engeller olduğu kanaatindeyiz.

 

Blokzincir ve Akıllı Sözleşmeler Mevcut Hukuk Düzenimizle Nasıl Çatışıyor? 

            Mevcut akıllı sözleşme protokollerinin, ağlarının (Ethereum vb.) sunduğu imkanlar dahilinde bir akıllı sözleşme akdederseniz, sözleşme hükümleri ağa yazıldığı haliyle ifa edilecektir ve blokzincirin en önemli özelliklerinden olan “değiştirilemezlik” ilkesi gereğince geri alınamayacaktır[3]. Öyleyse mevcut durumda Borçlar Hukukumuzun irade sakatlıkları, sözleşmenin tadili gibi sözleşmede değişiklik yapılmasını gerektiren hukuki kurumlarını kullanmak mümkün olmayacaktır. Bu uyumsuzluğun giderilebilmesi için ya endüstrileşme çağının temelleri üzerine inşa edilmiş olan ve Endüstri 4.0’a tam olarak adapte olamayan Borçlar Hukuku’nun devrim niteliğinde bir değişikliğe uğraması gerekmektedir ya da bilgisayar bilimi teknikleriyle akıllı sözleşmelerin bir şekilde mevcut Borçlar Hukuku ile uyumla hale getirilmesi gerekmektedir[4].

            Devlet veya bir tüzel kişilik tarafından oluşturulan ve kamuya açık olmayan blokzincirler açısından kişisel verilerin korunması hukuku açısından mevcut hükümler kanımızca uygulanabilir durumdadır. Ancak kamuya açık olan, dışardan ağa katılımın serbest olduğu blokzincirlerde durum değişmektedir.

            Öncelikle blokzincirlerin merkeziyetsiz ağlar olması dolayısıyla (Aslında çok fazla merkez olması söz konusudur) kişisel verilerin ihlali durumunda kimin sorumlu tutulacağı hususu muğlaktır. “Kişisel Veri”nin ne olduğu sorusu bile bloklarda kayıtlı veriler söz konusu olduğunda net olarak cevaplanamamaktadır. Blokzincir ağına işlenmesi sebebiyle “Kişisel Veri”lerin ihlal edilmesi gündeme gelse bile mevcut blokzincir ağlarında “Unutulma Hakkı”nın kullanımı söz konusu olamayacaktır. Zira ağa işlenen veriler blokzincirin yapısı gereği geri alınmamaktadır. Akıllı sözleşmelerin hükümlerinde değişiklik yapılmasına engel olan “Değiştirilemezlik” özelliğinin burada da mevcut hukuk düzenlemelerimizle çatıştığı kanaatindeyiz.

            Blokzincir ve akıllı sözleşmeler çarkının dönmesini sağlayan, bir nevi blokzincir ağlarının yakıtı mahiyetinde olan, kripto paraların yasa koyucu ve idareler nezdinde nasıl nitelendirileceği başka bir ciddi tartışma konusudur. Özellikle hangi hukuki rejime tabi olacağı ve nasıl vergilendirileceği hususları dünyada ve Türkiye’de tartışılmaktadır. Örneğin ABD’nin önde gelen finansal kurumlarından SEC zaman zaman bazı kripto paraların “emtia”,  kalanlarının ise “para birimi” olduğuna dair görüşlerini bildirse de kurumsal olarak kripto para olgusuna bakışı halen belirsizdir[5]. Avrupa Adalet Divanı ise geçmişte kripto paraları “para birimi” olarak tanımlamaya eğilimli kararlar vermiştir[6]. Türkiye’de kripto paraların nasıl tanımlanacağı 6493 sayılı Ödeme Ve Menkul Kıymet Mutabakat Sistemleri, Ödeme Hizmetleri Ve Elektronik Para Kuruluşları Hakkında Kanun’da yapılan değişiklikler ile yetkili kılınan T.C. Cumhuriyet Merkez Bankası ve Türkiye Ödeme ve Elektronik Para Kuruluşları Birliği’nin düzenlemeleriyle yoruma kavuşacaktır[7].

            Yukarıda belirtilen gerekçelerden ötürü kanımızca blokzincir ve akıllı sözleşmelerin hukuki olarak sağladığı maliyet ve zaman avantajının yanında birtakım teknik dezavantajları bulunmaktadır. Sermaye piyasası hukuku açısından tokenların halka arz problemi, Ripple vs. SEC Davası, ICO, IEO kavramları, ülkemizdeki kripto para borsalarının tabi olduğu MASAK, BDDK ve vergi denetimlerinin yeterliliği ve şeffaflık açısından gizlilik paralarının (Privacy Coins) kara para aklama suçu kapsamındaki kritiği, blokzincir ve akıllı sözleşmelerin noterlik hukukuna olası yansımaları gibi tartışılması gereken başka hukuki boyutlar da mevcuttur. Bunlar da bir sonraki yazımızın konusu olsun.

[1] Herian, s.454.

[2] Szabo ‘Smart Contracts Building Blocks for Digital Markets’ yazısının ‘Contracts Embedded in The World’ bölümünde yer vermiştir.

[3] Çekin, s.13.

[4] Çekin, s.15. Çekin, burada bir çözüm önerisi getirmektedir.?

[5] https://cointelegraph.com/news/sec-if-bitcoin-was-a-security-it-would-raise-substantialissues

[6] https://curia.europa.eu/jcms/upload/docs/application/pdf/2015-10/cp150128en.pdf

[7] https://www.dunya.com/finans/haberler/turkiye-odeme-ve-elektronik-para-kuruluslari-birligi-kuruluyor-haberi-455395

Yapay Zeka Kararlarını Açıklama

ICO & Alan Turing Enstitüsü

2 Aralık 2019

 

ICO ve Alan Turing Enstitüsü, yapay zeka (“YZ”) ile verilen kararları açıklama üzerine ortak istişare rehberini yayınladı. Bu doküman, YZ tarafından sunulan veya yardım edilen süreçleri, hizmetleri ve kararları bunlardan etkilenen kişilere açıklamaya yardımcı olmak için organizasyonlara pratik tavsiyeler vermeyi amaçlamaktadır.

Organizasyonlar giderek bireyler hakkındaki kararları desteklemek veya onlar hakkında kararlar vermek için YZ kullanmaktadır. Yaptığınız veya yapmayı düşündüğünüz bu ise, bu doküman size hitap etmektedir.

Rehberin gerçek dünyada pratikte uygulanabilir olmasını sağlamak istiyoruz, bu sayede YZ sistemlerini geliştirirken organizasyonlar bundan kolaylıkla yararlanabilir. Bu yüzden geri bildirimleriniz bizim için önemli.

Rehber üç bölümden oluşmaktadır. Uzmanlık seviyenize ve organizasyonunuzun yapısına göre, bazı bölümler sizin için diğerlerinden daha ilintili olabilir. Sizin için en faydalı kısımları seçebilirsiniz.

Dokümana ilişkin anketimiz size üç bölümün tamamına yönelik sorular yöneltecek; istediğiniz soruya cevap verebilirsiniz.

Bölüm 1: Açıklanabilir YZ’nin temelleri, anahtar kavramları tanımlamakta ve birkaç farklı açıklama türünü ana hatlarıyla belirtmektedir. Bu kısım, YZ sistemlerinin geliştirilmesinde yer alan tüm personeller için geçerli olacaktır.

Bölüm 2: Açıklanabilir YZ, verilen YZ kararlarını açıklama ve kişilere bu konuda açıklamalar yapma pratikleriyle size yardımcı olmaktadır. Bu öncelikle organizasoyonunuzdaki teknik ekipler için faydalı olmakla beraber, özellikle DPO’nuz ve uyum ekibiniz için de kullanışlı olacaktır.

Bölüm 3: Organizasyonunuz için açıklanabilir YZ’nin anlamı, YZ’den etkilenen kişilere anlamlı açıklamalar sağlayacak şekilde kurulduğunuzdan emin olmak için uygulayabileceğiniz çeşitli rollere, politikalara, prosedürlere ve belgelere sahip olmaktır. Bu öncelikle organizasyonunuzun üst düzey yönetim ekibine yönelik olmakla birlikte DPO’nuz ve uyum ekibiniz için de faydalı olacaktır.

 

Rehbere ilişkin düşüncelerinizi [email protected] adresine iletebilirsiniz.

 

Rehberin orojinalini ve bağlantı adresini aşağıda bulabilirsiniz: 

https://ico.org.uk/media/about-the-ico/consultations/2616441/explain-about-this-guidance.pdf

Deepfake Videoları: Her Gördüğüne İnanma

 

Deepfake Videoları: Her Gördüğüne İnanma

 

Image result for depfake"

 

Holly Kathleen Hall

Arkansas Üniversitesi

2018

 

 

 

Giriş

 

“2016 seçimleri, kampanya haberi ve bilgilerin, özellikle yanlış veya yanıltıcı bilgilerin yayılmasında ve yabancı bir hükümetin bu yayılmaya katılımında bir değişiklik olduğunu gösterdi.  Bu yeni yön, yeni iletişim dinamiğinin demokratik süreç üzerindeki etkisi ve nüfuzu ile ilgili endişeleri arttırdı. Gelişen teknoloji ve sosyal medya ağlarının popülaritesinin artması, video oluşturma ve paylaşmada da artışa neden oldu. Teknolojideki yenilikler aynı zamanda halkın videolar üzerinde düzenleme ve oynama yapmasına, çok gerçek görünen sahte veya yapay içerik oluşturmasına izin veriyor. 2018’de, bir insanın yüzünü başka bir insanınki yerine geçiren videoların oluşturulmasına izin veren yeni bir yapay zeka yazılımı kamuoyuna duyuruldu. Sonu: hiç telaffuz etmediği şeyleri söyleyen ya da hiç yapmadığı şeyleri yapan insanların videoları. Bu “deepfake” videoların oluşturulmasında çarpıcı bir yükseliş oldu ve gizlilik, hakaret ve ifade özgürlüğü konularında olası yasal tartışmaları besledi.

Sahte haberlerin pazarda kabul edilmesinin olağanüstü başarısı, bireyler ve demokrasiyle ilgili ciddi kaygılar yaratmakta. Bu denkleme bir de video eklendiğinde olay daha da şiddetlenmekte. Şu potansiyel durumları bir düşünün: para veya özel bilgileri ele geçirmek için deepfake kullanan şantajcılar, bir devlet görevlisinin hiç almadığı bir rüşveti kabul ettiğini gösteren veya yabancı bir hükümetin yaklaşan bir saldırısını ilan eden bir yetkiliyi tasvir eden deepfake videoları. Olasılıklar endişe verici. Deepfake’in doğal olarak neden olabileceği zarar kapasitesi, yeni yasa ve düzenlemelerin göz önünde bulundurulmasına yol açmakta. Ancak, Amerika Birleşik Devletleri’ndeki konuşma ve ifade üzerine olan herhangi bir düzenleme, Anayasa’yı da içine almakta. Geçmişte, belirli içeriği sansürlemekten ziyade gerçeği ortaya çıkarmak ve en iyi fikirlerin öne çıkmasını sağlamak için ifade özgürlüğünü teşvik eden “marketplace of ideas” kavramına güveniyorduk. Peki halk hangi bilgilerin doğru, yanıltıcı veya yanlış olduğunu fark edemediğinde bu argüman hala geçerli olmaya devam edecek mi?

Bu makale ilk olarak ABD yönetim sürecinde sahte haberlerin yükselişini tartışacak. Daha sonra, seçim sürecinde aldatma aracı olarak potansiyel kullanımları da dahil olmak üzere deepfake videoların uygulamalarını ve Anayasal korumalar göz önüne alındığında, bu iletişim şekli etrafındaki düzenlemelerin karmaşıklığını inceleyecek. Makale, genel olarak deepfake ve sahte haberlerle mücadele önerileriyle sona ermekte.”

 

Makalenin orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://scholarship.law.edu/cgi/viewcontent.cgi?article=1060&context=jlt

Federal Hükümet’in Yapay Zeka Stratejisi için Veri Etiği Komisyonu’nun Önerileri

Federal Hükümet’in Yapay Zeka Stratejisi için Veri Etiği Komisyonu’nun Önerileri

Image result for daten ethik kommission"

9 Ekim 2018

Veri Etiği Komisyonu, Federal Hükümet’in yapay zeka konusunda bir strateji geliştirmesinden memnuniyet duymaktadır. Veri Etiği Komisyonu 4 ve 5 Eylül 2018 tarihli kurucu toplantısında, Federal Hükümet’in böyle bir strateji için oluşturduğu politika dokümanı üzerine tartıştı. Komisyon, Federal Hükümet’in stratejisine aşağıdaki hususların eklemesini tavsiye etmektedir:

  • “Yapay zekayı geliştirme ve uygulama süreci boyunca liberal demokrasimize dayalı etik ve yasal ilkeleri koruma” hedefi;
  • “Bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini artırma” eylem alanı

I.

“Yapay zeka” (YZ) kavramı medyada ve genel olarak söylemlerde farklı şeylere gönderme yapmak için kullanılmaktadır. Federal Hükümet’in politika dokümanı, dokümanda yer verilen teknolojileri açıkça belirtmemektedir. Dolayısıyla bu bilgi eklenmelidir.

Bu bağlamda, “yapay zekayı” teknolojiler ve onların potansiyel olarak otomatikleştirilmiş uygulamalarında kullanılabilecek bir sonuca ulaşmak için, insan zekası üzerine modellenmiş karmaşık yöntemler kullanarak çok büyük ve heterojen veri kümelerini işleyen uygulamalar bakımından ortak bir terim olarak anlamaktayız. Bilgisayar biliminin bir parçası olarak YZ’nin en önemli yapı taşları alt sembolik örüntü tanıma, makine öğrenmesi, bilgisayarla işlenmiş bilginin temsili ve sezgisel arama, çıkarım ve planlamayı kapsayan bilgi işlemedir.

Bugün YZ kullanan uygulama yelpazesi zaten çok büyüktür. Bu uygulamalar seyahat rotalarının basit bir şekilde hesaplanmasından imge ve dil tanıma ve oluşturmaya, karar ve tahminlerde bulunma ve etki yaratma için oldukça karmaşık ortamlara kadar çeşitlilik göstermektedir. En önemli uygulamalar, dil ve görüntü tanıyan sistemleri; işbirliğine dayalı robotlar ve diğer otomatik sistemleri (araba, uçak, tren); çok etmenli sistemleri; sohbotları kapsamaktadır. Yaşamın tüm alanlarını etkileyecek ve daha geniş eylem alanlarında daha fazla insan faaliyetini otomatik olarak (kısmen) değiştirebilecek ve çok daha iyi performans gösterebilecek otonom ve kapsamlı uygulamaların geliştirilmesini beklemekteyiz.

Bu bağlamda ortaya çıkan etik ve yasal önemi olan sorular ayrıca, uzman sistemler olarak da tanımlanan, algoritmalara dayalı basit kural sistemleriyle de ilgilidir. Bunlar, genellikle anlaşıldığı gibi YZ’yi oluşturmamaktadır. Federal Hükümet’in YZ’ye yönelik stratejisinin de bu süreçleri kapsaması önemlidir.

II.

Muhtemel YZ uygulamalarının çeşitliliği ve ilgili teknolojilerin karmaşıklığı, özellikle onları etik ve yasalara uygun olarak tasarlamayı ve bu uygunluğu düzenlemeyi zorlaştırmaktadır. Gittikçe daha fazla karar alma süreci, insanlardan eylem konusu YZ gömülü sistemlere doğru değişirken, YZ’nin geliştirilmesinden, programlanmasından, tanıtılmasından, kullanılmasından, yönlendirilmesinden, izlenmesinden ve dış incelemesinden kimin sorumlu olduğuna dair yeni sorular ortaya çıkmaktadır. Ayrıca, spesifik işleyiş, girilen ve / veya uygulamayı “eğitmek” için kullanılan verilerin seçimine ve kalitesine bağlıdır. Bazı veri türlerini basitçe görmezden gelmek ve kötü hazırlanmış verileri kullanmak, sistematik ayrımcılığa yol açan etik sonuçları barındırabilir ya da çoğulluğa karşı çıkacak şekilde sonuçlanabilir. Bu bağlamda, ayrıca temel haklara zarar vermeksizin YZ teknolojilerinde işlenebilecek veri miktarını artırmak için, modern anonimleştirme yöntemlerini araştırmaya ve sentetik eğitim verilerini oluşturmaya daha fazla destek verilmelidir,

Bazı YZ uygulamalarında ihtiyaç duyulan veriler, aynı zamanda yüksek düzeyde teknolojik uzmanlığa sahip az sayıda şirket arasında yoğunlaşmıştır. Bu, kişisel olmayan verilere “özel ellerde” erişimin kanunla düzenlenmesi gerekip gerekmediği sorusunu gündeme getirmektedir.

Son olarak, demokratik süreçle ilgili olarak, insan davranışını giderek daha inandırıcı bir şekilde taklit edebilen teknolojinin, sosyal eğilimleri ve siyasi görüşleri etkilemek için de kolayca kullanılabileceği belirtilmelidir.

“Tasarım yoluyla etik, tasarımda etik ve tasarım için etik” yaklaşımını ve “Avrupa yapımı YZ” markasını kullanarak, YZ geliştirme ve uygulama süreci boyunca etik hususlara değinilmelidir. Bu YZ araştırma, geliştirme ve üretiminin yanı sıra YZ tabanlı uygulamaların kullanımı, işletilmesi, izlenmesi ve yönetilmesini içermektedir. Veri Etiği Komisyonu için etik, öncelikle sınırların tanımı anlamına gelmemektedir; aksine, etik düşünceler gelişim sürecinin başından itibaren ele alındığında tavsiye edilebilir ve istenen uygulamaları destekleyerek tasarıma güçlü bir katkı sağlayabilirler.

Teknoloji, kullanıcılar ve toplum (“YZ ekosistemi”) arasındaki etkileşimleri de göz önünde bulundurmak gerekir. Bu ekosistem içerisinde, yeterli şeffaflık, hesap verebilirlik, ayrımcılıktan kurtulma özgürlüğü ve ek insan katkısı olmadan gerçekleştirilebilecek kararları hazırlayan veya sonuç çıkaran bu otomatik süreçleri gözden geçirme kabiliyetinin sağlanması gerekmektedir. Algoritma odaklı işlemlerin kullanımında ve sonuçlarında güven oluşturmanın tek yolu budur. Politika dokümanı (s. 9), kamu yönetiminde kullanılan algoritmalar için bu önlemleri haklı olarak talep etmektedir. Ancak aynı ilkeler, özel sektöre de uygun bir şekilde uygulanmalıdır. Kısmen bağımsız üçüncü kişiler ve kısmen de otomatikleştirilmiş süreçlerle desteklenebilecek kalite güvence önlemlerine de ihtiyaç vardır. Ayrıca, etkilenen kişilerin ve denetim otoritelerinin, etkili yasal yollara erişimin yanı sıra, müdahale etmek için uygun ve etkili olanaklara sahip olmalarını sağlamak da gereklidir.

YZ ile sorumlu bir şekilde başa çıkmak için en önemli standart, özellikle de Anayasadan önce, temel haklar, hukukun üstünlüğü ilkeleri, refah sistemi ve demokrasidir. Bu aynı zamanda, bireylerin kendi verilerini belirleme hakkını, bu da şirketlerin verilerini nasıl kullandıklarını müşterilere bildirmelerini; bir uygulamanın kişisel kullanımı ile ilgili bireysel kullanıcı kararlarına saygıyı; haksız ayrımcılığa karşı korumayı; ve makine kararlarını etkili biçimde gözden geçirme imkanını içermektedir. Ayrıca, YZ tabanlı teknolojilerin etik, yasal ve ekonomik ilkelere göre geliştirilmesi ve uygulanması konusundaki sorumluluğun derecesini açıkça tanımlayan yasal hükümlere de ihtiyacımız bulunmaktadır. Bu aynı zamanda YZ ile ilgili olarak tazminat ve kamu hukuku yükümlülüklerinin uygulanması için de geçerlidir.

Bu teknolojilerin tasarlanması ve uygulanması sürecine etik ve yasal ilkeler eklemek için gerekli olan çok çeşitli kontrol mekanizmaları düşünülebilir. Bu mekanizmalara demokratik bir süreçte ulusal ve Avrupa düzeyinde karar verilmelidir. YZ’nin devlet aktörleri tarafından kullanımı özel gözetim altında tutulmalıdır.

Denetim olanakları arasında, Anayasa, sertifikasyon ve standartlara uygun başvuruların hedefli olarak tanıtılması, resmi denetleme yetkisi ve kurumların YZ ve bağlayıcı yasalarla ilgili temel haklar ve etik kurallara uyması yer almaktadır.

Bunu göz önünde bulundurarak Veri Etiği Komisyonu, Federal Hükümet’in yapay zeka konusundaki stratejisinin, YZ geliştirme ve uygulama sürecinde tüm etik ve yasal ilkeleri desteklemesini, talep etmesini ve stratejinin bunu ek bir amaç olarak içermesini tavsiye etmektedir. Stratejinin eylem alanları bu amaç göz önünde bulundurularak tanımlanmalıdır.

III.

Her türlü bilgi ve teknoloji toplumun her seviyesini ve yaşamımızı daha önce hiç bilinmediği ölçüde etkilemektedir. Demokrasinin yapısal bağlantılı unsurları olarak sosyal etkileşimleri ve söylemi giderek daha fazla etkilemektedirler. YZ için yeni uygulamaların hızlı gelişimi aynı zamanda sürekli bir eleştirel inceleme süreci gerektirmektedir. Bu derin ve çeşitli değişiklikler sadece bireysel ifadeler için değil, aynı zamanda toplumdaki yaşamımız için de önemlidir. Artık her zamankinden daha gerekli olan özgürlüğü ve demokrasiyi güçlendiren bir.yaklaşımda bulunmaktadır. Diğer şeylerin yanı sıra, bireylerin ve kurumsal aktörlerin yeterli dijital ve medya okuryazarlığı kazanabilecekleri ve teknik yeniliklerle nasıl başa çıkacakları konusunda eleştirel olarak düşünebilecekleri bir çerçeveye ihtiyacımız bulunmaktadır.

Federal Hükümet’in politika dokümanı, politika yapıcıların yanı sıra araştırma topluluğu, sivil toplum, iş dünyası ve sanayi temsilcileri ile sürekli bir diyalog içinde Almanya’da güveni artıran bir YZ kültürü oluşturmak için yapay zeka konusundaki stratejisini uygulamaya çağırmaktadır. Veri Etiği Komisyonu bu önlemlerin önemini vurgulamaktadır.

Aynı zamanda YZ stratejisine ayrı bir eylem alanı eklemeyi de önermekteyiz: “Bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini artırma”. Bu, bireylerin ve kurumsal aktörlerin yeterli dijital ve medya okuryazarlığı kazanmalarını ve YZ ile nasıl başa çıkacaklarını eleştirel olarak yansıtma yeteneği edinmelerini sağlamak içindir. Bu yetenekler, toplumun YZ kullanımına duyulan güveni arttırmaya yardımcı olabilecek objektif, bilinçli ve ayrıntılı bir inceleme yapması için esastır. Bununla birlikte Veri Etiği Komisyonu, şu anda Federal Hükümet’in politika dokümanında tanımlandığından daha geniş bir yaklaşımın gerekli olacağına inanmaktadır.

Dijital ve medya okuryazarlığını ve eleştirel yansımasını teşvik etmenin yolları, kampanyalarda kapsamlı, nesnel bilgiler sunmaktan, okulda ve yetişkin eğitim kurslarında medya okuryazarlığı öğretmekten, yasaları ve teknoloji dünyasında etik ilkeleri uygulama için teknolojilerin kullanılmasına ve geliştirilmesine kadar uzanmaktadır. Medya ve medya denetim kurumlarının da bu bağlamda oynayacakları önemli bir rol vardır: Rolleri sadece yeni teknolojiler hakkında toplumu bilgilendirmek ve teknolojik gelişmeyi eleştirel bir şekilde incelemek değil, aynı zamanda tartışma için yeni forumlar sağlamaktır.

Teknoloji etki değerlendirmesine yapılan yatırım, toplumumuzda YZ gibi teknolojilerin uygulandığı ölçüde artmalıdır. Örneğin, veri taşınabilirliği, birlikte çalışabilirlik ve tüketiciye olanak sağlayan teknolojiler konusunda daha fazla araştırma ve geliştirme yapılmalıdır; bunlar, birincil amacı tüketicilerin günlük kararlarında yardımcı olmak olan YZ uygulamalarını içermektedir.

Ve devletin, güven sağlayan çerçeve koşullarını oluşturma ve uygulama sorumluluğu ile kullanıcılar ve bir yandan yeni teknolojilerden etkilenen diğerlerinin özgürlük, otonomi ve sorumluluğu ile pazar gücü ve rekabet arasında bir denge bulunmalıdır. YZ’nin geliştirilmesinde büyük rol oynayan şirketlerin artan ekonomik gücü, araştırma ve sivil toplumun tam olarak bu şirketlerden gelen fonlara bağımlı hale gelmesine neden olmamalıdır. Hükümet, araştırma ve sivil toplumun bu önemli toplumsal tartışmaya bağımsız ve yetkinlik temelli katkılar sunmalarını sağlamalıdır.

YZ de dahil olmak üzere modern teknolojiler, belirli işlerdeki insanları geliştirip belirginleştirdikçe, sadece yeni beceriler kazanmakla kalmaz aynı zamanda mevcut becerileri de kaybederiz. Bu, gelecek nesillerin bağımsız kalmaları için belirli becerilerin korunması ve geliştirilmesi konusundaki sorumluluğumuzun tartışılmasını gerektirmektedir. Bu nedenle, tüm toplumun hakimiyeti için tanımı ve gereklilikleri de tartışmamız gerekmektedir.

Bu nedenle Veri Etiği Komisyonu, bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini geliştirmek için uygun çerçeve koşulları yaratmaya odaklanan başka bir eylem alanını stratejiye eklemeyi önermektedir.

IV.

İlerleme ve sorumlu inovasyon, toplumun refahına büyük katkı sağlamaktadır. Karşılamamız ve teşvik etmemiz gereken muazzam fırsatlar sunmakta ama aynı zamanda riskleri de bulunmaktadır. Bu fırsatlar, insanların bireysel haklarının korunması ve sosyal bütünlüğün güçlendirilmesi konusunda her şeyden önce özgürlük, adalet ve refahın sürekliliğini sağlayabilir. Bunu akılda tutarak, Veri Etiği Komisyonu bu dokümanın başında belirtilen iki maddeyi Federal Hükümet’in yapay zeka stratejisine eklemesini şiddetle tavsiye etmektedir.

Raporun orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUndWissenschaft/DEK_Empfehlungen_englisch.pdf?__blob=publicationFile&v=3

Savunma Bakanlığı için Yapay Zeka Etik İlkeleri

 

Savunma Bakanlığı için Yapay Zeka Etik İlkeleri

 

Ekim, 2019 – DIB

 

Savunma Bakanlığı için Yapay Zeka Etik İlkeleri

 

Aşağıdaki ilkeler, Bakanlığın yapay zeka (YZ) geliştirip kullanırken benimseyeceği etik davranışlar için araçlar sunmaktadır. Bu amaçla, Bakanlık YZ sistemleri kullanımında şu hedefleri belirlemelidir:

  1. Sorumlu. İnsanlar uygun seviyelerde karar veriyor olmalı ve YZ sistemlerinin geliştirilmesinden, yayılmasından, kullanılmasından ve sonuçlarından sorumlu olmalıdır.
  2. Eşit. DoD, istemeden insanlara zarar verebilecek olan savaş ya da savaş dışı YZ sistemlerinin geliştirilmesi ve yayılmasında oluşacak önyargıları önlemek için bilinçli adımlar atmalıdır.
  3. İzlenebilir. DoD’nin YZ mühendislik disiplini, teknik uzmanların şeffaf, denetlenebilir metodolojiler, veri kaynakları, tasarım prosedürü ve dokümantasyon dahil olmak üzere YZ sistemlerinin teknolojisini, geliştirme süreçlerini ve operasyonel yöntemlerini uygun şekilde anlayabilmesi için yeterince gelişmiş olmalıdır.
  4. Güvenilir. YZ sistemleri açık, iyi tanımlanmış bir kullanım alanına sahip olmalı ve bu tür sistemlerin emniyeti, güvenliği ve sağlamlığı, kullanım alanları içinde tüm yaşam döngüleri boyunca test edilmeli ve güvence altına alınmalıdır.
  5. Yönetilebilir. DoD YZ sistemleri, istenmeyen zarar veya bozulmayı saptama ve önleme, istenmeyen kışkırtıcı vb. davranışları gösteren konuşlandırılmış sistemleri devre dışı veya etkisiz bırakma yeteneğine sahipken, söz konusu amaçlanan işlevlerini yerine getirecek şekilde tasarlanmalı ve üretilmelidir.

Bu Rapor beş bölümden oluşmaktadır. Birinci Bölüm, mevcut stratejik belgeler ve yasalardan elde edilen bir dizi YZ Etik İlkeleri ve etik rehberleri için belirlenen ihtiyaçları özetlemektedir. DoD ve YZ’nin geliştirilmesi ve kullanımında DİB’in kilit konulara nasıl yaklaştığının açıkça çerçevelenmesi için YZ ve otonomi ile ilişkili tanımlayıcı yaklaşımlara işaret etmektedir. İkinci Bölüm, bir dizi DoD YZ Etik İlkesi’nin tutarlı ve sürekli şekilde oluşturulması için gerekli temel bilgiyi sağlamaktadır. Burada YZ’nin dahil olduğu, DoD’nin tüm DoD teknolojilerine uygulanan mevcut etik çerçevesini açıklamaktayız. Üçüncü Bölümde, beş YZ Etik İlkesinin her birinin temel ve kanıta dayalı açıklamalarını sunmaktayız. Bu ilkeler normatiftir; aksiyonlarla ilgili bilgilendirme ve yönlendirmeyi amaçlarlar. Ancak, içeriğe bağlı olarak, bazı ilkelerin diğerlerini geçersiz kılabileceğini ve çeşitli YZ kullanım durumları için bunların farklı şekilde uygulanacağını biliyoruz. Beşinci Bölüm ise sonuçları ortaya koyarken, Dördüncü Bölüm, Bakanlığa önerilerimizi özetlemektedir. Ayrıca, bu ilkeleri geliştirip, mevcut DoD süreçleri hakkında üst düzey içerik oluşturup sürecimizle ilgili şeffaflık ve açıklık sağlayarak okuyuculara yardımcı olacak bir dizi Ek sunmaktayız.

 

Raporun tamamına aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://admin.govexec.com/media/dib_ai_principles_-_supporting_document_-_embargoed_copy_(oct_2019).pdf

 

Sivil ve Askeri Dronlar

 

Sivil ve Askeri Dronlar

 

Avrupa Parlamentosu, Ekim 2019

 

ÖZET

Genellikle bugünün en önemli yıkıcı teknolojilerinden biri olarak sınıflandırılan dronlar, iş modellerini, mevcut yasaları, emniyet ve güvenlik standartlarını, taşımacılığın geleceğini ve modern savaşı temelden yeniden ele alarak gerçekten bu sıfatı hak etmektedir. Avrupa Birliği (AB), dronların sunduğu fırsatların farkında ve onları havacılık tarihinde yeni bir bölüm olarak görmektedir. AB havacılık stratejisi, yeni ve gelişen teknolojilerin araştırılması için rehberlik etmekte ve rekabetçi AB havacılık endüstrisini sürdürmek için dronların iş dünyasına ve topluma entegrasyonunu sağlamaktadır.

Böcek boyutundaki ağırlıktan birkaç tona kadar değişen dronlar, birden fazla kullanım alanına sahiptir; çekim yapma, tarım ve tıbbi yardımdan arama kurtarma operasyonlarına kadar çok çeşitli işlevleri gerçekleştirebilmektedir. Sivil ve askeri dronların avantajları arasında göreceli düşük maliyetleri, ulaşılması, daha fazla iş üretkenliği ve insan hayatı riskini azaltma kapasitesi bulunmaktadır. Bu özellikler kitlesel ticarileşme ve askeri planlama entegrasyonlarına yol göstermektedir. Yine de düzenleme ve gözetim zorlukları özellikle çift kullanımlı dronlar -kolayca silahlı dronlara dönüştürülebilen veya suç işleme amaçları için silahlandırılabilen sivil dronlar- özelinde devam etmektedir.

AB düzeyinde, Avrupa Komisyonu, güvenli insansız hava araçları operasyonlarında uyumlaştırılmış bir yasal düzenleme çerçevesinin sağlanmasına yardımcı olmak için sivil dronları ve Avrupa Havacılık Güvenliği Ajansını düzenleme yetkisine sahiptir. En son AB mevzuatı dronlar için şimdiye kadarki en yüksek güvenlik standartlarına ulaştı. Yasa koyucular, devlet ve üreticiler için diğer bir zorluk da vatandaşların ve tüketicilerin güvenini arttırma ihtiyacıdır. Dronların kötüye kullanımlarının, başarı, şeffaflık ve etkili iletişimden daha çok halkın önünde olduğu düşünülürse, vatandaşları yaklaşmakta olan dron çağına hazırlamak  bir zorunluluktur.

 

Orijinal dokümana aşağıdaki bağlantıdan ulaşabilirsiniz:

http://www.europarl.europa.eu/RegData/etudes/BRIE/2019/642230/EPRS_BRI(2019)642230_EN.pdf

 

Devletin Algoritmik Karar Sistemleri Kullanımında Yeni Zorluklar

 

Devletin Algoritmik Karar Sistemleri Kullanımında Yeni Zorluklar

 

2019

 

Atölye Özeti

Algoritmik karar sistemlerinin (ADS) çoğu zaman olası yararları lanse edilir: insan önyargısı ve hatasını hafifletmek ve maliyet verimliliği, doğruluk ve güvenilirlik vaadi sunmak. Ancak sağlık hizmetleri, adalet, eğitim, istihdam ve diğer alanlarda, bu teknolojilerin uygulanması sayısız sorunla sonuçlanmıştır. 2018 Yargı Algoritmaları Raporumuzda, gündeme getirdikleri önemli yasal ve teknik sorunları vurgulayarak, hükümetin ADS kullanımının dava edildiği ilk dalganın sonuçlarını ve içyüzünü belgeledik.

2019 Haziran’ında John D. ve Catherine T. MacArthur Vakfı, AI Now ve NYU Etnik Köken, Eşitsizlik ve Hukuk Merkezi desteğiyle, ikinci Yargı Algoritmaları Çalıştayımızı düzenledik. Varsa, hangi ilerlemelerin kaydedildiğini inceleyerek geçen yılın birkaç vakasını tekrar ele aldık. Ayrıca, önemli sorunlar ortaya çıkaran yeni hukuksal zorluklar dalgasını da inceledik; (1) avukatların, savcılık seviyesine getirilen iddialara itiraz etmek için ADS’yi hukuki yaptırım şeklinde uygulamasının gerekli olup olmadığı, (2) hükümetin ADS uygulamasındaki hatalı veya kindar kullanımın ikincil sonuçları; ve (3) Amerika’nın en güçlü biyometrik gizlilik düzenlemesinin evrimi ve bunun ADS hesap verebilirliği üzerindeki potansiyel etkisi. Önceki yılın Yargı Algoritmaları Atölyesi’nde olduğu gibi katılımcılar hukuki süreçteki stratejilerini paylaştılar, kışkırtıcı sorular sordular ve hem kazandıkları hem de kaybettikleri önemli anları anlattılar.

Çalıştay katılımcıları ise şu şekildeydi: ACLU, Center for Civil Justice, Center for Constitutional Rights, Center on Privacy and Technology at Georgetown Law, Citizen Lab, Digital Freedom Fund, Disability Rights Oregon, the Electronic Frontier Foundation, Equal Justice Under Law, Federal Defenders of New York, the Ford Foundation, LatinoJustice PRLDEF, Legal Aid of Arkansas, Legal Aid Society of New York, the MacArthur Foundation, NAACP Legal Defense and Educational Fund, National Association of Criminal Defense Lawyers, National Employment Law Project, National Health Law Program, New York County Defender Services, Philadelphia Legal Assistance, Princeton University, Social Science Research Council, Bronx Defenders, UDC Law School, Upturn, ve Yale Law School.

 

AI Now Enstitüsü 2019 Sempozyumu için: https://symposium.ainowinstitute.org/

 

Raporun orijinaline ve tamamına aşağıdaki bağlantıdan ulaşabilirsiniz:

https://ainowinstitute.org/litigatingalgorithms-2019-us.pdf

Büyük Veri Etiği

 

Büyük Veri Etiği

 

2017

 

Özet

 

Avrupa Ekonomi ve Sosyal Komitesi (EESC)’nin faaliyetlerini desteklemek amacıyla yapılan bu çalışma, Büyük Veri’nin etik boyutlarını, AB içindeki ekonomik büyümeye duyulan ihtiyaçla dengelemek amacıyla araştırmaktadır. Çalışmanın ilk bölümünde, Büyük Veri ile ilgili etik sorunları vurgulamak için mevcut literatürün derinlemesine bir incelemesi yapılmıştır. Yukarıda açıklanan dengeye ulaşmanın aracı olarak beş aksiyon geliştirilmiştir. Çalışmanın ikinci aşaması, birtakım kilit paydaşlarla yapılan görüşmeler ve Büyük Veri kullanımı ile ilgili hususlarda genel bilgiler edinen bir anket yürütülmesini içermektedir. Teklif edilen dengeleme aksiyonlarına ilişkin geri bildirimler de alınmış olup son incelemede göz önünde bulundurulmuştur. Büyük Veri’nin yararları katılımcılar tarafından nadiren tartışılırken, görüşmelerden ve anketlerden ortaya çıkan tutumlar, ilgiden endişeye doğru uzanmaktadır. Avantajlar, Büyük Veri’ye olduğu kadar risklere de özgüdür ve bu husus çalışma boyunca daha geniş bir şekilde tartışılmaktadır.

 

Çalışmanın orijinalini ve tamamını aşağıda bulabilirsiniz:

https://www.eesc.europa.eu/sites/default/files/resources/docs/qe-04-17-306-en-n.pdf

 

ABD Hava Kuvvetleri Yapay Zeka Stratejisi

 

ABD Hava Kuvvetleri Yapay Zeka Stratejisi

 

2 0 1 9
Amerika Birleşik Devletleri Hava Kuvvetleri
 Savunma Bakanlığı Yapay Zeka Stratejisine Ek Yapay Zeka Bölümü

 

Giriş

 

Yapay zeka (YZ), 21. yüzyılda savaşın yapılış şeklini değiştirmeye hazırlanıyor. Şu anda Hava Kuvvetleri’nin sahip olduğu üstünlük, bu teknolojileri benimseme şeklimize bağlı olarak ya sarsılacak ya da güçlenecektir.

Önceki teknolojik gelişmelerin aksine, YZ hali hazırda birçok ticari girişimin içinde yayılmakta; dolayısıyla devletçe kontrol edilemez veya zapt edilemez bir durumdadır. Ticaret hayatının bu teknolojileri benimsemek için acele etmesi gibi, küresel rakiplerimiz de YZ entegrasyonu ve silahlanmasını, geleneksel güçlü yönlerimize karşı koymak ve algılanan zayıflıklarımızdan yararlanmak için etkili bir önlem olarak hızlandırıyor. Bu, Hava Kuvvetlerimiz için özellikle Hava, Uzay ve Siber görevleri yürütme yeteneğimizin veri ve bilgiler tarafından yönlendirilen içgörülere dayandığı durumlarda geçerlidir. Şu an yaptığımız stratejik seçimlere bağlı olarak, YZ’nin benimsenmesiyle dünya çapında faaliyet gösterme yeteneğimiz körelebilir veya güçlenebilir.

Hava Kuvvetleri, ülkeye Hava ve Uzay Üstünlüğü, Küresel Güç, Hızlı Küresel Hareketlilik, İstihbarat, Gözetleme ve Keşif ve Komuta Kontrolü sağlamakla yükümlüdür. YZ, bu farklı görevlerin beşinde de rekabet etme, caydırma ve kazanma yeteneğimizin altını çizecek bir güçtür. Yarının Hava Kuvvetlerini daha hızlı ve daha zeki kılmak, üst düzey mücadelede çok alanlı operasyonlar gerçekleştirmek, açık çatışma seviyesinin altındaki tehditlere karşı koymak ve dünyadaki müttefiklerimizle ortaklık sağlamak çok önemlidir.

Bu bölüm ve ilgili ekler, ortak Yapay Zeka Merkezi (JAIC) tarafından yürütülen, Ulusal Savunma Stratejisi ve Savunma Bakanlığı Yapay Zeka Stratejisi ile çabalarımızı uyumlu hale getirmeye hizmet etmektedir. Dijital çağda etkin bir şekilde yönetmek, manevra yapmak ve öncülük etmek için gereken temel prensipleri, işlevleri ve hedefleri detaylandırmaktadır. Bunu yapmak, hem destek hem de savaşla mücadele operasyonları için YZ’yi kullanıma hale getirme yeteneğimize bağlıdır.

Yapay zeka her sorunun çözümü değildir. Benimsenmesi, ülkeye karşı etik, ahlaki ve yasal yükümlülüklerimize uygun şekilde düşünülmelidir. Bu büyük sorumluluğu üstlenen Havacılar, atanan görevlerini gelişen teknolojilere odaklanarak, aynı zamanda yapılan her şeyin bir insan çabası olduğu anlayışıyla yürütmelidir.

Büyük güç rekabetine dönüldüğünde; Birleşik Devletler Hava Kuvvetleri, herbir Havacı’nın yeteneğini geliştirirken, sonuçları daha yüksek hız ve hassasiyetle daha iyi hale getirmek için tüm görev kümelerinde YZ’nin en karakteristik formlarını kullanacak ve yönetecektir. Amerikan milletine olan her zamanki sorumluluğumuzla, bunu milletimizi ve onun hayati çıkarlarını en iyi şekilde korumak ve savunmak için yapmaktayız.

 

Metnin orijinalini ve tamamını aşağıda bulabilirsiniz:

https://www.af.mil/Portals/1/documents/5/USAF-AI-Annex-to-DoD-AI-Strategy.pdf

1 2 3 4 5 11