Yapay Zekanın Buluşlarının Patentlenmesi

 

Yapay Zekanın Buluşlarının Patentlenmesi

 

 

 

 

Armağan Ebru BOZKURT YÜKSEL

Dokuz Eylül Üniversitesi

2018

 

 

 

Özet

“Günümüzde robotlar, insansız hava araçları, insansız otomobiller, bulut bilişim ve nesnelerin İnterneti başta olmak üzere teknolojik gelişmelerle ilgili haberler sıklıkla gündeme gelmektedir. Bu teknolojik gelişmelerden bir tanesi olan yapay zekânın günlük hayatımızda ve elbette hukuki düzenlemelerde büyük değişikliklere neden olacağı açıktır. Yapay zekânın zaman içinde medeni hukuk, ceza hukuku, sorumluluk hukuku ile ilgili düzenlemeleri etkileyeceği öngörülmektedir. Yapay zekânın etkileyeceği alanlardan bir tanesi de fikri mülkiyet haklarıyla ilgili düzenlemelerdir. Yapay zekâlı makinelerin yaptığı buluşlarda patent hakkı sahibinin kim olması gerektiği çözülmesi gereken karmaşık bir sorundur. Çalışmada öncelikle yapay zekânın ne olduğu açıklanmış daha sonra yapay zekânın buluş yapması halinde buluşçunun kim olacağı hakkındaki tartışmalara ver verilmiştir. Son olarak patent hukuku alanında futuristik/gelecekçi bir yaklaşımla nasıl düzenlemeler yapılması gerektiğine değinilmeye çalışılmıştır.”

 

Makalenin orijinalini ve tamamını aşağıda bulabilirsiniz:

https://dergipark.org.tr/tr/download/article-file/495005

Federal Hükümet’in Yapay Zeka Stratejisi için Veri Etiği Komisyonu’nun Önerileri

Federal Hükümet’in Yapay Zeka Stratejisi için Veri Etiği Komisyonu’nun Önerileri

Image result for daten ethik kommission"

9 Ekim 2018

Veri Etiği Komisyonu, Federal Hükümet’in yapay zeka konusunda bir strateji geliştirmesinden memnuniyet duymaktadır. Veri Etiği Komisyonu 4 ve 5 Eylül 2018 tarihli kurucu toplantısında, Federal Hükümet’in böyle bir strateji için oluşturduğu politika dokümanı üzerine tartıştı. Komisyon, Federal Hükümet’in stratejisine aşağıdaki hususların eklemesini tavsiye etmektedir:

  • “Yapay zekayı geliştirme ve uygulama süreci boyunca liberal demokrasimize dayalı etik ve yasal ilkeleri koruma” hedefi;
  • “Bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini artırma” eylem alanı

I.

“Yapay zeka” (YZ) kavramı medyada ve genel olarak söylemlerde farklı şeylere gönderme yapmak için kullanılmaktadır. Federal Hükümet’in politika dokümanı, dokümanda yer verilen teknolojileri açıkça belirtmemektedir. Dolayısıyla bu bilgi eklenmelidir.

Bu bağlamda, “yapay zekayı” teknolojiler ve onların potansiyel olarak otomatikleştirilmiş uygulamalarında kullanılabilecek bir sonuca ulaşmak için, insan zekası üzerine modellenmiş karmaşık yöntemler kullanarak çok büyük ve heterojen veri kümelerini işleyen uygulamalar bakımından ortak bir terim olarak anlamaktayız. Bilgisayar biliminin bir parçası olarak YZ’nin en önemli yapı taşları alt sembolik örüntü tanıma, makine öğrenmesi, bilgisayarla işlenmiş bilginin temsili ve sezgisel arama, çıkarım ve planlamayı kapsayan bilgi işlemedir.

Bugün YZ kullanan uygulama yelpazesi zaten çok büyüktür. Bu uygulamalar seyahat rotalarının basit bir şekilde hesaplanmasından imge ve dil tanıma ve oluşturmaya, karar ve tahminlerde bulunma ve etki yaratma için oldukça karmaşık ortamlara kadar çeşitlilik göstermektedir. En önemli uygulamalar, dil ve görüntü tanıyan sistemleri; işbirliğine dayalı robotlar ve diğer otomatik sistemleri (araba, uçak, tren); çok etmenli sistemleri; sohbotları kapsamaktadır. Yaşamın tüm alanlarını etkileyecek ve daha geniş eylem alanlarında daha fazla insan faaliyetini otomatik olarak (kısmen) değiştirebilecek ve çok daha iyi performans gösterebilecek otonom ve kapsamlı uygulamaların geliştirilmesini beklemekteyiz.

Bu bağlamda ortaya çıkan etik ve yasal önemi olan sorular ayrıca, uzman sistemler olarak da tanımlanan, algoritmalara dayalı basit kural sistemleriyle de ilgilidir. Bunlar, genellikle anlaşıldığı gibi YZ’yi oluşturmamaktadır. Federal Hükümet’in YZ’ye yönelik stratejisinin de bu süreçleri kapsaması önemlidir.

II.

Muhtemel YZ uygulamalarının çeşitliliği ve ilgili teknolojilerin karmaşıklığı, özellikle onları etik ve yasalara uygun olarak tasarlamayı ve bu uygunluğu düzenlemeyi zorlaştırmaktadır. Gittikçe daha fazla karar alma süreci, insanlardan eylem konusu YZ gömülü sistemlere doğru değişirken, YZ’nin geliştirilmesinden, programlanmasından, tanıtılmasından, kullanılmasından, yönlendirilmesinden, izlenmesinden ve dış incelemesinden kimin sorumlu olduğuna dair yeni sorular ortaya çıkmaktadır. Ayrıca, spesifik işleyiş, girilen ve / veya uygulamayı “eğitmek” için kullanılan verilerin seçimine ve kalitesine bağlıdır. Bazı veri türlerini basitçe görmezden gelmek ve kötü hazırlanmış verileri kullanmak, sistematik ayrımcılığa yol açan etik sonuçları barındırabilir ya da çoğulluğa karşı çıkacak şekilde sonuçlanabilir. Bu bağlamda, ayrıca temel haklara zarar vermeksizin YZ teknolojilerinde işlenebilecek veri miktarını artırmak için, modern anonimleştirme yöntemlerini araştırmaya ve sentetik eğitim verilerini oluşturmaya daha fazla destek verilmelidir,

Bazı YZ uygulamalarında ihtiyaç duyulan veriler, aynı zamanda yüksek düzeyde teknolojik uzmanlığa sahip az sayıda şirket arasında yoğunlaşmıştır. Bu, kişisel olmayan verilere “özel ellerde” erişimin kanunla düzenlenmesi gerekip gerekmediği sorusunu gündeme getirmektedir.

Son olarak, demokratik süreçle ilgili olarak, insan davranışını giderek daha inandırıcı bir şekilde taklit edebilen teknolojinin, sosyal eğilimleri ve siyasi görüşleri etkilemek için de kolayca kullanılabileceği belirtilmelidir.

“Tasarım yoluyla etik, tasarımda etik ve tasarım için etik” yaklaşımını ve “Avrupa yapımı YZ” markasını kullanarak, YZ geliştirme ve uygulama süreci boyunca etik hususlara değinilmelidir. Bu YZ araştırma, geliştirme ve üretiminin yanı sıra YZ tabanlı uygulamaların kullanımı, işletilmesi, izlenmesi ve yönetilmesini içermektedir. Veri Etiği Komisyonu için etik, öncelikle sınırların tanımı anlamına gelmemektedir; aksine, etik düşünceler gelişim sürecinin başından itibaren ele alındığında tavsiye edilebilir ve istenen uygulamaları destekleyerek tasarıma güçlü bir katkı sağlayabilirler.

Teknoloji, kullanıcılar ve toplum (“YZ ekosistemi”) arasındaki etkileşimleri de göz önünde bulundurmak gerekir. Bu ekosistem içerisinde, yeterli şeffaflık, hesap verebilirlik, ayrımcılıktan kurtulma özgürlüğü ve ek insan katkısı olmadan gerçekleştirilebilecek kararları hazırlayan veya sonuç çıkaran bu otomatik süreçleri gözden geçirme kabiliyetinin sağlanması gerekmektedir. Algoritma odaklı işlemlerin kullanımında ve sonuçlarında güven oluşturmanın tek yolu budur. Politika dokümanı (s. 9), kamu yönetiminde kullanılan algoritmalar için bu önlemleri haklı olarak talep etmektedir. Ancak aynı ilkeler, özel sektöre de uygun bir şekilde uygulanmalıdır. Kısmen bağımsız üçüncü kişiler ve kısmen de otomatikleştirilmiş süreçlerle desteklenebilecek kalite güvence önlemlerine de ihtiyaç vardır. Ayrıca, etkilenen kişilerin ve denetim otoritelerinin, etkili yasal yollara erişimin yanı sıra, müdahale etmek için uygun ve etkili olanaklara sahip olmalarını sağlamak da gereklidir.

YZ ile sorumlu bir şekilde başa çıkmak için en önemli standart, özellikle de Anayasadan önce, temel haklar, hukukun üstünlüğü ilkeleri, refah sistemi ve demokrasidir. Bu aynı zamanda, bireylerin kendi verilerini belirleme hakkını, bu da şirketlerin verilerini nasıl kullandıklarını müşterilere bildirmelerini; bir uygulamanın kişisel kullanımı ile ilgili bireysel kullanıcı kararlarına saygıyı; haksız ayrımcılığa karşı korumayı; ve makine kararlarını etkili biçimde gözden geçirme imkanını içermektedir. Ayrıca, YZ tabanlı teknolojilerin etik, yasal ve ekonomik ilkelere göre geliştirilmesi ve uygulanması konusundaki sorumluluğun derecesini açıkça tanımlayan yasal hükümlere de ihtiyacımız bulunmaktadır. Bu aynı zamanda YZ ile ilgili olarak tazminat ve kamu hukuku yükümlülüklerinin uygulanması için de geçerlidir.

Bu teknolojilerin tasarlanması ve uygulanması sürecine etik ve yasal ilkeler eklemek için gerekli olan çok çeşitli kontrol mekanizmaları düşünülebilir. Bu mekanizmalara demokratik bir süreçte ulusal ve Avrupa düzeyinde karar verilmelidir. YZ’nin devlet aktörleri tarafından kullanımı özel gözetim altında tutulmalıdır.

Denetim olanakları arasında, Anayasa, sertifikasyon ve standartlara uygun başvuruların hedefli olarak tanıtılması, resmi denetleme yetkisi ve kurumların YZ ve bağlayıcı yasalarla ilgili temel haklar ve etik kurallara uyması yer almaktadır.

Bunu göz önünde bulundurarak Veri Etiği Komisyonu, Federal Hükümet’in yapay zeka konusundaki stratejisinin, YZ geliştirme ve uygulama sürecinde tüm etik ve yasal ilkeleri desteklemesini, talep etmesini ve stratejinin bunu ek bir amaç olarak içermesini tavsiye etmektedir. Stratejinin eylem alanları bu amaç göz önünde bulundurularak tanımlanmalıdır.

III.

Her türlü bilgi ve teknoloji toplumun her seviyesini ve yaşamımızı daha önce hiç bilinmediği ölçüde etkilemektedir. Demokrasinin yapısal bağlantılı unsurları olarak sosyal etkileşimleri ve söylemi giderek daha fazla etkilemektedirler. YZ için yeni uygulamaların hızlı gelişimi aynı zamanda sürekli bir eleştirel inceleme süreci gerektirmektedir. Bu derin ve çeşitli değişiklikler sadece bireysel ifadeler için değil, aynı zamanda toplumdaki yaşamımız için de önemlidir. Artık her zamankinden daha gerekli olan özgürlüğü ve demokrasiyi güçlendiren bir.yaklaşımda bulunmaktadır. Diğer şeylerin yanı sıra, bireylerin ve kurumsal aktörlerin yeterli dijital ve medya okuryazarlığı kazanabilecekleri ve teknik yeniliklerle nasıl başa çıkacakları konusunda eleştirel olarak düşünebilecekleri bir çerçeveye ihtiyacımız bulunmaktadır.

Federal Hükümet’in politika dokümanı, politika yapıcıların yanı sıra araştırma topluluğu, sivil toplum, iş dünyası ve sanayi temsilcileri ile sürekli bir diyalog içinde Almanya’da güveni artıran bir YZ kültürü oluşturmak için yapay zeka konusundaki stratejisini uygulamaya çağırmaktadır. Veri Etiği Komisyonu bu önlemlerin önemini vurgulamaktadır.

Aynı zamanda YZ stratejisine ayrı bir eylem alanı eklemeyi de önermekteyiz: “Bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini artırma”. Bu, bireylerin ve kurumsal aktörlerin yeterli dijital ve medya okuryazarlığı kazanmalarını ve YZ ile nasıl başa çıkacaklarını eleştirel olarak yansıtma yeteneği edinmelerini sağlamak içindir. Bu yetenekler, toplumun YZ kullanımına duyulan güveni arttırmaya yardımcı olabilecek objektif, bilinçli ve ayrıntılı bir inceleme yapması için esastır. Bununla birlikte Veri Etiği Komisyonu, şu anda Federal Hükümet’in politika dokümanında tanımlandığından daha geniş bir yaklaşımın gerekli olacağına inanmaktadır.

Dijital ve medya okuryazarlığını ve eleştirel yansımasını teşvik etmenin yolları, kampanyalarda kapsamlı, nesnel bilgiler sunmaktan, okulda ve yetişkin eğitim kurslarında medya okuryazarlığı öğretmekten, yasaları ve teknoloji dünyasında etik ilkeleri uygulama için teknolojilerin kullanılmasına ve geliştirilmesine kadar uzanmaktadır. Medya ve medya denetim kurumlarının da bu bağlamda oynayacakları önemli bir rol vardır: Rolleri sadece yeni teknolojiler hakkında toplumu bilgilendirmek ve teknolojik gelişmeyi eleştirel bir şekilde incelemek değil, aynı zamanda tartışma için yeni forumlar sağlamaktır.

Teknoloji etki değerlendirmesine yapılan yatırım, toplumumuzda YZ gibi teknolojilerin uygulandığı ölçüde artmalıdır. Örneğin, veri taşınabilirliği, birlikte çalışabilirlik ve tüketiciye olanak sağlayan teknolojiler konusunda daha fazla araştırma ve geliştirme yapılmalıdır; bunlar, birincil amacı tüketicilerin günlük kararlarında yardımcı olmak olan YZ uygulamalarını içermektedir.

Ve devletin, güven sağlayan çerçeve koşullarını oluşturma ve uygulama sorumluluğu ile kullanıcılar ve bir yandan yeni teknolojilerden etkilenen diğerlerinin özgürlük, otonomi ve sorumluluğu ile pazar gücü ve rekabet arasında bir denge bulunmalıdır. YZ’nin geliştirilmesinde büyük rol oynayan şirketlerin artan ekonomik gücü, araştırma ve sivil toplumun tam olarak bu şirketlerden gelen fonlara bağımlı hale gelmesine neden olmamalıdır. Hükümet, araştırma ve sivil toplumun bu önemli toplumsal tartışmaya bağımsız ve yetkinlik temelli katkılar sunmalarını sağlamalıdır.

YZ de dahil olmak üzere modern teknolojiler, belirli işlerdeki insanları geliştirip belirginleştirdikçe, sadece yeni beceriler kazanmakla kalmaz aynı zamanda mevcut becerileri de kaybederiz. Bu, gelecek nesillerin bağımsız kalmaları için belirli becerilerin korunması ve geliştirilmesi konusundaki sorumluluğumuzun tartışılmasını gerektirmektedir. Bu nedenle, tüm toplumun hakimiyeti için tanımı ve gereklilikleri de tartışmamız gerekmektedir.

Bu nedenle Veri Etiği Komisyonu, bireylerin ve toplumun bir bütün olarak, bilgi toplumunda eleştirel şekilde anlama ve yansıtma yeteneğini geliştirmek için uygun çerçeve koşulları yaratmaya odaklanan başka bir eylem alanını stratejiye eklemeyi önermektedir.

IV.

İlerleme ve sorumlu inovasyon, toplumun refahına büyük katkı sağlamaktadır. Karşılamamız ve teşvik etmemiz gereken muazzam fırsatlar sunmakta ama aynı zamanda riskleri de bulunmaktadır. Bu fırsatlar, insanların bireysel haklarının korunması ve sosyal bütünlüğün güçlendirilmesi konusunda her şeyden önce özgürlük, adalet ve refahın sürekliliğini sağlayabilir. Bunu akılda tutarak, Veri Etiği Komisyonu bu dokümanın başında belirtilen iki maddeyi Federal Hükümet’in yapay zeka stratejisine eklemesini şiddetle tavsiye etmektedir.

Raporun orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUndWissenschaft/DEK_Empfehlungen_englisch.pdf?__blob=publicationFile&v=3

Bir Sorum Var: Bu, Robot Hukuku Dedikleri Nedir Yahu?

 

Bir Sorum Var: Bu, Robot Hukuku Dedikleri Nedir Yahu?

 

 

“Robot Hukuku” üzerine sürdürdüğüm çalışmalarım esnasında farklı alandan kişilerin benzer sorular yönelttiğini gördüm. Bu sorulardan bazılarını bir araya getirip cevap vermeye çalıştım.

 

  1. Robot Hukuku Nedir?

Robotların hem fiziksel hem de çevrimiçi ortamda artan kullanımı ile birlikte ortaya çıkan hukuki sorunları inceleyen, bunlarla ilgili kamu politikaları oluşturmaya çalışan, araştırma yapması keyifli, hukuk alanında yükselen bir yıldız. Ancak, henüz mevzuatı oturmamış bir alan için “… hukuku” demenin yanış olacağı eleştirilerinin bazı noktalarda haklı olduğunu kabul etmek gerekiyor.

  1. Robot Hukukunun kapsamı nedir?

Robot hukuku, hemen hemen tüm temel hukuk dallarıyla bağlantılıdır. Mesela, çevrimiçi ortamda kullanılan robotların elektronik ticaret açısından doğurduğu etkiler bakımından Elektronik Ticaret Hukuku, crawling[1] ile kazılan verilerin kişisel veri olması durumunda Kişisel Verileri Koruma Hukuku, otonom araçların karıştığı kazalar bakımından Ceza Hukuku ve Sorumluluk Hukuku, internette sözleşmesel ilişkiye giren trading botlar[2] bakımından Borçlar Hukuku, seçmen davranışlarının çevrimiçi ortamdaki robotlar yoluyla analiz edilip etkilenmesi bakımından Seçim Hukuku, robotların hukuki kişiliğinin olup olamayacağı tartışmaları bakımından Medeni Hukuk, geliştirilen robotik modellerin telif hakkı bakımından Fikri Mülkiyet Hukuku bu alanın kapsamındadır. Bu sadece küçük bir örnekseme, bu alanın içerisine daha pek çoğunu (Örn. Tüketicinin Korunması Hukuku, Savaş Hukuku, Reklam Hukuku gibi.) dahil etmek mümkün olabilir.

  1. Robot Hukuku çalışabilmek için yazılım bilmek şart mı?

Elinizdeki malzemenin ne olduğunu bilmeden onunla yemek yapamazsınız. Onu tanıyıp, tadını aldığınızda hayal gücünüz size yardım eder. Biraz da yetenekliyseniz, ziyafete hoş geldiniz. Elbette bu bir mecaz, ama işin sırrı robot hukuku açısından benzer. Teknolojinin hızla gelişmesi ve hayatımızın vazgeçilmez bir parçası olması, bireyler ve devamında toplum açısından birtakım etkilere yol açıyor. Dolayısıyla bireylerin ve toplumun korunması için hukukçuların söz konusu etkileri araştırmasını, tartışmasını ve bazı hukuk politikaları belirlemesi için kolları sıvamasını gerekli kılıyor. Ama bu yalnız çıkılacak bir yol değil. Multidisipliner çalışma dediğimiz, farklı disiplinden kişilerin bir araya gelmesi robot hukuku açısından *zorunlu*. Bakın *zorunlu* diyorum bir daha yazayım 🙂 Çünkü;

  1. Hukuk alanından kişilerin teknik konuların kesişiminde yapacağı bir araştırmada, çalışmada artık adına ne derseniz, konuyu teknik açıdan anlayabilmesi gerekli,
  2. Konuyu teknik yönden anlamanın bir hukukçu açısından iki önemli faydası şudur: birincisi, bunu hukuki açıdan değerlendirip, farklı bir bakış açısıyla yorumlayabilirsiniz, bu da yeni fikirler, görüşler ortaya koymanızı sağlar; ikincisi, teknik konu açısından yapılabilecek hatalar sizi gülünç duruma düşürebilir. Yapmayın 🙂
  3. Teknik kişiler açısından ise, geliştirilmek istenen ürünlerin sosyal hayatta ne gibi sorunlara çözüm bulacağı, nelere hizmet edeceği veya herhangi bir soruna sebep olup olmayacağı konusunda sosyal bilimlerden kişilerle çalışmak bir gereklilik.
  4. Bir hukukçu olarak, bilgisayar mühendisliği bitirmiş biri gibi kod yazmanız, mekatronik mühendisliği bitirmiş biri gibi akıllı makine tasarlamanız gerekmez. ANCAK, teknik konularda uzman olmayanların da anlayabileceği dilde yazılmış, teknik konuları anlatan kaynakları okumak, yazılımcılarla bir araya gelip fikir alışverişi yapmak, sizi tek düze bakış açısından çıkarır ve kısır kalabilecek araştırmalarınızın önünü açar. (Not: Mümkünse yazılımcı arkadaşlar edinin 🙂 )
  1. Türkiye’de bu alanda neler yapılıyor?

 Çok şey, diyebilmeyi çok isterdim.

  1. Türkiye’de bu alanda üniversitelerde durum nedir?

Türkiye’de son yıllarda yapay zekâ konusuna olan ilgi, mühendislik fakültelerinde bu alandaki ders sayılarını artırdı. Pek çok okul kulübü açıldı. YÖK bu yılki tercih kılavuzunda lisans ve önlisans programlarında yapay zekâ, veri madenciliği, büyük veri gibi alanlara da yer veriyor[3]. Hukuk fakültelerine bakılınca ise durum biraz, ne bileyim işte biraz… :/ Hukuk fakültelerimiz henüz bilişim hukukuna tam ısınamadı. 201 tane üniversitemizin (vakıf ve devlet) 81’inde hukuk fakültesi mevcut[4]. Ancak bunların bilişim hukuku alanında eğitim verenlerinin sayısı oldukça düşük. Bunlardan bazıları yüksek lisans seviyesinde bilişim hukuku eğitim vermeyi hedefliyorken, bazıları seçmeli ders olarak yer veriyor, bazıları ise konuyla bağlantılı olarak ders müfredatına dahil ediyor[5]. Ancak robotların bu kapsama dahil edilmesi şu an yurtdışındaki örneklerle karşılaştırınca pek de istenilen düzeyde değil. (Yurt dışı kısmı soru 7’de)

  1. Türkiye’de bu alanda barolarda durum nedir?

Aralık 2018’de İstanbul, Ankara ve İzmir Baroları ortak bir çalışma ile avukatlık mesleği açısından yapay zekânın yaratacağı etkileri konu alan; bunu biraz daha geniş yelpazede değerlendiren (hukukçuların mühendislerle çalışmasının gerekliliğinden, hukuk fakültelerinin durumunun iyileştirilmesine, avukatlık mesleğinin teknolojiye adaptasyonuna ve yapay zekanın doğurduğu/doğuracağı hukuki etkilere kadar) bir rapor çalışmasına başladı. Raporu hazırlayan kişiler arasında yıllardır bilişim hukuku alanında çalışan deneyimli avukatların yanı sıra mühendislik temelli kişiler de yer alıyor. Yapılan iki kapalı ve bir açık çalıştay sonrası[6], yaz aylarında raporun taslak metninin yayınlanması planlanıyor. Yayınlanan taslak metin bir süre kamuoyunun yorumlarına açık olacak, bu sayede Türkiye’nin ilk yapay zekâ ve hukuk raporunun kapsayıcı bir etkiye sahip olması hedefleniyor.

  1. Yurtdışındaki çalışmalar ne durumda?

Biraz geriye gidersek, (biraz fazla geriye gidelim) 1950’lerde yazılım dünyasındaki çalışmaların artması, sosyal bilimlerde de bazı yansımalar buldu. Örneğin, Asimov’un <3 eşsiz eserlerini kaleme aldığı yıllar buraya denk geliyor. Takip eden yıllar felsefi ve etik tartışmaların da alevlenmeye başladığı yıllar[7]… Sonraki dönemlerde hukuki değerlendirmelerin, araştırmaların da yapılmaya başladığını görmek mümkün[8]. Bunların teknik çalışmaların ve yaşanan gelişmelerin bir yansıması olduğunu kabul etmek gerekiyor. Dolayısıyla teknolojik gelişmelerin yaşandığı ülkelerde (özgür olanlarda) felsefi, etik, hukuki araştırmalar da bu gelişmeleri takip ediyor. Bugün özellikle Amerika ve Avrupa’daki pek çok üniversitede kurulan laboratuvarlar, enstitüler farklı disiplinden kişileri bir araya getiriyor. Örneğin, Washington Üniversitesi bünyesinde kurulmuş olan Tech Policy Lab, Üniversite’nin Hukuk Fakültesi, İletişim Fakültesi, Bilgisayar Mühendisliği ve kampüsteki diğer birimlerden uzmanları birleştiriyor[9]. Özellikle araştırma, eğitim ve düşünce liderliği yoluyla teknoloji politikası geliştirmeyi amaçlıyor. New York Üniversitesi’nde kurulmuş olan AI Now Enstitüsü de benzer bir amaçla hareket ediyor[10]. Çoğunlukla gelişen teknolojilerin yarattığı etik sorunlar üzerine yoğunlaşan araştırmalar yapan Enstitü, bünyesinde farklı disiplinden araştırmacıları bulunduruyor. Harvard Üniversitesi, Berkman Klein Center’ın misyonu ise siber alanı araştırmak ve anlamak; gelişimini, dinamiklerini, normlarını ve standartlarını incelemek ve bunların kanun ve yaptırımlara olan gereksinimini veya eksikliğini değerlendirmek[11]. Merkezde Türkiye’den de pek çok araştırmacı bulunuyor. Bir diğer önemli Enstitü ise Oxford Internet Enstitüsü (“OII”). Enstitü, Oxford Üniversitesi’nin multidisipliner bir araştırma ve öğretim bölümünü oluşturuyor. OII, dijital dünyanın yarattığı değişimin sosyal, ekonomik ve politik dünyada yarattığı etkileri anlamayı amaçlıyor[12]. Yale Üniversitesi Information Society Project(“ISP”) de çalışmalarının yakından takip edilmesi gereken merkezlerden. ISP, 1997 yılında Profesör Jack Balkin tarafından Yale Hukuk Fakültesi’nde kurulan bir entelektüel merkez. Hukuk, teknoloji ve toplum arasındaki karmaşık ilişkileri aydınlatmak için çalışan uluslararası bir topluluk[13].

  1. Öğrenciyim bu alanda kendimi nasıl geliştirebilirim?

Hukuk fakültesi öğrencisi iseniz ve bu alanda kendinizi geliştirmek istiyorsanız, bilmelisiniz ki Türkçe kaynak yok gibi bir şey. O yüzden İngilizce kaynak tarayacak kadar iyi bir İngilizceye kendinizi hazırlamalısınız. Sonrasında, bulunduğunuz üniversitede bilişim hukuku dersleri varsa (muhtemelen ilginiz varsa zaten bu dersleri alıyorsunuzdur) bu dersleri alın. Ancak soru 5’te anlattığım gibi bu derslerde robot hukukuna yönelik detaylara girilmiyor olabilir. Bu yüzden iş başa düşüyor. Bulduğunuz blog yazılarından, popüler bilim dergilerine, akademik makalelere, hatta bazı teknik kitaplara kadar okumak sizin çabanıza ve isteğinize kalıyor. Faydalı olacağını düşündüğünüz (hepsi değil, çünkü iş biraz pazar yerine dönmüş durumda) etkinliklere, seminerlere, konferanslara mutlaka katılın (genelde üniversite bünyesinde yapılan etkinlikler daha faydalı oluyor). Elbette unutmamak gerekir ki, bu alanda kendini geliştirmek iyi bir hukuk eğitimi ile mümkün. Temel kötü ise ömrü uzun olmaz.

Mühendislik fakültesi öğrencisi iseniz, geliştireceğiniz ürünlerin geliştirme aşamasının ve sonrasındaki kullanımlarının hukuki çerçeve içinde olmasının önemli olduğunu bilmeniz gerekiyor. Bu sebeple nasıl ki bir hukukçu temel teknik konuları biliyor olmalı ise, mühendislik temelli birinin de hukuki konulara yabancı olmaması gerekli. ANCAK, mühendis olup avukat kadar iyi hukuk bilmeniz de gerekli değil. Bize de iş lazım 😛 Şakayı bir yana bırakırsam, bahsetmek istediğim şey, örneğin bir yazılım geliştiriyorsunuz, veriye ihtiyacınız var, bu verilerin ne tür veri olduğu, bu verileri nereden çektiğiniz, sonrasında tasarladığınız sistemin ne tür veriler toplayacağı, bunları nasıl kullanacağı gibi hususların hukuki boyutunu bilmek, sonrasında hem o ürünü tasarlayan hem de kullanan açısından ortaya çıkabilecek hukuki sorunların önlenmesinde önemli. Ayrıca teknik temelli kişiler ile hukukçuların birlikte çalışmasının günümüzde zorunlu olmaya başlamasını burada da görebiliyoruz.

  1. Avukatım bu alanda kendimi nasıl geliştirebilirim?

Hukuk fakültesinden yeni mezun olduysanız, stajyer avukatsanız çok şanslısınız. Kendinizi geliştirmek için bolca vaktiniz var. Soru 8’de verdiğim tavsiyelerin bir kısmı burada da geçerli. Kendinizi bu alanda geliştirmek istiyorsanız ama öncesinde herhangi bir alt yapınız yoksa popüler bilim dergilerden başlayıp, teknik konuları hukukçuların da anlayabileceği dilde anlatan teknik kitaplar/yazılar ile devam edebilirsiniz, bunları çeşitli blog yazıları ile ilerletebilirsiniz, sonraki süreçte akademik makaleler bu konudaki bilginizi derinleştirmeye ve bakış açınızı genişletmeye yardımcı olacaktır. Özellikle bilişim hukuku ağırlıklı çalışan bir ofiste staj döneminizi geçirmek uygulamada işlerin nasıl gittiğini görmenize yardımcı olacaktır. Türkiye’de de çeşitli teknoloji şirketleri ve çok sayıda girişimci var. Bu şirketlerin yazılım ve robotik teknolojiler konusunda neler yaptığı, ne gibi hukuki sorunlar yaşadığı ile ilgili somut örnekleri görmek, tecrübe edinmek açısından staj döneminizi iyi değerlendirmeniz faydalı olacaktır. Ayrıca, yurt dışında neler olup bittiğini de yakından takip etmenin önemli olduğunu söylemeliyim. Dönem dönem yurt dışındaki konferanslara katılmak, bu alanda kendinizi geliştirmek için faydalı olacaktır[14]. Yüksek lisans konusunda ise, tamamen bu alana yönelik çalışmak istiyorum diyorsanız, yüksek lisansa devam etmeyi düşünebilirsiniz. Türkiye’de bilişim hukuku alanında sınırlı sayıda okulda yüksek lisans eğitimi mevcut[15]. Elbette yurt dışında eğitim almak da bir seçenek, doğrudan robotlar ve yapay zekâ üzerine dersler verilen okulları bulabilirsiniz[16].

Meslekte yıllarını geçirmiş meslektaşların da, “Bu, robot hukuku dedikleri şey de nedir? Ben neler yapabilirim?” dediğini biliyorum 😛 Eğer bu alandan uzak bir uzmanlığınız varsa iş temposunun ağırlığı da göz önüne alınınca, soru işaretleri birbirini izleyebilir. Ama ilginizi çekiyorsa siz de blog yazıları, popüler bilim dergileri vs. ile bu alana merhaba diyebilirsiniz.

  1. Bu alanın gerçekten bir geleceği var mı, yoksa tamamen popülerlik mi?

Bundan yaklaşık 2-3 sene öncesine kadar Türkiye’de robotlar ve hukuk üzerine doğrudan bir tartışma ortamı vardı demek zor (şu an var mı sanki diyebilirsiniz, haklısınız). Ancak son birkaç yıldır özellikle hukuk fakültesi öğrencilerinin ve stajyer avukatların artan bir ilgisi olduğunu söylemek mümkün. Yavaş yavaş bu alanda Türkçe kaynakların da oluşturulmaya başlandığını görüyoruz[17].

Türkiye’de de teknoloji kullanımının artması (sadece akıllı telefonlar değil, evimizde, iş yerimizde de akıllı teknolojileri kullanmaya başlamamız, üretim alanında bunun yaygınlaşması gibi) ile birlikte hukuki tartışmaların hızlanacağı aşikâr. Konunun ilgi çekici, merak uyandırıcı olduğu kesin, dolayısıyla bunun bir popülerlik yarattığını da kabul etmek lazım. ANCAK bunun “gelip geçici” bir şey olduğunu söylemek büyük bir gaf olur. Yıkıcı etkilerinin bireysel ve toplumsal yansımaları bizleri hukuki anlamda da bazı adımlar atmaya zorlayacak. Bu yüzden sadece popülerlik deyip geçmemek lazım.

  1. Yurtdışında bu alanda düzenleme var mı?

Evet. Hukuk sistemimiz farklı olmakla beraber (biz Kıta Avrupası hukuk sisteminde[18] yer alıyoruz.) ABD ve Kanada’nın çeşitli eyaletlerinde robot hukukuna yönelik düzenlemeler mevcut. Ancak aklınıza hemen bir “robot yasası” gelmesin. Bunun yerine örneğin, robot hukukunun kapsamına giren otonom araçlarla ilgili ilk düzenlemenin 2011’de Nevada Eyaleti’nde yapıldığını[19]; Kanada’nın Alberta Eyaleti’nde botların çevrimiçi ortamda kullanılmasının tüketiciler açısından bazı sorunlar yaratmaya başlaması üzerine bu hususta tüketicinin korunmasına yönelik bir düzenlemeye gidildiğini görüyoruz[20]. AB’de ise doğrudan bağlayıcı bir düzenleme olmasa da geçtiğimiz yıl bir bildiri[21] yayınlayarak, ileriki yıllarda yapılacak muhtemel düzenlemelere bir ışık yakıldı. Bu yıl da etik ve YZ üzerine bir rehber[22] yayınlandı. Ayrıca bünyesindeki çeşitli komitelerce görüşler, tavsiyeler yayınlanmaya devam ediyor.

  1. Türkiye’de bu alanda bir düzenleme var mı?

Hayır. Mevcut düzenlemelerimiz şu an için karşılaşılan hukuki sorunlara cevap bulmamıza yardımcı oluyor (bazı noktaları eleştiriye açık). Ancak ilerleyen yıllarda çeşitli alanlara yönelik düzenleme yapma ihtiyacı oluşacağını da bilmek lazım.

  1. Başlangıç için hangi kitapları okusam acaba?

Türkçe kaynak olarak;

  • Cem Say – 50 Soruda Yapay Zekâ
  • Çağlar Ersoy – Robotlar, Yapay Zekâ ve Hukuk
  • Nils J. Nilsson – Yapay Zekâ- Geçmişi ve Geleceği (Türkçe çevirisi mevcut)
  • Çetin Elmas – Yapay Zekâ Uygulamaları
  • Ethem Alpaydın – Yapay Öğrenme

İngilizce kaynak olarak;

  • Ryan Calo, Ian Kerr, Michael Froomkin – Robot Law
  • David J. Gunkel – Robot Rights
  • Patrick Lin, Keith Abney, George Bekey – Robot Ethics

Bilim-kurguya bayılırım derseniz;

  • Ayşe Acar – Yüzyıl romanları- Bay Binet, Yeşil Adam ve Bayan Nima
  • Asimov – Ben, Robot (Türkçe çevirisi mevcut)
  • Nick Bostrom – Süper Zekâ (Türkçe çevirisi mevcut)
  1. Başlangıç için hangi makaleleri okusam acaba?

Türkçe kaynak olarak;

  • Armağan Ebru Bozkurt Yüksel – Robot Hukuku
  • Selin Çetin – Metal Yakalılar
  • Tuba Kelep Pekmez – Otonom Araçların Kullanımından Doğan Cezai Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme
  • Ayrıca robotic.legal konuk yazarlarının blog yazılarını inceleyebilirsiniz: https://robotic.legal/katkida-bulunanlar/

İngilizce kaynak olarak;

  • Harry Surden – Machine Learning and Law
  • Ryan Calo – Robotics and the Lessons of Cyberlaw
  • Ronald Leenes & Federica Lucivero – Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design

 

Kaynaklar:

[1] Veri kazıyıcı botlar, arka planda programlandıkları süre boyunca sürekli çalışırlar. Temel olarak, API’lar aracılı- ğıyla internet sitelerinden veri toplarlar. Googlebot ve Bingbot, arama motoru örümceklerinin en yaygın iki örneğidir. Detaylar için bkz. http://botnerds.com/types-of-bots/, Erişim Haziran 2019.

[2] Trading botlar ya da ticaret botları, ticarette gidişatı anlamak ve işlemleri otomatik olarak gerçekleştirmek için çeşitli göstergeler kullanan yazılımlardır. Detaylar için bkz. https://bravenewcoin.com/insights/cryptocurrency-trading-bots, Erişim Haziran 2019.

[3] Nuran ÇAKMAKÇI, Üniversitelerde yapay zeka bölümü, http://www.hurriyet.com.tr/amp/egitim/universitelerde-yapay-zeka-bolumu-41235517, Erişim Haziran 2019.

[4] Detaylar için bkz. Yüksek Öğretim Bilgi Yönetim Sistemi, https://istatistik.yok.gov.tr/, Erişim Haziran 2019.

[5] Detaylar için bkz. Yüksek Öğretim Bilgi Yönetim Sistemi, https://istatistik.yok.gov.tr/, Erişim Haziran 2019.

[6] Yapay Zekâ Çağında Hukuk Raporu Kapalı Çalıştayları Değerlendirme Sonuçları, https://www.istanbulbarosu.org.tr/files/docs/201905YAPAYZEKARAPORUKAPALICALISTAYLARI.pdf, Erişim Haziran 2019.

[7]Laszlo Versenyi, “Can Robots be Moral?,” Ethics 84, no. 3, Nisan 1974, s. 248-259, https://www.journals.uchicago.edu/doi/abs/10.1086/291922?journalCode=et, Erişim Haziran 2019; Hilary Putman, Robots: Machines or Artificially Created Life?,The Journal of Philosophy, Vol. 61, No. 21, American Philosophical Association Eastern Division Sixty-First Annual Meeting, 12 Kasım 1964, s. 668-691, https://www.jstor.org/stable/2023045?seq=1#page_scan_tab_contents, Erişim Haziran 2019; Daniel C. Dennett, The practical requirements for making a conscious robot, Royal Society,15 Ekim 1994, https://royalsocietypublishing.org/doi/10.1098/rsta.1994.0118, Erişim Haziran 2019.

[8]Michael Gemignani, Laying Down the Law to Robots , San Diego L. Rev, 1984, Vol 21, no.5, s.1045, https://heinonline.org/HOL/LandingPage?handle=hein.journals/sanlr21&div=46&id=&page=&t=1559561038, Erişim Haziran 2019; Phil McNally & Sohail Inayatullah, The rights of robots: Technology, culture and law in the 21st century, Futures,

Volume 20, Issue 2, Nisan 1988, s. 119-136, https://www.sciencedirect.com/science/article/pii/0016328788900195, Erişim Haziran 2019.

[9] Tech Policy Lab, https://techpolicylab.uw.edu/about/, Erişim Haziran 2019.

[10] AI Now, https://ainowinstitute.org/about.html, Erişim Haziran 2019.

[11] Berkman Klein Center, https://cyber.harvard.edu/about, Erişim Haziran 2019.

[12] Oxford Internet Institute, https://www.oii.ox.ac.uk/about/, Erişim Haziran 2019,

[13] Information Society Project, https://law.yale.edu/isp/about, Erişim Haziran 2019.

[14] Örn. Her yıl Nisan ayında düzenlenen WeRobot konferansında robot hukukuna yönelik çeşitli akademik makaleler sunuluyor ve farklı disiplinden araştırmacılar bir araya geliyor.

[15] Örn. İstanbul Bilgi Üniversitesi, Bilişim ve Teknoloji Hukuku Enstitüsü, https://itlaw.bilgi.edu.tr/tr/, Erişim Haziran 2019; Hacettepe Üniversitesi, Bilişim Enstitüsü, http://www.bilisim.hacettepe.edu.tr/misyon_vizyon.php,  Erişim Haziran 2019.

[16] Örn. Edinburgh University, LLM in Innovation, Technology and the Law, https://www.law.ed.ac.uk/study/masters-degrees/llm-innovation-technology-law, Erişim Haziran 2019; Vrije Universiteit Amsterdam, LLM in International Technology Law, https://masters.vu.nl/en/programmes/international-technology-law/index.aspx, Erişim Haziran 2019.

[17] Örn. Tuba KELEP PEKMEZ, Otonom Araçların Kullanımından Doğan Cezai Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme, Ceza Hukuku ve Kriminoloji Dergisi, 2018, https://dergipark.org.tr/download/article-file/611504, Erişim Haziran 2019;

 Servet YETİM, Sürücüsüz Araçlar ve Getirdiği/Getireceği Hukuki Sorunlar, 2016, https://dergipark.org.tr/download/article-file/398494, Erişim Haziran 2019; Çağlar ERSOY, Robotlar, Yapay Zeka ve Hukuk, 2017, https://www.onikilevha.com.tr/images/books/9786051524979.pdf, Erişim haziran 2019.

[18] Kara Avrupası hukuk sistemi ile ilgili genel bilgi için bkz. http://www.anayasa.gen.tr/ghb.pdf, Erişim Haziran 2019. Amerika ve Kanada ise Anglo-Sakson hukuk sisteminde yer alıyor. Genel bilgi için bkz. http://www.anayasa.gen.tr/ghb.pdf, Erişim Haziran 2019.

[19]Nevada Legislature, https://www.leg.state.nv.us/Session/76th2011/Reports/history.cfm?ID=1011, Erişim Haziran 2019;

[20] Alberta Ticket sales regulations, https://www.alberta.ca/ticket-sales-regulations.aspx, Erişim Haziran 2019.

[21] EU Member States sign up to cooperate on Artificial Intelligence,

 https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence, Erişim Haziran 2019.

[22] Ethics guidelines for trustworthy artificial intelligence, https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai, Erişim Haziran 2019.

Yapay Zeka Etiği – Başarısızlık için Fazla İlkeli?

 

Yapay Zeka Etiği – Başarısızlık için Fazla İlkeli?

 

 

Brent Mittelstadt

Oxford Internet Enstitüsü

Oxford Üniversitesi

2019

 

 

Özet

“Yapay Zeka (YZ) etiği şu aralar akademik ve politika yapıcı çevrelerde küresel bir tartışma konusu. En az 63 özel/kamu inisiyatifi, YZ’nin etik gelişimine, yayılmasına ve yönetişimine yön vermek için üst düzey ilkeleri, değerleri ve diğer benzer ilkeleri tanımlayan ifadeler üretmiştir. Son meta-analizlere göre, YZ Etiği görünüşte, tıp etiğinin dört klasik ilkesine çok benzeyen bir dizi ilke üzerinde birleşti. Tıp etiğindeki ilkelerle bağlantı kurarak, YZ Etiği’nin ilk bakıştaki ilkeli yaklaşımanın güvenilirliğine rağmen, YZ geliştirme ve yönetişiminin gelecekteki etkileri konusunda endişe duymak için nedenler mevcut. Tıp ve YZ geliştirme arasında, YZ’deki ilkeli yaklaşımın tıbbınkiyle karşılaştırılabilir bir başarı sağlayamayacağına işaret eden önemli farklılıklar vardır. Tıbbınkiyle karşılaştırıldığında YZ geliştirme, (1) ortak amaç ve güvene dayanan yükümlülüklerden, (2) mesleğin geçmişi ve normlarından, (3) ilkeleri uygulamaya dönüştürmek için denenmiş yöntemlerden ve (4) güçlü yasal ve mesleki hesap verebilirlik mekanizmalarından yoksundur. Bu farklılıklar, derin normatif ve politikaya yönelik anlaşmazlıkları gizleyen üst düzey ilkeler etrafındaki fikir birliğini henüz göklere çıkarmamamız gerektiğini gösteriyor.”

 

Makalenin orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391293

Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması

 

Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması

 

 

 

Av. Melisa Aydemir 

Suç ve Ceza: Ceza Hukuku Dergisi

Aralık 2018

 

 

 

 

Özet

 

“Bu çalışmada, son zamanların ilgi çeken ve adına gerek sağlık gerek teknolojik gerek mühendislik ve gerekse hukuk formatında pek çok seminer düzenlenen konusu yapay zekaya sahip robotların cezai sorumlulukları ele alınmıştır. Nesnelerin interneti, şeylerin interneti şeklinde ele alınarak başlanan pek çok teknolojik gelişme yapay zekalarda birleşmiş ve hatta kendini bulmuştur. Teknolojik gelişmelerin muhteşem bir yansımasını gördüğümüz yapay zekaya sahip robotların günden güne dönüşümlerine ve gelişimlerine fazlası ile şahit olmaktayız ve bu pek çok bilim adamı gibi bizleri de heyecanlandırmaktadır. Ancak bu heyecanın yanında pek çok bilinmezlik de kafamızı kurcalamaktadır. Keza söz konusu robotların gelecekteki ve hatta günümüzdeki düzlemde “neleri başarabildiklerini” sorguladığımızda verdiğimiz yanıtların büyüsüne kendimizi kaptırabildiğimiz gibi herhangi bir zarar/tehlike açığa çıktığında ve hukuki normlar ihlal edildiğinde bunun ne şekilde tazmin edilebileceği sorusunda da kafamızı fazlası ile meşgul edebiliyoruz. Tüm bu gelişmeler ışığında yapay zekanın hukuki sorumluluğunun ne olacağını bir yana bırakır isek ceza hukukundaki konumunun ne olacağı sorusuna yanıt verebilmek için yaptığımız araştırmalara bu çalışmamızda yer vermek zorunda hissettiğimizi beyan edebiliyoruz. Umarız ki bu çalışmanın sonunda yapay zekalı robotların ceza sorumluluklarının ne olacağı ve hatta hukuk dünyasında hangi statüde yer alabilecekleri konusunda biraz olsun fikir sahibi olabilirsiniz.”

 

Makalenin tamamını aşağıda bulabilirsiniz.

Derin Sahtekarlık: Mahremiyet, Demokrasi ve Ulusal Güvenlik için Yaklaşan Bir Zorluk

 

Derin Sahtekarlık: Mahremiyet, Demokrasi ve Ulusal Güvenlik için Yaklaşan Bir Zorluk

 

Robert Chesney

Texas Üniversitesi;

Danielle Keats Citron

Maryland Üniversitesi

14 Temmuz 2018

 

 

Özet 

 

“Zararlı yalanlar yeni bir şey değil. Fakat gerçeği çarpıtma yeteneği “derin aldatıcı” teknoloji ile üstel bir adım attı. Bu yetenek, gerçek insanların asla söylemediği veya yapmadığı şeyleri söylemiş ve yapmış gibi gösteren ses ve videoları oluşturmayı mümkün kılıyor. Makine öğrenmesi teknikleri, derin aldatıcı görüntüleri daha gerçekçi ve tespit edilmeye karşı daha dirençli hale getirerek, teknolojinin karmaşıklığını artırıyor. Derin aldatıcı teknoloji, hem karmaşık hem de karmaşık olmayan aktörlerin ellerinde hızlı ve yaygın olmasını sağlayan özelliklere sahiptir. Aldatıcı teknoloji bazı faydalar sağlarken, aynı zamanda birçok zarar getirecek. Ağ bağlantılı bilgi ortamımızın bilişsel önyargılarımızla birlikte zehirli yollarla etkileşime girmesi dolayısıyla fikir ortamı zaten güvenin azalmasından muzdarip. Derin aldatıcı teknoloji bu sorunu önemli ölçüde daha da kötüleştirecek. Bireyler ve işletmeler, sömürü, tehdit ve kişisel sabotaj biçimleriyle karşılaşacaklar. Demokrasimiz ve ulusal güvenliğimiz için de riskler çok büyük. Amacımız, bu yıkıcı teknolojik değişimin sebep ve sonuçlarının ilk derinlemesine değerlendirmesini sağlamak ve buna yanıt vermek için mevcut ve potansiyel araçları araştırmaktır. Bu çerçevede aşağıdakileri içeren geniş bir yanıt dizisini araştırıyoruz: teknolojik çözümlerin rolü; cezalar, hukuki sorumluluk ve düzenleyici işlemler; askeri ve gizli eylemlerin karşılığı; ekonomik yaptırımlar; ve pazardaki gelişmeler. Yasa ve politikayı iyileştirmek için önerilerde bulunarak ve çeşitli çözümlere gömülü tuzakları öngörerek dokunulmazlıktan değişmez kimlik doğrulama yollarına kadar geniş bir alanı ele alıyoruz.”

 

Makalenin orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3213954

Modern Tüketici Dünyasında Yapay Zeka, Otomatik Karar Verme, Robotik Ve Bağlantılı Cihazların Sağlam Ve Güvenli Kullanımı İçin Politika Önerileri

 

Modern Tüketici Dünyasında Yapay Zeka, Otomatik Karar Verme, Robotik Ve Bağlantılı Cihazların Sağlam Ve Güvenli Kullanımı İçin Politika Önerileri

 

Avrupa Tüketici Danışma Grubu Görüşü
16 Mayıs 2018

 

Özet

“Tüketici bağlamında yapay öğrenme ve otomatik karar verme

Kendi adına veya insanlar yerine süreçleri yürüten ve kararlar alan kendi kendine öğrenme algoritmalarının ve yapay öğrenmenin artan kullanımı, kaçınılmaz olarak bir dizi toplumsal ve etik soruna yol açıyor. Tüketici bakış açısından, etkilenen tüketicilerin sayısı yüksek olabileceği için, büyük verilere dayanan Algoritmik Karar Verme (ADM), fiili (de facto) otomatik karar alma özel bir ilgi ve yüksek bir öneme sahiptir.Nitekim, tüketicilerin günlük yaşamlarında ADM kullanma sıklığı neredeyse sınırsızdır. Yapay zeka da uzak gelecekteki bir bilim kurgu değildir. Söz konusu örnekler, çevrimiçi perakendecilerin bireysel tüketicilerin konumlarının ve kendi kendine giden arabaların etrafta dolaşma bilgilerinin tahminlerine göre fiyatları uyarladığı algoritmaları içerir. 

Bu nedenle, tüketicinin korunmasıyla ilgili Avrupa düzenleyici çerçevesinin sadece bağlı cihazlarla değil, aynı zamanda otomatik karar verme ile ortaya çıkan zorlukları da karşılayabilmesi önemlidir. Tercihler algoritmalarla tanımlandığında, tahmin edildiğinde ve şekillendiğinde, tüketici tercihi hakkında konuşabilir miyiz?Tüketici kuruluşları, tüketicilerin haklarına algoritma ve otomatik karar verme ile saygı duyulduğundan emin olmak için, ilgili Tüketici Koruma mevzuatını değerlendirmek ve gözden geçirmek üzere Avrupa Kurumlarına çağrıda bulunmaktadır.Bu veri kullanımının faydalarını teşvik etmek, aynı zamanda ortaya çıkabilecek riskleri de ele almak için ayrıntılı bir hesap verebilirlik ve etik işleme biçimi gereklidir.”

 

Öneri ile ilgili bağlantı adresini ve önerinin orijinalini aşağıda bulabilirsiniz:

https://ec.europa.eu/info/sites/info/files/eccg-recommendation-on-ai_may2018_en.pdf

 

 

 

Telif Hakkı Yasalarının Yapay Zekanın Dolaylı Önyargı Sorununu Nasıl Düzeltebileceği

 

Telif Hakkı Yasalarının Yapay Zekanın Dolaylı Önyargı Sorununu Nasıl Düzeltebileceği

 

Yapay zeka, yemekte kedinizi pişirebilir!

 

Amanda Levendowski

New York Üniversitesi Hukuk Fakültesi 

24 Temmuz 2017

 

 

 

 

Özet: 

 

“Yapay zekanın (YZ) kullanımı yaygınlaşmaya devam ederken, ırkçı yüz tanımadan cinsiyetçi doğal dil işlemeye kadar toplumsal önyargıyı yansıtan veya şiddetlendiren YZ sistemlerinin örneklerinde de bir artış olduğunu görüyoruz.Bu önyargılar, YZ’nin teknolojik kazanımlarını ve potansiyel faydalarını gölgelemekle tehdit ediyor. Hukuk ve bilgisayar bilimi üzerine çalışan akademisyenler, çoğu kez türdeş yaratıcılarının incelenmemiş varsayımlarını, kusurlu algoritmaları ve eksik veri setlerini içeren, birçok önyargı kaynağını analiz ederken, kanunun rolü, büyük ölçüde göz ardı edilmiştir. Kodlar ve kültür, onları yöneten yasalar kadar, YZ’nin dünyada nasıl öğrendiği ve hareket ettiği konusunda önemli bir rol oynamaktadır. Bu makale,  muhtemelen YZ’nin önyargısına etki etmekte olan en güçlü yasayı inceleyen ilk makaledir: Telif Hakkı 

Yapay zeka, çoğu zaman insan eserlerinin kopyalarını okuyarak, görüntüleyerek ve dinleyerek “düşünmeyi” öğrenir. Bu makale, yasanın telif hakkıyla korunan belirli kaynak materyallere erişimi hariç tutmasının, önyargılı YZ sistemlerini nasıl oluşturabildiğine veya artırabildiğine bakarak, ilk olarak, önyargı problemini telif hakkı doktrini merceği ile inceliyor. Telif hakkı yasası, ters mühendislik, algoritmik hesap verebilirlik süreçleri ile YZ’yi deneme ve müşterileri kendine çekmek için rekabet etme gibi önyargı azaltma tekniklerini sınırlamaktadır.Telif hakkı yasası kuralları, veriler kanıtlanabilir şekilde önyargılı olsa bile, YZ oluşturucularının YZ öğreniminde yasal olarak düşük riskli veri kaynakları kullanımını teşvik ederek, başkaları üzerinden belirli çalışmalara erişim ayrıcalığı tanımaktadır. İkincisi, telif hakkı yasasının farklı bir bölümünün — adil kullanım doktrini — geleneksel olarak diğer teknolojik alanlardaki benzer konuları ele almak için nasıl kullanıldığını incelemekte ve bunların YZ önyargısı alanında eşit bir şekilde ele alıp almadığını sormaktadır. Makale, sonuç olarak, geleneksel adil kullanım içinde yer alan normatif değerlerin nihai olarak YZ önyargısının hafifletilmesi ve tam anlamıyla daha iyi YZ sistemleri yaratma hedefleriyle uyumlu olması sonucuna varmaktadır.”

 

Makale ile ilgili bağlantı adresini ve makalenin orijinalini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3024938

Bir Robotu Kandırmak Hacklemek midir?

 

Bir Robotu Kandırmak Hacklemek midir?

 

Ryan Calo

Ivan Evtimov

Earlence Fernandes

Tadayoshi Kohno

David O’Hair

Washington Üniversitesi

 

Özet

“”Hackleme” terimi bilgisayar sistemine zorla girme anlamına geliyor. Bir dizi yerel, ulusal ve uluslararası düzenleme, bilgisayar korsanlarının bilgi çalmak veya operasyonları aksatmak için bilgisayar sistemlerine girmelerinden sorumlu tutulmalarını amaçlıyor. Diğer yasalar ve standartlar, özel şirketlerin saldırılara karşı bilgisayarları güvenli hale getirmeleri için en iyi uygulamaları kullanmayı teşvik ediyor.

Bilgisayarlara girmeyi değil ama onları kontrol eden makine öğrenmesi modellerinin manipüle edilmesini amaçlayan yeni bir teknik, korsanlığın niteliğini yeniden değerlendirmek için yasaları ve yasal kurumları zorlayabilir. Yazarlardan üçü, örneğin, bir sürücüsüz arabanın dur işaretini hız sınırı olarak algılamasını sağlamak için, bir sistem bilgisi kullanmanın mümkün olduğunu gösterdi. Diğer teknikler, makine öğrenme sistemlerinde gizli kör noktalar oluşturuyor veya öğrenme şekillerine giren özel verileri yeniden yapılandırmaya çalışıyor.

Yapay zekânın (YZ) ortaya çıkışındaki rönesans, savunmasızlığın paralel bir keşfi ile birleştiğinde, bir bilgisayar sistemini tehlikeye atmada “hacklemek” anlamına gelen şeyin yeniden gözden geçirilmesini gerektiriyor. Garantiye almak önemlidir. Yasal ve toplumsal çerçeveler düzenlenmedikçe, hukuk ve uygulama arasındaki yanlış hizalanmanın sonuçları, suçun unsurlarının yetersiz kalması, eksik ya da çarpık güvenlik önlemleri ve kritik güvenlik araştırmalarının soğutulması ihtimalini içerir. Bu sonuncusu, araştırmacıların önyargılarının, güvenlik kısıtlamalarının ve yapay zekâ bütünleşmesindeki hatalardan doğan fırsatların oynayabileceği önemli rolün ışığında özellikle tehlikelidir.

Bu makalenin yazarları, makine öğrenimi, bilgisayar güvenliği ve hukuk alanındaki uzmanların disiplinler arası ekibini temsil etmektedir. Amacımız, karşıt makine öğrenimi (ML) yoluyla hack yapısının niteliğinin ve siber güvenlik alanının değiştirilmesi için akademinin içinde ve ötesinde hukuk ve politika topluluğu oluşturmaktır. 1986 tarihli Bilgisayar Dolandırıcılığı ve Suistimal Yasası’nı -paradigmatik federal anti-hacking yasası- örnek olay incelemesi olarak kullanarak, hukuk ve teknik uygulama arasındaki kopukluğu kanıtlamak istiyoruz. Hacklemenin kandırma içerdiği ihtimalinin belirsizliğini göstermede ne pahasına olursa olsun başarısız olduğumuzu açıklamayı umuyoruz. “

 

Makale ile ilgili bağlantı adresini ve makalenin orijinalini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3150530

 

Yapay Zeka Doktorlardan Daha Başarılı Olursa

Yapay Zeka Doktorlardan Daha Başarılı Olursa

 

Related image

 

 

A. Michael Froomkin,  

Ian Kerr &

Joëlle Pineau

We Robot 2018 Konferansı

 

 

 

Özet

“Birgün, belki de yakın bir gelecekte, makine öğrenmesi tarafından gerçekleştirilen teşhis koyma, insan doktorlarca gerçekleştirilenlerden daha iyi bir başarı oranı gösterecek. Makine öğrenmesinin teşhis koymadaki hâkimiyeti tıp alanında görevi kötüye kullanma suçu, tıbbi hizmetlerin sunumunun geleceği, doktorlara belli başlı talepler ve tıbbi teşhisin kendi niteliği için– daha uzun bir sürede- ne anlama gelecek?

Bu makale, sinir ağlarına dayalı olanlar gibi, makine öğrenmesinin teşhis koymasının, – tıp alanında görevi kötüye kullanma suçu göz önünde bulundurulunca- klinik ortamlarda makine öğrenmesi tarafından tedavi standardı olarak üretilen tıbbi teşhislerin daha iyi sonuç göstereceğini öne sürüyor.  Ayrıca, dikkatli bir şekilde uygulanmadıkça, bir doktorun tıbbi teşhislerde makine öğrenmesi sistemlerini kullanması, paradoksal olarak, tıp alanında görevi kötüye kullanma suçunu engelleyici güvenlik standardını da zayıflatabilecektir. Zamanla, etkili makine öğrenmesi, teşhis sürecini makineye devretmek için ezici yasal ve etik baskı yaratabilir. Nihayetinde, benzer bir dinamik tedaviye de uzanabilir. Veri tabanlarında toplanan klinik sonuçların büyük kısmının makine öğrenmesi tarafından oluşturulan teşhisler olduğu noktasına ulaşırsak, bu durum gelecekte insan doktorlar tarafından kolayca denetlenmeyen veya anlaşılmayan karar senaryolarına yol açabilir. Ön incelemeyle karşılaştırıldığında, tedavi stratejilerinin gerçek klinik uygulamada kullanılmasının genellikle etkili olmadığı iyi bilinen bir gerçek olduğundan,  makine öğrenmesi algoritmalarının şeffaflık eksikliği tedavi kalitesinde bir azalmaya yol açabilir. Özellikle tıpta görevi kötüye kullanmanın istenmeyen sonuçlarını önlememize olanak tanıyan çeşitli olası teknik ve yasal çözümlerle ilgili olmasından dolayı, bu makale, bu senaryonun belirgin teknik yönlerini tanımlamaktadır. Sonuç olarak, yalnızca teşhis biçimi bakımından, bir makinenin önüne geçmek için, bunun, mevcut tıbbi sorumluluk kurallarını değiştirmeye yönelik güçlü bir vaka olduğunu savunuyoruz. Tedavi standardına uygun revizyonun, döngü içindeki doktorlarca önemli bir katılım sağlanmasını gerektirdiğini savunuyoruz.”

 

Makale ile ilgili bağlantı adresini ve makalenin tamamını aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3114347