WIPO Teknoloji Eğilimleri 2019

 

WIPO Teknoloji Eğilimleri 2019

-Yapay Zeka-

 

 

Özet

Yapay zeka (YZ), otonom araçlardan tıbbi tanıya ve ileri üretime kadar teknoloji ve ticaret alanındaki önemli gelişmeleri giderek artırıyor. YZ teorik alandan küresel pazara geçerken sayısallaştırılmış veri çokluğu, hızla ilerleyen ve potansiyel olarak devrimci bir etkiye sahip bilgisayar işlem gücü ile beslenir: Görünüşte alakasız duran veri noktaları arasındaki kalıpları tespit eden YZ hava tahminlerini iyileştirebilir, mahsul verimini artırabilir, kanser tespitini geliştirebilir, salgınları tahmin edebilir ve endüstriyel üretkenliği artırabilir.

Teknoloji eğilimleri patent analitiği yoluyla tahmin edilebilir.

WIPO’nun patent veri analitiği konusundaki uzmanlığından yola çıkarak, WIPO Teknoloji Eğilimleri dizisindeki bu ilk yayın, YZ çağında ortaya çıkan eğilimleri araştırıyor: YZ’deki geçmiş ve mevcut eğilimleri incelemek için patent, bilimsel yayıncılık ve diğer verileri analiz ederken, bu alanda yeniliğin önümüzdeki yıllarda nasıl bir gelişme gösterebileceği hakkında fikir veriyor.

Bu yayın, en fazla yenilikçi YZ etkinliği gösteren alanları, YZ gelişimine öncülük eden şirketleri ve kurumları ve gelecekteki büyüme pazarlarının yerini keşfetmek için YZ teknolojisindeki eğilimleri sistematik olarak araştıran yayınlardan biridir.

WIPO, YZ’nin üç boyutunu yansıtacak şekilde gruplandırılmış YZ ile ilgili teknolojilerle birlikte, alandaki gelişmelerin anlaşılması için yeni bir çerçeve geliştirmiştir: Makine öğrenmesi gibi YZ’de kullanılan teknikler; ses ve görüntü işleme gibi fonksiyonel uygulamalar; telekomünikasyon ve ulaştırma dahil diğer uygulama alanları.

Bu alanların her biri için bu rapor, devralmalar ve davalar dahil olmak üzere eğilimleri, kilit oyuncuları, coğrafi yayılımı ve piyasa faaliyetlerini tanımlayan verileri ve analizleri sunuyor. Ayrıca, dünyanın dört bir yanından YZ uzmanlarının katkıları, mevcut ve potansiyel kullanımlar ve YZ teknolojisinin etkisi, yasal ve düzenleyici sorular, veri koruması ve etik kaygılar gibi konuları ele alıyor.

 

Belgenin tamamını aşağıdaki linkte bulabilirsiniz:

https://www.wipo.int/edocs/pubdocs/en/wipo_pub_1055.pdf

Bir Sorum Var: Bu, Robot Hukuku Dedikleri Nedir Yahu?

 

Bir Sorum Var: Bu, Robot Hukuku Dedikleri Nedir Yahu?

 

 

“Robot Hukuku” üzerine sürdürdüğüm çalışmalarım esnasında farklı alandan kişilerin benzer sorular yönelttiğini gördüm. Bu sorulardan bazılarını bir araya getirip cevap vermeye çalıştım.

 

  1. Robot Hukuku Nedir?

Robotların hem fiziksel hem de çevrimiçi ortamda artan kullanımı ile birlikte ortaya çıkan hukuki sorunları inceleyen, bunlarla ilgili kamu politikaları oluşturmaya çalışan, araştırma yapması keyifli, hukuk alanında yükselen bir yıldız. Ancak, henüz mevzuatı oturmamış bir alan için “… hukuku” demenin yanış olacağı eleştirilerinin bazı noktalarda haklı olduğunu kabul etmek gerekiyor.

  1. Robot Hukukunun kapsamı nedir?

Robot hukuku, hemen hemen tüm temel hukuk dallarıyla bağlantılıdır. Mesela, çevrimiçi ortamda kullanılan robotların elektronik ticaret açısından doğurduğu etkiler bakımından Elektronik Ticaret Hukuku, crawling[1] ile kazılan verilerin kişisel veri olması durumunda Kişisel Verileri Koruma Hukuku, otonom araçların karıştığı kazalar bakımından Ceza Hukuku ve Sorumluluk Hukuku, internette sözleşmesel ilişkiye giren trading botlar[2] bakımından Borçlar Hukuku, seçmen davranışlarının çevrimiçi ortamdaki robotlar yoluyla analiz edilip etkilenmesi bakımından Seçim Hukuku, robotların hukuki kişiliğinin olup olamayacağı tartışmaları bakımından Medeni Hukuk, geliştirilen robotik modellerin telif hakkı bakımından Fikri Mülkiyet Hukuku bu alanın kapsamındadır. Bu sadece küçük bir örnekseme, bu alanın içerisine daha pek çoğunu (Örn. Tüketicinin Korunması Hukuku, Savaş Hukuku, Reklam Hukuku gibi.) dahil etmek mümkün olabilir.

  1. Robot Hukuku çalışabilmek için yazılım bilmek şart mı?

Elinizdeki malzemenin ne olduğunu bilmeden onunla yemek yapamazsınız. Onu tanıyıp, tadını aldığınızda hayal gücünüz size yardım eder. Biraz da yetenekliyseniz, ziyafete hoş geldiniz. Elbette bu bir mecaz, ama işin sırrı robot hukuku açısından benzer. Teknolojinin hızla gelişmesi ve hayatımızın vazgeçilmez bir parçası olması, bireyler ve devamında toplum açısından birtakım etkilere yol açıyor. Dolayısıyla bireylerin ve toplumun korunması için hukukçuların söz konusu etkileri araştırmasını, tartışmasını ve bazı hukuk politikaları belirlemesi için kolları sıvamasını gerekli kılıyor. Ama bu yalnız çıkılacak bir yol değil. Multidisipliner çalışma dediğimiz, farklı disiplinden kişilerin bir araya gelmesi robot hukuku açısından *zorunlu*. Bakın *zorunlu* diyorum bir daha yazayım 🙂 Çünkü;

  1. Hukuk alanından kişilerin teknik konuların kesişiminde yapacağı bir araştırmada, çalışmada artık adına ne derseniz, konuyu teknik açıdan anlayabilmesi gerekli,
  2. Konuyu teknik yönden anlamanın bir hukukçu açısından iki önemli faydası şudur: birincisi, bunu hukuki açıdan değerlendirip, farklı bir bakış açısıyla yorumlayabilirsiniz, bu da yeni fikirler, görüşler ortaya koymanızı sağlar; ikincisi, teknik konu açısından yapılabilecek hatalar sizi gülünç duruma düşürebilir. Yapmayın 🙂
  3. Teknik kişiler açısından ise, geliştirilmek istenen ürünlerin sosyal hayatta ne gibi sorunlara çözüm bulacağı, nelere hizmet edeceği veya herhangi bir soruna sebep olup olmayacağı konusunda sosyal bilimlerden kişilerle çalışmak bir gereklilik.
  4. Bir hukukçu olarak, bilgisayar mühendisliği bitirmiş biri gibi kod yazmanız, mekatronik mühendisliği bitirmiş biri gibi akıllı makine tasarlamanız gerekmez. ANCAK, teknik konularda uzman olmayanların da anlayabileceği dilde yazılmış, teknik konuları anlatan kaynakları okumak, yazılımcılarla bir araya gelip fikir alışverişi yapmak, sizi tek düze bakış açısından çıkarır ve kısır kalabilecek araştırmalarınızın önünü açar. (Not: Mümkünse yazılımcı arkadaşlar edinin 🙂 )
  1. Türkiye’de bu alanda neler yapılıyor?

 Çok şey, diyebilmeyi çok isterdim.

  1. Türkiye’de bu alanda üniversitelerde durum nedir?

Türkiye’de son yıllarda yapay zekâ konusuna olan ilgi, mühendislik fakültelerinde bu alandaki ders sayılarını artırdı. Pek çok okul kulübü açıldı. YÖK bu yılki tercih kılavuzunda lisans ve önlisans programlarında yapay zekâ, veri madenciliği, büyük veri gibi alanlara da yer veriyor[3]. Hukuk fakültelerine bakılınca ise durum biraz, ne bileyim işte biraz… :/ Hukuk fakültelerimiz henüz bilişim hukukuna tam ısınamadı. 201 tane üniversitemizin (vakıf ve devlet) 81’inde hukuk fakültesi mevcut[4]. Ancak bunların bilişim hukuku alanında eğitim verenlerinin sayısı oldukça düşük. Bunlardan bazıları yüksek lisans seviyesinde bilişim hukuku eğitim vermeyi hedefliyorken, bazıları seçmeli ders olarak yer veriyor, bazıları ise konuyla bağlantılı olarak ders müfredatına dahil ediyor[5]. Ancak robotların bu kapsama dahil edilmesi şu an yurtdışındaki örneklerle karşılaştırınca pek de istenilen düzeyde değil. (Yurt dışı kısmı soru 7’de)

  1. Türkiye’de bu alanda barolarda durum nedir?

Aralık 2018’de İstanbul, Ankara ve İzmir Baroları ortak bir çalışma ile avukatlık mesleği açısından yapay zekânın yaratacağı etkileri konu alan; bunu biraz daha geniş yelpazede değerlendiren (hukukçuların mühendislerle çalışmasının gerekliliğinden, hukuk fakültelerinin durumunun iyileştirilmesine, avukatlık mesleğinin teknolojiye adaptasyonuna ve yapay zekanın doğurduğu/doğuracağı hukuki etkilere kadar) bir rapor çalışmasına başladı. Raporu hazırlayan kişiler arasında yıllardır bilişim hukuku alanında çalışan deneyimli avukatların yanı sıra mühendislik temelli kişiler de yer alıyor. Yapılan iki kapalı ve bir açık çalıştay sonrası[6], yaz aylarında raporun taslak metninin yayınlanması planlanıyor. Yayınlanan taslak metin bir süre kamuoyunun yorumlarına açık olacak, bu sayede Türkiye’nin ilk yapay zekâ ve hukuk raporunun kapsayıcı bir etkiye sahip olması hedefleniyor.

  1. Yurtdışındaki çalışmalar ne durumda?

Biraz geriye gidersek, (biraz fazla geriye gidelim) 1950’lerde yazılım dünyasındaki çalışmaların artması, sosyal bilimlerde de bazı yansımalar buldu. Örneğin, Asimov’un <3 eşsiz eserlerini kaleme aldığı yıllar buraya denk geliyor. Takip eden yıllar felsefi ve etik tartışmaların da alevlenmeye başladığı yıllar[7]… Sonraki dönemlerde hukuki değerlendirmelerin, araştırmaların da yapılmaya başladığını görmek mümkün[8]. Bunların teknik çalışmaların ve yaşanan gelişmelerin bir yansıması olduğunu kabul etmek gerekiyor. Dolayısıyla teknolojik gelişmelerin yaşandığı ülkelerde (özgür olanlarda) felsefi, etik, hukuki araştırmalar da bu gelişmeleri takip ediyor. Bugün özellikle Amerika ve Avrupa’daki pek çok üniversitede kurulan laboratuvarlar, enstitüler farklı disiplinden kişileri bir araya getiriyor. Örneğin, Washington Üniversitesi bünyesinde kurulmuş olan Tech Policy Lab, Üniversite’nin Hukuk Fakültesi, İletişim Fakültesi, Bilgisayar Mühendisliği ve kampüsteki diğer birimlerden uzmanları birleştiriyor[9]. Özellikle araştırma, eğitim ve düşünce liderliği yoluyla teknoloji politikası geliştirmeyi amaçlıyor. New York Üniversitesi’nde kurulmuş olan AI Now Enstitüsü de benzer bir amaçla hareket ediyor[10]. Çoğunlukla gelişen teknolojilerin yarattığı etik sorunlar üzerine yoğunlaşan araştırmalar yapan Enstitü, bünyesinde farklı disiplinden araştırmacıları bulunduruyor. Harvard Üniversitesi, Berkman Klein Center’ın misyonu ise siber alanı araştırmak ve anlamak; gelişimini, dinamiklerini, normlarını ve standartlarını incelemek ve bunların kanun ve yaptırımlara olan gereksinimini veya eksikliğini değerlendirmek[11]. Merkezde Türkiye’den de pek çok araştırmacı bulunuyor. Bir diğer önemli Enstitü ise Oxford Internet Enstitüsü (“OII”). Enstitü, Oxford Üniversitesi’nin multidisipliner bir araştırma ve öğretim bölümünü oluşturuyor. OII, dijital dünyanın yarattığı değişimin sosyal, ekonomik ve politik dünyada yarattığı etkileri anlamayı amaçlıyor[12]. Yale Üniversitesi Information Society Project(“ISP”) de çalışmalarının yakından takip edilmesi gereken merkezlerden. ISP, 1997 yılında Profesör Jack Balkin tarafından Yale Hukuk Fakültesi’nde kurulan bir entelektüel merkez. Hukuk, teknoloji ve toplum arasındaki karmaşık ilişkileri aydınlatmak için çalışan uluslararası bir topluluk[13].

  1. Öğrenciyim bu alanda kendimi nasıl geliştirebilirim?

Hukuk fakültesi öğrencisi iseniz ve bu alanda kendinizi geliştirmek istiyorsanız, bilmelisiniz ki Türkçe kaynak yok gibi bir şey. O yüzden İngilizce kaynak tarayacak kadar iyi bir İngilizceye kendinizi hazırlamalısınız. Sonrasında, bulunduğunuz üniversitede bilişim hukuku dersleri varsa (muhtemelen ilginiz varsa zaten bu dersleri alıyorsunuzdur) bu dersleri alın. Ancak soru 5’te anlattığım gibi bu derslerde robot hukukuna yönelik detaylara girilmiyor olabilir. Bu yüzden iş başa düşüyor. Bulduğunuz blog yazılarından, popüler bilim dergilerine, akademik makalelere, hatta bazı teknik kitaplara kadar okumak sizin çabanıza ve isteğinize kalıyor. Faydalı olacağını düşündüğünüz (hepsi değil, çünkü iş biraz pazar yerine dönmüş durumda) etkinliklere, seminerlere, konferanslara mutlaka katılın (genelde üniversite bünyesinde yapılan etkinlikler daha faydalı oluyor). Elbette unutmamak gerekir ki, bu alanda kendini geliştirmek iyi bir hukuk eğitimi ile mümkün. Temel kötü ise ömrü uzun olmaz.

Mühendislik fakültesi öğrencisi iseniz, geliştireceğiniz ürünlerin geliştirme aşamasının ve sonrasındaki kullanımlarının hukuki çerçeve içinde olmasının önemli olduğunu bilmeniz gerekiyor. Bu sebeple nasıl ki bir hukukçu temel teknik konuları biliyor olmalı ise, mühendislik temelli birinin de hukuki konulara yabancı olmaması gerekli. ANCAK, mühendis olup avukat kadar iyi hukuk bilmeniz de gerekli değil. Bize de iş lazım 😛 Şakayı bir yana bırakırsam, bahsetmek istediğim şey, örneğin bir yazılım geliştiriyorsunuz, veriye ihtiyacınız var, bu verilerin ne tür veri olduğu, bu verileri nereden çektiğiniz, sonrasında tasarladığınız sistemin ne tür veriler toplayacağı, bunları nasıl kullanacağı gibi hususların hukuki boyutunu bilmek, sonrasında hem o ürünü tasarlayan hem de kullanan açısından ortaya çıkabilecek hukuki sorunların önlenmesinde önemli. Ayrıca teknik temelli kişiler ile hukukçuların birlikte çalışmasının günümüzde zorunlu olmaya başlamasını burada da görebiliyoruz.

  1. Avukatım bu alanda kendimi nasıl geliştirebilirim?

Hukuk fakültesinden yeni mezun olduysanız, stajyer avukatsanız çok şanslısınız. Kendinizi geliştirmek için bolca vaktiniz var. Soru 8’de verdiğim tavsiyelerin bir kısmı burada da geçerli. Kendinizi bu alanda geliştirmek istiyorsanız ama öncesinde herhangi bir alt yapınız yoksa popüler bilim dergilerden başlayıp, teknik konuları hukukçuların da anlayabileceği dilde anlatan teknik kitaplar/yazılar ile devam edebilirsiniz, bunları çeşitli blog yazıları ile ilerletebilirsiniz, sonraki süreçte akademik makaleler bu konudaki bilginizi derinleştirmeye ve bakış açınızı genişletmeye yardımcı olacaktır. Özellikle bilişim hukuku ağırlıklı çalışan bir ofiste staj döneminizi geçirmek uygulamada işlerin nasıl gittiğini görmenize yardımcı olacaktır. Türkiye’de de çeşitli teknoloji şirketleri ve çok sayıda girişimci var. Bu şirketlerin yazılım ve robotik teknolojiler konusunda neler yaptığı, ne gibi hukuki sorunlar yaşadığı ile ilgili somut örnekleri görmek, tecrübe edinmek açısından staj döneminizi iyi değerlendirmeniz faydalı olacaktır. Ayrıca, yurt dışında neler olup bittiğini de yakından takip etmenin önemli olduğunu söylemeliyim. Dönem dönem yurt dışındaki konferanslara katılmak, bu alanda kendinizi geliştirmek için faydalı olacaktır[14]. Yüksek lisans konusunda ise, tamamen bu alana yönelik çalışmak istiyorum diyorsanız, yüksek lisansa devam etmeyi düşünebilirsiniz. Türkiye’de bilişim hukuku alanında sınırlı sayıda okulda yüksek lisans eğitimi mevcut[15]. Elbette yurt dışında eğitim almak da bir seçenek, doğrudan robotlar ve yapay zekâ üzerine dersler verilen okulları bulabilirsiniz[16].

Meslekte yıllarını geçirmiş meslektaşların da, “Bu, robot hukuku dedikleri şey de nedir? Ben neler yapabilirim?” dediğini biliyorum 😛 Eğer bu alandan uzak bir uzmanlığınız varsa iş temposunun ağırlığı da göz önüne alınınca, soru işaretleri birbirini izleyebilir. Ama ilginizi çekiyorsa siz de blog yazıları, popüler bilim dergileri vs. ile bu alana merhaba diyebilirsiniz.

  1. Bu alanın gerçekten bir geleceği var mı, yoksa tamamen popülerlik mi?

Bundan yaklaşık 2-3 sene öncesine kadar Türkiye’de robotlar ve hukuk üzerine doğrudan bir tartışma ortamı vardı demek zor (şu an var mı sanki diyebilirsiniz, haklısınız). Ancak son birkaç yıldır özellikle hukuk fakültesi öğrencilerinin ve stajyer avukatların artan bir ilgisi olduğunu söylemek mümkün. Yavaş yavaş bu alanda Türkçe kaynakların da oluşturulmaya başlandığını görüyoruz[17].

Türkiye’de de teknoloji kullanımının artması (sadece akıllı telefonlar değil, evimizde, iş yerimizde de akıllı teknolojileri kullanmaya başlamamız, üretim alanında bunun yaygınlaşması gibi) ile birlikte hukuki tartışmaların hızlanacağı aşikâr. Konunun ilgi çekici, merak uyandırıcı olduğu kesin, dolayısıyla bunun bir popülerlik yarattığını da kabul etmek lazım. ANCAK bunun “gelip geçici” bir şey olduğunu söylemek büyük bir gaf olur. Yıkıcı etkilerinin bireysel ve toplumsal yansımaları bizleri hukuki anlamda da bazı adımlar atmaya zorlayacak. Bu yüzden sadece popülerlik deyip geçmemek lazım.

  1. Yurtdışında bu alanda düzenleme var mı?

Evet. Hukuk sistemimiz farklı olmakla beraber (biz Kıta Avrupası hukuk sisteminde[18] yer alıyoruz.) ABD ve Kanada’nın çeşitli eyaletlerinde robot hukukuna yönelik düzenlemeler mevcut. Ancak aklınıza hemen bir “robot yasası” gelmesin. Bunun yerine örneğin, robot hukukunun kapsamına giren otonom araçlarla ilgili ilk düzenlemenin 2011’de Nevada Eyaleti’nde yapıldığını[19]; Kanada’nın Alberta Eyaleti’nde botların çevrimiçi ortamda kullanılmasının tüketiciler açısından bazı sorunlar yaratmaya başlaması üzerine bu hususta tüketicinin korunmasına yönelik bir düzenlemeye gidildiğini görüyoruz[20]. AB’de ise doğrudan bağlayıcı bir düzenleme olmasa da geçtiğimiz yıl bir bildiri[21] yayınlayarak, ileriki yıllarda yapılacak muhtemel düzenlemelere bir ışık yakıldı. Bu yıl da etik ve YZ üzerine bir rehber[22] yayınlandı. Ayrıca bünyesindeki çeşitli komitelerce görüşler, tavsiyeler yayınlanmaya devam ediyor.

  1. Türkiye’de bu alanda bir düzenleme var mı?

Hayır. Mevcut düzenlemelerimiz şu an için karşılaşılan hukuki sorunlara cevap bulmamıza yardımcı oluyor (bazı noktaları eleştiriye açık). Ancak ilerleyen yıllarda çeşitli alanlara yönelik düzenleme yapma ihtiyacı oluşacağını da bilmek lazım.

  1. Başlangıç için hangi kitapları okusam acaba?

Türkçe kaynak olarak;

  • Cem Say – 50 Soruda Yapay Zekâ
  • Çağlar Ersoy – Robotlar, Yapay Zekâ ve Hukuk
  • Nils J. Nilsson – Yapay Zekâ- Geçmişi ve Geleceği (Türkçe çevirisi mevcut)
  • Çetin Elmas – Yapay Zekâ Uygulamaları
  • Ethem Alpaydın – Yapay Öğrenme

İngilizce kaynak olarak;

  • Ryan Calo, Ian Kerr, Michael Froomkin – Robot Law
  • David J. Gunkel – Robot Rights
  • Patrick Lin, Keith Abney, George Bekey – Robot Ethics

Bilim-kurguya bayılırım derseniz;

  • Ayşe Acar – Yüzyıl romanları- Bay Binet, Yeşil Adam ve Bayan Nima
  • Asimov – Ben, Robot (Türkçe çevirisi mevcut)
  • Nick Bostrom – Süper Zekâ (Türkçe çevirisi mevcut)
  1. Başlangıç için hangi makaleleri okusam acaba?

Türkçe kaynak olarak;

  • Armağan Ebru Bozkurt Yüksel – Robot Hukuku
  • Selin Çetin – Metal Yakalılar
  • Tuba Kelep Pekmez – Otonom Araçların Kullanımından Doğan Cezai Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme
  • Ayrıca robotic.legal konuk yazarlarının blog yazılarını inceleyebilirsiniz: https://robotic.legal/katkida-bulunanlar/

İngilizce kaynak olarak;

  • Harry Surden – Machine Learning and Law
  • Ryan Calo – Robotics and the Lessons of Cyberlaw
  • Ronald Leenes & Federica Lucivero – Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by Design

 

Kaynaklar:

[1] Veri kazıyıcı botlar, arka planda programlandıkları süre boyunca sürekli çalışırlar. Temel olarak, API’lar aracılı- ğıyla internet sitelerinden veri toplarlar. Googlebot ve Bingbot, arama motoru örümceklerinin en yaygın iki örneğidir. Detaylar için bkz. http://botnerds.com/types-of-bots/, Erişim Haziran 2019.

[2] Trading botlar ya da ticaret botları, ticarette gidişatı anlamak ve işlemleri otomatik olarak gerçekleştirmek için çeşitli göstergeler kullanan yazılımlardır. Detaylar için bkz. https://bravenewcoin.com/insights/cryptocurrency-trading-bots, Erişim Haziran 2019.

[3] Nuran ÇAKMAKÇI, Üniversitelerde yapay zeka bölümü, http://www.hurriyet.com.tr/amp/egitim/universitelerde-yapay-zeka-bolumu-41235517, Erişim Haziran 2019.

[4] Detaylar için bkz. Yüksek Öğretim Bilgi Yönetim Sistemi, https://istatistik.yok.gov.tr/, Erişim Haziran 2019.

[5] Detaylar için bkz. Yüksek Öğretim Bilgi Yönetim Sistemi, https://istatistik.yok.gov.tr/, Erişim Haziran 2019.

[6] Yapay Zekâ Çağında Hukuk Raporu Kapalı Çalıştayları Değerlendirme Sonuçları, https://www.istanbulbarosu.org.tr/files/docs/201905YAPAYZEKARAPORUKAPALICALISTAYLARI.pdf, Erişim Haziran 2019.

[7]Laszlo Versenyi, “Can Robots be Moral?,” Ethics 84, no. 3, Nisan 1974, s. 248-259, https://www.journals.uchicago.edu/doi/abs/10.1086/291922?journalCode=et, Erişim Haziran 2019; Hilary Putman, Robots: Machines or Artificially Created Life?,The Journal of Philosophy, Vol. 61, No. 21, American Philosophical Association Eastern Division Sixty-First Annual Meeting, 12 Kasım 1964, s. 668-691, https://www.jstor.org/stable/2023045?seq=1#page_scan_tab_contents, Erişim Haziran 2019; Daniel C. Dennett, The practical requirements for making a conscious robot, Royal Society,15 Ekim 1994, https://royalsocietypublishing.org/doi/10.1098/rsta.1994.0118, Erişim Haziran 2019.

[8]Michael Gemignani, Laying Down the Law to Robots , San Diego L. Rev, 1984, Vol 21, no.5, s.1045, https://heinonline.org/HOL/LandingPage?handle=hein.journals/sanlr21&div=46&id=&page=&t=1559561038, Erişim Haziran 2019; Phil McNally & Sohail Inayatullah, The rights of robots: Technology, culture and law in the 21st century, Futures,

Volume 20, Issue 2, Nisan 1988, s. 119-136, https://www.sciencedirect.com/science/article/pii/0016328788900195, Erişim Haziran 2019.

[9] Tech Policy Lab, https://techpolicylab.uw.edu/about/, Erişim Haziran 2019.

[10] AI Now, https://ainowinstitute.org/about.html, Erişim Haziran 2019.

[11] Berkman Klein Center, https://cyber.harvard.edu/about, Erişim Haziran 2019.

[12] Oxford Internet Institute, https://www.oii.ox.ac.uk/about/, Erişim Haziran 2019,

[13] Information Society Project, https://law.yale.edu/isp/about, Erişim Haziran 2019.

[14] Örn. Her yıl Nisan ayında düzenlenen WeRobot konferansında robot hukukuna yönelik çeşitli akademik makaleler sunuluyor ve farklı disiplinden araştırmacılar bir araya geliyor.

[15] Örn. İstanbul Bilgi Üniversitesi, Bilişim ve Teknoloji Hukuku Enstitüsü, https://itlaw.bilgi.edu.tr/tr/, Erişim Haziran 2019; Hacettepe Üniversitesi, Bilişim Enstitüsü, http://www.bilisim.hacettepe.edu.tr/misyon_vizyon.php,  Erişim Haziran 2019.

[16] Örn. Edinburgh University, LLM in Innovation, Technology and the Law, https://www.law.ed.ac.uk/study/masters-degrees/llm-innovation-technology-law, Erişim Haziran 2019; Vrije Universiteit Amsterdam, LLM in International Technology Law, https://masters.vu.nl/en/programmes/international-technology-law/index.aspx, Erişim Haziran 2019.

[17] Örn. Tuba KELEP PEKMEZ, Otonom Araçların Kullanımından Doğan Cezai Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme, Ceza Hukuku ve Kriminoloji Dergisi, 2018, https://dergipark.org.tr/download/article-file/611504, Erişim Haziran 2019;

 Servet YETİM, Sürücüsüz Araçlar ve Getirdiği/Getireceği Hukuki Sorunlar, 2016, https://dergipark.org.tr/download/article-file/398494, Erişim Haziran 2019; Çağlar ERSOY, Robotlar, Yapay Zeka ve Hukuk, 2017, https://www.onikilevha.com.tr/images/books/9786051524979.pdf, Erişim haziran 2019.

[18] Kara Avrupası hukuk sistemi ile ilgili genel bilgi için bkz. http://www.anayasa.gen.tr/ghb.pdf, Erişim Haziran 2019. Amerika ve Kanada ise Anglo-Sakson hukuk sisteminde yer alıyor. Genel bilgi için bkz. http://www.anayasa.gen.tr/ghb.pdf, Erişim Haziran 2019.

[19]Nevada Legislature, https://www.leg.state.nv.us/Session/76th2011/Reports/history.cfm?ID=1011, Erişim Haziran 2019;

[20] Alberta Ticket sales regulations, https://www.alberta.ca/ticket-sales-regulations.aspx, Erişim Haziran 2019.

[21] EU Member States sign up to cooperate on Artificial Intelligence,

 https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence, Erişim Haziran 2019.

[22] Ethics guidelines for trustworthy artificial intelligence, https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai, Erişim Haziran 2019.

Yapay Zeka Etiği – Başarısızlık için Fazla İlkeli?

 

Yapay Zeka Etiği – Başarısızlık için Fazla İlkeli?

 

 

Brent Mittelstadt

Oxford Internet Enstitüsü

Oxford Üniversitesi

2019

 

 

Özet

“Yapay Zeka (YZ) etiği şu aralar akademik ve politika yapıcı çevrelerde küresel bir tartışma konusu. En az 63 özel/kamu inisiyatifi, YZ’nin etik gelişimine, yayılmasına ve yönetişimine yön vermek için üst düzey ilkeleri, değerleri ve diğer benzer ilkeleri tanımlayan ifadeler üretmiştir. Son meta-analizlere göre, YZ Etiği görünüşte, tıp etiğinin dört klasik ilkesine çok benzeyen bir dizi ilke üzerinde birleşti. Tıp etiğindeki ilkelerle bağlantı kurarak, YZ Etiği’nin ilk bakıştaki ilkeli yaklaşımanın güvenilirliğine rağmen, YZ geliştirme ve yönetişiminin gelecekteki etkileri konusunda endişe duymak için nedenler mevcut. Tıp ve YZ geliştirme arasında, YZ’deki ilkeli yaklaşımın tıbbınkiyle karşılaştırılabilir bir başarı sağlayamayacağına işaret eden önemli farklılıklar vardır. Tıbbınkiyle karşılaştırıldığında YZ geliştirme, (1) ortak amaç ve güvene dayanan yükümlülüklerden, (2) mesleğin geçmişi ve normlarından, (3) ilkeleri uygulamaya dönüştürmek için denenmiş yöntemlerden ve (4) güçlü yasal ve mesleki hesap verebilirlik mekanizmalarından yoksundur. Bu farklılıklar, derin normatif ve politikaya yönelik anlaşmazlıkları gizleyen üst düzey ilkeler etrafındaki fikir birliğini henüz göklere çıkarmamamız gerektiğini gösteriyor.”

 

Makalenin orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3391293

OECD – Yapay Zeka Konseyinin Önerileri

 

OECD 

Yapay Zeka Konseyinin Önerileri

22/05/2019

 

Bölüm 1: Güvenilir yapay zekanın sorumlu idaresi için ilkeler

II. Üyelerin ve Üye olmayanların (bundan sonra “Taraflar” olarak anılacaktır), tüm paydaşlarla ilgili güvenilir yapay zekanın (YZ) sorumlu idaresi için aşağıdaki ilkeleri desteklemesi ve uygulaması önerilmektedir.

III. Kendi rollerine göre, güvenilir yapay zekanın sorumlu idaresi için aşağıdaki ilkeleri tanıtma ve uygulama konusunda tüm YZ aktörlerine çağrı yapılmaktadır.

IV. Aşağıdaki ilkelerin tamamlayıcı ve bir bütün olarak düşünülmesinin altı çizilmektedir.

1.1. Kapsayıcı büyüme, sürdürülebilir kalkınma ve refah

Paydaşlar proaktif olarak, insani yeteneklerin artırılması ve yaratıcılığın güçlendirilmesi, temsil oranı az olan nüfusların kapsamanın geliştirilmesi, ekonomik, sosyal, toplumsal cinsiyet ve diğer eşitsizliklerin azaltılması ve doğal ortamların korunması gibi insanlar ve gezegen için yararlı sonuçları takip eden güvenilir yapay zekanın sorumlu idaresini üstlenmeli, bu şekilde kapsayıcı büyüme, sürdürülebilir kalkınma ve refah teşvik etmelidir.

1.2.İnsan merkezli değerler ve adalet

a)YZ aktörleri, YZ sisteminin yaşam döngüsü boyunca hukukun üstünlüğüne, insan haklarına ve demokratik değerlere saygı göstermelidir.

b)Bu amaçla, YZ aktörleri, insan kararı gibi içeriğe uygun ve yaratıcılık durumu ile tutarlı teknik ve güvenlik önlemlerini almalıdır.

1.3. Şeffaflık ve açıklanabilirlik

YZ aktörleri, YZ sistemleriyle ilgili şeffaflığı ve sorumlu açıklamayı taahhüt etmelidir. Bu amaçla,

i. YZ sistemleriyle ilgili genel anlayışı büyütmek,

ii. İlgili kişilerin işyeride de dahil olmak üzere YZ sistemleriyle etkileşimlerinde farkındalık sağlamak,

iii. Bir YZ sisteminden etkilenenlerin, bunun yarattığı sonucu anlamasını sağlamak,

iv. Bir YZ sisteminden olumsuz olarak etkilenenlerin, faktörler ve tahmin, öneri veya karar için temel teşkil eden mantık hakkında sade ve anlaşılması kolay bilgilere dayanarak, bu sistemin sonuçlarına itiraz etmelerini sağlamak

için içeriğe uygun ve yaratıcılık durumuyla tutarlı, anlamlı bilgiler sağlamalıdır.

1.4. Sağlamlık, güvenlik ve emniyet

a)YZ sistemleri tüm yaşam döngüleri boyunca sağlam, güvenlikli ve emniyetli olmalıdır, ki bu şekilde normal kullanım şartlarında, öngörülebilir kullanım, yanlış kullanım veya diğer olumsuz şartlarda, uygun şekilde çalışıp, akıl dışı güvenlik riski oluşturmazlar.

b)Bu amaçla, YZ aktörleri, YZ sisteminin çıktılarının ve soruya verilen yanıtlarının içeriğe uygun ve yaratıcılık durumuyla tutarlı biçimde analiz edilmesini sağlamak için, YZ sisteminin yaşam döngüsü sırasında veri setleri, süreçler ve kararları içeren izlenebilirliği sağlamalıdır.

c)YZ aktörleri, rollerine, içeriğine ve hareket kabiliyetlerine dayanarak, mahremiyet, dijital güvenlik, emniyet ve önyargı içeren YZ sistemleriyle ilgili riskleri ele almak için, YZ sisteminin yaşam döngüsünün her aşamasına sürekli olarak sistematik bir risk yönetimi yaklaşımı uygulamalıdır.

1.5. Hesap verebilirlik

YZ aktörleri, yukarıdaki ilkelere saygı için YZ sistemlerinin rollerine, bağlamlarına ve yaratıcılık durumuna uygun olarak, bu sistemlerin düzgün işlemesi için sorumlu olmalıdır.

 

Dokümanın tamamını ve bağlantıyı aşağıda bulabilirsiniz:

https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması

 

Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması

 

 

 

Av. Melisa Aydemir 

Suç ve Ceza: Ceza Hukuku Dergisi

Aralık 2018

 

 

 

 

Özet

 

“Bu çalışmada, son zamanların ilgi çeken ve adına gerek sağlık gerek teknolojik gerek mühendislik ve gerekse hukuk formatında pek çok seminer düzenlenen konusu yapay zekaya sahip robotların cezai sorumlulukları ele alınmıştır. Nesnelerin interneti, şeylerin interneti şeklinde ele alınarak başlanan pek çok teknolojik gelişme yapay zekalarda birleşmiş ve hatta kendini bulmuştur. Teknolojik gelişmelerin muhteşem bir yansımasını gördüğümüz yapay zekaya sahip robotların günden güne dönüşümlerine ve gelişimlerine fazlası ile şahit olmaktayız ve bu pek çok bilim adamı gibi bizleri de heyecanlandırmaktadır. Ancak bu heyecanın yanında pek çok bilinmezlik de kafamızı kurcalamaktadır. Keza söz konusu robotların gelecekteki ve hatta günümüzdeki düzlemde “neleri başarabildiklerini” sorguladığımızda verdiğimiz yanıtların büyüsüne kendimizi kaptırabildiğimiz gibi herhangi bir zarar/tehlike açığa çıktığında ve hukuki normlar ihlal edildiğinde bunun ne şekilde tazmin edilebileceği sorusunda da kafamızı fazlası ile meşgul edebiliyoruz. Tüm bu gelişmeler ışığında yapay zekanın hukuki sorumluluğunun ne olacağını bir yana bırakır isek ceza hukukundaki konumunun ne olacağı sorusuna yanıt verebilmek için yaptığımız araştırmalara bu çalışmamızda yer vermek zorunda hissettiğimizi beyan edebiliyoruz. Umarız ki bu çalışmanın sonunda yapay zekalı robotların ceza sorumluluklarının ne olacağı ve hatta hukuk dünyasında hangi statüde yer alabilecekleri konusunda biraz olsun fikir sahibi olabilirsiniz.”

 

Makalenin tamamını aşağıda bulabilirsiniz.

Yapay Zeka Sistemlerini Düzenlemek: Riskler, Zorluklar, Yeterlikler ve Stratejiler

 

Yapay Zeka Sistemlerini Düzenlemek: Riskler, Zorluklar, Yeterlikler ve Stratejiler

 

 

 

 

 

Özet

“Yapay Zeka (YZ) teknolojisi son on yıl boyunca hızlı bir şekilde gelişti, aynı zamanda YZ devriminin etkisi pek çok sektörde keskin bir şekilde hissedilmeye başlandı. Büyüyen bir eleştirmen, bilim insanı ve girişimci korosu, otonom makinelerin toplumda oynadığı rolün artmasıyla ilgili endişelerini, YZ’nin getireceği kamusal riskleri azaltmak için hukuki düzenlemenin gerekli olabileceğini öne sürerek, dile getirdi. Ne yazık ki, YZ’nin benzersiz özellikleri ve YZ’nin nasıl geliştirilebileceği, hukuk sistemi için hem pratik hem de kavramsal zorluklar ortaya koymaktadır. Hukuk sisteminin YZ’nin gelişimini olumlu yönde etkilemesi ve YZ sistemleri bir zarar verdiğinde mağdur tarafların tazminat almasının sağlanması gibi zorluklar ile yüzleşilmelidir. Makale, YZ ile ilişkili kamusal riskleri ve devlet kurumlarının bu riskleri yönetme konusundaki yetkinliklerini incelemektedir. Ayrıca kademeli haksız fiil sorumluluğuna dayanan, dolaylı bir YZ düzenlemesi teklifi ile sonuçlanmaktadır.”

 

Makalenin orijinali ve bağlantı adresini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2609777##

Ayrımcılık Yapan Sistemler – Yapay Zekada Cinsiyet, Irk ve Güç

 

Ayrımcılık Yapan Sistemler – Yapay Zekada Cinsiyet, Irk ve Güç

 

Sarah Myers West, AI Now Enstitüsü, New York Üniversitesi

Meredith Whittaker, AI Now Enstitüsü, New York Üniversitesi, Google Open Research

Kate Crawford, AI Now Enstitüsü, New York Üniversitesi, Microsoft Research

Nisan 2019

 

Araştırma Bulguları

YZ sektöründe cinsiyet ve ırk arasında bir çeşitlilik krizi söz konusudur. Son araştırmalar, önde gelen YZ konferanslarında yazarların sadece % 18’inin kadın1 ve YZ profesörlerinin % 80’inden fazlasının ise erkek 2olduğunu gösteriyor. YZ endüstrisindeki 3bu eşitsizlik ise daha da fazladır: kadınlar Facebook’ta YZ araştırma personelinin sadece% 15’ini ve Google’da ise % 10’unu oluşturmaktadır. Siyahi işçiler için ise tablo daha da kötü durumdadır. Örneğin, Google’ın işgücünün yalnızca % 2,5’i siyahi iken, Facebook ve Microsoft ise bu sayı % 4’tedir. Bu dengesizliği gidermek için yıllarca süren çaba ve yatırım göz önüne alındığında, alanın mevcut durumu endişe vericidir.

YZ sektörünün mevcut çeşitlilik krizini ele alışında derin bir değişim ihtiyacı hasıl olmuştur. YZ endüstrisinin çeşitlilik probleminin ciddiyetini, mevcut metodların gücün dengesiz dağılışı ile mücadele edemediğini, ayrıca YZ’nin bu eşitsizliği güçlendirdiğini kabul etmesi gerekir. Ayrıca, birçok araştırmacı YZ sistemlerindeki önyargıların tarihsel ayrımcılık kalıplarını yansıttığını göstermiştir. Bunlar aynı sorunun iki tezahürüdür ve birlikte ele alınmaları gerekir.

“Teknikte kadınlara” olan yoğun odaklanma çok dar ve beyaz kadınları diğerlerinden daha ayrıcalıklı kılmaktadır. Irk, cinsiyet ve diğer kimlik ve niteliklerin kesişme noktalarının insanların YZ ile olan deneyimlerini nasıl şekillendirdiğini bilmemiz gerekir. YZ çalışmalarının büyük çoğunluğu cinsiyetin ikili olduğunu varsayar ve genel olarak diğer tüm toplumsal cinsiyet kimliği biçimlerini silerek, fiziksel görünüme ve basmakalıp varsayımlara dayanarak insanları “erkek” veya “kadın” olarak atar.

“Algoritma akışını“ düzeltmek, YZ’nin çeşitlilik sorunlarını çözmez. Farklı meslekten adayların okuldan sektöre akışını değerlendiren onlarca yıllık “algoritma akışı çalışmaları”na rağmen, YZ endüstrisindeki çeşitlilik konusunda önemli bir ilerleme olmamıştır. Algoritma akışına odaklanma; işyeri kültürleri, güç asimetrileri, taciz, dışlayıcı işe alım uygulamaları, haksız tazminat ve insanların YZ sektöründen tamamen uzaklaşmasına veya çalışmalarını engellemesine neden olan belirtkeleme ile ilgili daha derin sorunları ele almamıştır.

YZ sistemlerinin, ırk ve cinsiyetin sınıflandırılması, tespiti ve öngörülmesindeki kullanımı, acil olarak yeniden değerlendirmeye ihtiyaç duymaktadır. “Irk bilimi”nin geçmişi, dış görünüşe dayalı ırk ve cinsiyet sınıflandırmasının bilimsel olarak kusurlu olduğuna ve kolayca kötüye kullanıldığına dair acımasız bir hatırlatıcıdır. Fiziksel görünüşü karakter veya içsel durumlar için bir vekil olarak kullanan sistemler, vesikalık fotoğraftan4 cinsiyeti belirlediğini, yüz özelliklerine dayanarak “suçluyu” öngördüğünü5 veya “mikro ifadeler” ile işçi yeterliliğini değerlendirdiğini 6iddia eden YZ araçları da dahil olmak üzere tüm bunlara kuşkuyla bakmak gerekir. Bu tür sistemler tarihsel eşitsizliği derinleştirecek ve haklı gösterebilecek şekilde ülkedeki ırk ve cinsiyet yanlılığı modellerini tekrarlamaktadır. Bu araçların ticari konuşlandırılması ise derin bir endişe kaynağıdır.

 

Raporun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://ainowinstitute.org/discriminatingsystems.pdf

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Güvenilir Yapay Zeka İçin Etik Kılavuz

 

Avrupa Komisyonu Üst Düzey Uzman Grubu

8 Nisan 2019

 

ÖZET

Kılavuzun amacı güvenilir yapay zeka (YZ) için önayak olmaktadır. Güvenilir YZ, sistemin tüm yaşam döngüsü boyunca karşılanması gereken üç bileşene sahiptir: (1) Yürürlükteki tüm kanun ve yönetmeliklere uyarak, yasal olmalı, (2) etik ilkelere ve değerlere bağlılık sağlayarak etik olmalı ve (3) iyi niyetli olsalar bile, YZ sistemleri istenmeyen zararlara neden olabileceğinden, hem teknik hem de sosyal açıdan güçlü olmalıdır. Her bir bileşen kendi içinde gereklidir; ancak güvenilir YZ’nin başarısı için yeterli değildir. İdeal olarak, her üç bileşen de uyum içinde çalışır ve çalışmalarında örtüşürler. Uygulamada, bu bileşenler arasında uyuşmazlık ortaya çıkarsa, toplum onları hizalamaya çalışmalıdır.

Bu kılavuz, güvenilir YZ’yi elde etmek için bir çerçeve oluşturmuştur. Çerçeve açık bir şekilde, güvenilir YZ’nin ilk bileşenini (yasal YZ) ele almıyor. Bunun yerine, ikinci ve üçüncü bileşenlerde rehberlik etmeyi amaçlıyor: etik ve güçlü YZ’nin teşvik edilmesi ve güvence altına alınması. Tüm paydaşlara hitap eden kılavuz, içerdiği ilkelerin sosyoteknik sistemlerde nasıl kullanılabileceği konusunda rehberlik ederek bir etik ilkeler listesinin ötesine geçmeyi amaçlamaktadır. Bölüm 1’deki en soyuttan, Bölüm III’teki en somut olana kadar üç ayrı kısımda kılavuzluk sağlanmış, YZ sistemleri tarafından ortaya konan fırsatlar ve hassas hususlarla kapanış yapılmıştır.

I. Temel haklara dayanan bir yaklaşımla, Bölüm I YZ sistemlerinin geliştirilmesinde, uygulanmasında ve kullanımında saygı gösterilmesi gereken etik ilkeleri ve bunlarla ilişkili değerleri belirlemektedir.

Bölüm I’den çıkarılan anahtar ilkeler:

  • YZ sistemlerini, insan otonomisine saygı, zararın önlenmesi, adalet ve açıklık açısından etik ilkelere uyacak şekilde geliştirin, uygulayın ve kullanın. Bu ilkeler arasındaki potansiyel gerilimleri kabul edin ve ele alın.
  • Çocuklar, engelliler ve tarihsel olarak dezavantajlı olan ya da dışlanma riski taşıyan kişiler gibi daha savunmasız grupları içeren durumlara ve işverenler ile işçiler veya işletmeler ve tüketiciler arasında olduğu gibi güç veya bilgi asimetrileri ile karakterize edilen durumlara özellikle dikkat edin.
  • Bireylere ve topluma önemli faydalar sağlarken, YZ sistemlerinin de belli riskler doğurduğunu ve tahmin edilmesi, tanımlanması veya ölçülmesi zor olabilecek etkiler dahil olmak üzere (örneğin, demokrasi, hukukun üstünlüğü ve adaletin dağıtımında veya insan aklının kendisinde) olumsuz bir etkisi olabileceğini kabul edin. Uygun olduğunda bu riskleri azaltmak için ve riskin büyüklüğü ile orantılı olarak yeterli önlemleri alın.

II. Bölüm I’e göre, Bölüm II, YZ sistemlerinin karşılaması gereken yedi gereksinimi listeleyerek güvenilir YZ’nin nasıl gerçekleştirilebileceği konusunda kılavuzluk eder. Uygulaması için hem teknik hem teknik olmayan yöntemler kullanılabilir.

Bölüm II’den çıkarılan anahtar ilkeler:

  • YZ sistemlerinin geliştirilmesi, uygulanması ve kullanımının, güvenilir YZ için yedi temel gereksinimi karşıladığından emin olun: (1) insan temsilcisi ve gözetim, (2) teknik sağlamlık ve güvenlik, (3) mahremiyet ve veri yönetimi, (4) şeffaflık, (5) çeşitlilik, ayrımcılık yapmama ve adalet, (6) çevresel ve toplumsal refah ve (7) hesap verebilirlik.
  • Bu gereksinimlerin uygulanmasını sağlamak için teknik ve teknik olmayan yöntemleri göz önünde bulundurun.
  • YZ sistemlerinin değerlendirilmesine yardımcı olun ve gereksinimlerin yerine getirilmesi için araştırma ve inovasyonu teşvik edin; sonuçları yayın ve soruları daha geniş kitlelere açın ve YZ etik alanında yeni nesil uzmanları sistematik olarak eğitin.
  • YZ sisteminin yetenekleri ve sınırları, gerçekçi beklentinin belirlenmesi ve gereksinimlerin karşılanma şekli hakkında paydaşlarla açık ve proaktif bir şekilde iletişim kurun. YZ sistemleriyle uğraşma konusunda şeffaf olun.
  • YZ sistemlerinin, özellikle kritik bağlamlarda veya durumlarda izlenebilirliğini ve denetlenebilirliğini kolaylaştırın.
  • YZ sisteminin yaşam döngüsü süresince paydaşları buna dahil edin.Tüm paydaşların güvenilir YZ konusunda farkındalık kazanması ve eğitilmeleri için eğitimleri teşvik edin.
  • Farklı ilkeler ve gereksinimler arasında temel gerilimler olabileceğine dikkat edin. Bu değişimleri ve çözümlerini sürekli olarak belirleyin, değerlendirin, belgelendirin ve iletin.

III.  Bölüm III, Bölüm II’de belirtilen temel gereksinimleri operasyonelleştirmeyi amaçlayan somut ve ayrıntılı olmayan bir güvenilir YZ değerlendirme listesi sunmaktadır. Bu değerlendirme listesinin YZ sisteminin belirli kullanım durumlarına göre uyarlanması gerekecektir.

Bölüm III’ten çıkarılan anahtar ilkeler:

  • YZ sistemlerini geliştirirken, uygularken veya kullanırken güvenilir bir YZ değerlendirme listesi benimseyin ve bunu sistemin uygulandığı özel kullanım durumuna uyarlayın.
  • Böyle bir değerlendirme listesinin asla detaylı olmayacağını unutmayın. Güvenilir YZ’nin sağlanması, onay kutularıyla değil, gereksinimleri sürekli belirleme ve uygulama, çözümleri değerlendirme, YZ sisteminin yaşam döngüsü boyunca iyileştirilmiş sonuçları sağlama ve buna paydaşları dahil etme ile ilgilidir.

Belgenin son bölümü, izlenmesi gereken yararlı fırsatlardan örnekler ve dikkatle ele alınması gereken, YZ sistemleri tarafından ortaya konan kritik hususları sunarak, çerçeve boyunca değinilen sorunların bazılarını somutlaştırmayı amaçlamaktadır.

Bu kılavuz, güvenilir YZ çalışmalarına ulaşmada yatay bir temel oluşturarak, genel olarak YZ uygulamalarına kılavuzluk sunmayı amaçlasa da, farklı durumlar farklı zorluklar doğurur. Bu nedenle, bu yatay çerçeveye ek olarak, YZ sistemlerinin bağlamsallığı göz önüne alındığında sektörel bir yaklaşımın gerekli olup olmadığı araştırılmalıdır.

Bu kılavuz, ne herhangi mevcut veya gelecekteki bir politikanın veya bir düzenlemenin yerini alma niyetindedir ne de böyle bir girişimi engellemeyi amaçlamaktadır. Bu belge “Avrupa için Güvenilir YZ” tartışması için bir başlangıç noktasıdır.

Avrupa’nın ötesinde Kılavuz ayrıca, küresel düzeyde YZ sistemleri için etik bir çerçeve üzerinde araştırma, yansıtma ve tartışmayı geliştirmeyi amaçlamaktadır.

 

Kılavuzun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai

Otonom Araçların Kullanımından Doğan Cezaî Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme

 

Otonom Araçların Kullanımından Doğan Cezaî Sorumluluk: Türk Hukuku Bakımından Genel Bir Değerlendirme

 

 

 

Arş. Gör. Tuba KELEP PEKMEZ

 

İstanbul Üniversitesi, Hukuk Fakültesi

 

 

 

 

Özet

 

“Bu çalışma otonom araçlar olarak adlandırılan yapay zekâ içeren araçların kullanımından doğabilecek olası ceza hukuku problemlerinin Türk Ceza Hukuku çerçevesinde genel olarak değerlendirilmesi ve hukukumuzda daha önce ele alınmamış bir konuyu tartışmaya açma amacı taşımaktadır. Çalışmada öncelikle otonom araçların neyi ifade ettiği ve hem çeşitli ülkeler hem de kuruluşlar tarafından yayınlanan ilke ve düzenlemeler çerçevesinde bunların kademeleri saptanmıştır. Daha sonra ise otonom araçların ceza hukuku sorumluluklarının olup olamayacağı tartışılarak Türk Ceza hukuku bakımından bunun mümkün olmayacağı kanaatine varılmış ve bu bağlamda sorumluluğu gündeme gelebilecek olan sürücüler ve kullanıcılar bakımından konu ele alınmıştır. Bu bağlamda otonom araç sürücü ve kullanıcılarının kasten veya taksirle işlenen suçlar bakımından ceza sorumluluklarının belirlenmesinin genel ilkelerden ayrılmayı gerektirip gerektirmeyeceği incelenmiştir. Kasten işlenen suçlar bakımından bir özellik saptanmazken, taksirli suçlar bakımından dikkat ve özen yükümlülüğüne ilişkin kurallar ile öngörülebilirlik kriterlerinin detaylı bir şekilde araştırılması gerektiği sonucuna varılmıştır.”

 

Makalenin orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

http://dergipark.gov.tr/download/article-file/611504

Siber Güvenlik Perspektifinden Gelişen Teknolojiler

 

Siber Güvenlik Perspektifinden Gelişen Teknolojiler

 

 

 

Deloitte Türkiye’de partner olarak çalışan Burak Sadıç ile siber güvenlik ve gelişen teknolojiler üzerine konuştuk. Sadıç’ın yirmi yıldan fazla danışmanlık ve yönetim deneyimi bulunmaktadır.

 

Keyifli okumalar…

 

 

 

 

Çetin: Kişisel bir soru ile başlayalım, günlük hayatta kullandığınız teknolojik ürünlerin riskleri karşısında kullanıcı olarak sizin çözümleriniz neler oluyor?

Sadıç: Bir siber risk uzmanı olarak, teknolojiyi olabildiğince az kullanmaya çalışıyorum 🙂 Şakayı bir kenara bırakacak olursam, kullanıcı olarak benim kişisel tercihlerim:

– Her uygulama ve sistem için farklı ve karmaşık bir parola kullanmak,

– Yukarıda belirtilen tüm şifreleri saklamak için güvenli bir parola yönetimi uygulaması kullanmak,

– Mümkün olduğunda, ikili kimlik doğrulama kullanmak,

– Mevcut coğrafi konumu paylaşmayı mümkün olduğunca sınırlamak,

– E-posta veya mesajlar veya sosyal medya yoluyla gönderilen eklentileri açmamak veya bağlantılara tıklama konusunda paranoyak olmak. Eğer bu eklentileri ya da bağlantıları gerçekten merak ediyorsam da, onları “güvenli” bir ortamda açmaya çalışırım.

 

Çetin: Peki, bugünlerde şirketler hangi siber güvenlik tehditleri ile karşılaşıyor? Geçmişle karşılaştırdığında, özellikle yapay zekanın (YZ) gelişimiyle birlikte sigorta şirketlerinin sunduğu risk yönetimi çözümlerindeki değişimler neler oldu?

Sadıç: Siber güvenliği bir kitap olarak düşünürsek, şimdi ilk bölümün sonunda veya son bölümün başındayız. Internet’in yaygınlaşması ve bağlı cihazlarla (Nesnelerin Interneti) birlikte şirketler veya bireyler için siber güvenlik tehditleri her bakımdan yalnızca bizim hayal gücümüzle sınırlanıyor. Ancak özet olarak, işin durması ve veri ihlali, şirketlerin bugünlerde karşı karşıya kaldıkları en büyük tehditler. Bence YZ gelişmelerinin siber sigorta üzerindeki potansiyel etkileri hakkında yorum yapmak için henüz erken.

 

Çetin: YZ kullanımının sigorta sektöründeki olumlu ve olumsuz etkileri nelerdir?

Sadıç: YZ tüm endüstrileri değiştirecek ve sigorta sektörü de bir istisna değil. Aşağıdakine benzer bir senaryo düşünün:

Bir trafik kazasına karıştığınızda, bağlantılı arabanız polise, hastaneye ve sigorta şirketine aynı anda bilgi veriyor. Polis ve sağlık uzmanları size ve diğer potansiyel mağdurlara yardım ederken, sigortacınız da aracınıza verilen zararın seviyesini belirliyor. İhtiyaç olması durumunda çekici otomatik olarak aranıyor ve ayrıca hasar seviyesi ve olası onarım maliyetleri önceden hesaplanıyor. Böylece, birkaç dakika içinde her şey robotik süreç otomasyonu ve YZ ile düzenleniyor.

 

Çetin: Siber saldırıları tespit etmek için geliştirilen YZ uygulamaları yayılmaya başladı. Bu uygulamaların geleceğini nasıl değerlendiriyorsunuz?

Sadıç: YZ, siber savunmada geleceğin zorunlu bir parçası. Mevcut altyapıların karmaşıklığı, son otomasyon teknolojilerinin yardımıyla bile, insanın durumu kavrayışını gerçekten zorlaştırıyor. Ancak, madalyonun bir de öteki yüzü var. Saldırganlar da YZ’yi saldırılarını daha da karmaşık hale getirmek için kullanacaklar. Dolayısıyla, gelecekte siber ortamda hem insan hem de YZ mücadelesi olacak.

 

Çetin: Türkiye siber güvenlik tehditleriyle karşı karşıya, YZ çözümlerinin daha iyi kullanılması için ne gibi adımlar atılmalı?

Sadıç: Türkiye yarışta geri kaldı, ancak hem özel sektör hem de kamudaki oyuncular siber silah yarışının hızına ayak uydurabilmek için cesur adımlar atıyor. Bence, YZ’nin daha etkili kullanılmasında ilk adım, YZ’nin gerçekte ne olduğunu anlamak ve buna göre davranmak.

 

Çetin: Yasal anlamda, Türkiye’deki düzenlemeler çerçevesinde, siber güvenlik alanındaki gelişmeler karşısında yapılanların yeterli olduğunu düşünüyor musunuz?

Sadıç: KVKK ve özellikle 12. madde ve bilhassa veri ihlali bildirimi fıkrası siber güvenlik için geç ama çok önemli bir adım. BDDK’nın yeni taslağı ve çeşitli endüstri düzenlemeleri ve rehberler de umut verici gelişmeler. Ben bir hukuk uzmanı değilim, ancak ilgili makamlar, çerçeveyi sürekli artan bir hızda geliştirmeye ve zenginleştirmeye devam ettiği sürece, mevcut çerçeve siber güvenlik alanındaki sürekli değişen gerçeklikle başa çıkma konusunda umut verici görünüyor.

 

Burak Sadıç’a saygılarla…

1 3 4 5 6 7 11