Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması

 

Yapay Zekalı Robotların Ceza Sorumluluklarının Araştırılması

 

 

 

Av. Melisa Aydemir 

Suç ve Ceza: Ceza Hukuku Dergisi

Aralık 2018

 

 

 

 

Özet

 

“Bu çalışmada, son zamanların ilgi çeken ve adına gerek sağlık gerek teknolojik gerek mühendislik ve gerekse hukuk formatında pek çok seminer düzenlenen konusu yapay zekaya sahip robotların cezai sorumlulukları ele alınmıştır. Nesnelerin interneti, şeylerin interneti şeklinde ele alınarak başlanan pek çok teknolojik gelişme yapay zekalarda birleşmiş ve hatta kendini bulmuştur. Teknolojik gelişmelerin muhteşem bir yansımasını gördüğümüz yapay zekaya sahip robotların günden güne dönüşümlerine ve gelişimlerine fazlası ile şahit olmaktayız ve bu pek çok bilim adamı gibi bizleri de heyecanlandırmaktadır. Ancak bu heyecanın yanında pek çok bilinmezlik de kafamızı kurcalamaktadır. Keza söz konusu robotların gelecekteki ve hatta günümüzdeki düzlemde “neleri başarabildiklerini” sorguladığımızda verdiğimiz yanıtların büyüsüne kendimizi kaptırabildiğimiz gibi herhangi bir zarar/tehlike açığa çıktığında ve hukuki normlar ihlal edildiğinde bunun ne şekilde tazmin edilebileceği sorusunda da kafamızı fazlası ile meşgul edebiliyoruz. Tüm bu gelişmeler ışığında yapay zekanın hukuki sorumluluğunun ne olacağını bir yana bırakır isek ceza hukukundaki konumunun ne olacağı sorusuna yanıt verebilmek için yaptığımız araştırmalara bu çalışmamızda yer vermek zorunda hissettiğimizi beyan edebiliyoruz. Umarız ki bu çalışmanın sonunda yapay zekalı robotların ceza sorumluluklarının ne olacağı ve hatta hukuk dünyasında hangi statüde yer alabilecekleri konusunda biraz olsun fikir sahibi olabilirsiniz.”

 

Makalenin tamamını aşağıda bulabilirsiniz.

50 Soruda Yapay Zeka

 

50 Soruda Yapay Zeka

 

 

Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü öğretim üyesi Prof. Cem Say’ın “50 Soruda Yapay Zekâ” adlı kitabı bu ay okurları ile buluştu. Pek çok farklı alandan insanın ilgi ile karşıladığı kitap, oldukça zengin bir içeriğe sahip.

Say, kitapta bilgisayarların çeşitli kullanımlarına dair sorular sorarken, arada kendi anılarından da bahsederek okuyucuyu bağlayan bir dil kullanıyor. Hikâyeleştirilmiş anlatımı ile teknik sayılan bilgileri her kesimden okuyucunun anlayabileceği bir seviyeye indirmeyi başarıyor.

 

 

Bir hukukçu olarak, sabırsızlanıp ilk olarak okuduğum kısım ise “Bilgisayarlar avukatlık yapabilir mi?” sorusu idi. Kendisi bu sistemlerin dokümantasyon, içtihat arama ve karar tahmin etme gibi konularda avukatlardan daha başarılı olduğunu söylüyor ve bana göre bu konuda oldukça haklı. Avukatların saatlerini alan angarya pek çok iş bu sayede kolaylaşabilir.

Son soru ise bize sınırlarımızı hatırlatan cinsten: “İnsan zekâsının bir geleceği var mı?” Oldukça olumlu bir tablo çizerek bu “ek beyinlerin” geleceğimiz için faydalı olacağını söylerken, baskıcı yönetimlerce kötüye kullanımının ise insanlığı köreltebileceğinin vurgusunu yapıyor.

Kitapta yukarıdakilere ek olarak pek çok güncel ve sosyal alanlarla bağlantılı sorular da mevcut. “Robotlar aşık olabilir mi?” “Bilgisayarlar buluş yapabilir mi?” ya da “Robotlar askere alınsın mı?” gibi…

Okuması keyifli ve akıcı… Daha fazla ayrıntı vermek istemem ama kitabın son cümlesi çok umut verici: “Başarabiliriz.

 

 

Ayrıca bakınız:

Ayın kitabı: “50 Soruda Yapay Zekâ”

Yapay Öğrenme ve Hukuk

 

Yapay Öğrenme ve Hukuk

 

Lawyering in the age of algorithms

 

Harry Surden

 

Kolorado Üniversitesi Hukuk Fakültesi

 

26 Mart 2014

 

 

 

Özet

“Bu makale, hukuk uygulaması kapsamında yapay öğrenme tekniklerinin uygulanmasını araştırmaktadır. Kabaca “yapay öğrenme”, zaman içinde bazı görevleri yerine getirmeyi “öğrenen ve bunu geliştirme yeteneği olan bilgisayar algoritmalarını ifade eder. Genel olarak, yapay öğrenme algoritmaları, verideki kalıpları belirlemek için tasarlanır ve daha sonra belirli görevleri otomatikleştirmek için yeni veriler üzerinde bu kalıpları uygular. Hukuk haricinde, yapay öğrenme teknikleri bir zamanlar insan zekası gerektirdiği düşünülen görevleri otomatikleştirmek için başarılı bir şekilde uygulanmıştır – örneğin, dil çevirisi, sahtekarlık tespiti, otomobiller, yüz tanıma ve veri madenciliği. İyi performans gösteriyorsa, yapay öğrenme algoritmaları, benzer durumdaki bir kişi tarafından yapılmış olanlara yakın otomatik sonuçlar üretebilir.

Bu makale, teknik temeli olmayan kitlelere yapay öğrenme yöntemlerinin altındaki bazı temel ilkeleri yalın bir şekilde açıklayarak başlar. İkinci kısım daha geniş bir bulmacayı araştırır: hukuksal pratiklerin gelişmiş bilişsel yetenekler gerektirdiği düşünülür, ancak bu tür yüksek dereceli bir biliş, mevcut yapay öğrenme teknolojisinin dışında kalmaktadır. Bu bölüm temel bir ilkeyi tanımlar: yararlı, “akıllı” sonuçlar üretebilen, deneyimsel yetenek (istatistiksel korelasyon gibi) kullanan, zeki olmayan hesaplama tekniklerine başvurularak normalde insan zekası gerektirdiği düşünülen belirli görevlerin otomatikleştirilmesi bazen mümkündür. Üçüncü bölüm bu ilkeyi hukuk uygulamasında kullanıp, şu anda avukatlar tarafından yürütülen belirli hukuksal görevler bağlamında yapay öğrenme otomasyonunu tartışır: davaların sonuçlarını tahmin etme, hukuki belgeler ile verilerde gizlenmiş olan bağlantıları bulma, elektronik keşif ve belgelerin otomatik düzenlenmesi.”

 

Makale ile ilgili bağlatı adresini ve makalenin orijinalini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2417415

Robotları Kandırmanın Cezası Var Mı?

 

Robotları Kandırmanın Cezası Var Mı?

 

robots and ML ile ilgili görsel sonucu

 

Akıllı teknolojiler hayatımızı her anlamda kolaylaştırmaya, pratikleştirmeye devam ediyor. Sesli asistanlardan, giyilebilir teknolojilere, sürücüsüz araçlara ve internette karşılaştığımız botlara kadar olarla artık sürekli etkileşim halindeyiz. Vazgeçilmez hale gelen bu teknolojiler teknik anlamda farklı yöntemler kullanılarak oluşturuluyor. Bunlardan biri de makine öğrenmesi ya da diğer bir deyişle yapay öğrenme(YÖ).

YÖ kısaca veriler üzerinden tahminlerde bulunup, karmaşık örüntüleri algılama ve akılcı karar verebilme üzerine odaklı bir bilim dalıdır. YÖ’nün geçmişine baktığımızda, modern yapay öğreniminin matematiksel temellerinin birçoğunun, bilgisayarlardan önce geldiğini görüyoruz.Bu konudaki büyük atılımlar, 18. yüzyılda Pierre-Simon Laplace’ın Bayes Teoremi’ni tanımlamasını sağlayan Thomas Bayes’in çalışmalarını içeriyor.(1812). Bu dönemlerde yapılan çalışmalar, günümüzdeki yapay öğrenmenin ataları sayılıyor. 1940’lı yıllara gelindiğinde ise başta Manchester, Cambridge ve Pennsylvania Üniversitelerideki çalışmalar dikkat çekmeye başlıyor. 1950 yılında Alan Turing’in bir makinenin düşünüp düşünmeyeceğine yönelik olan “Computing Machinery and Intelligence” makalesi büyük yankı uyandırıyor. Bunu takip eden önemli gelişime 1951 yılında Marvin Minsky ve Dean Edmonds’in, organik beyinlerin çalışma şeklinin bilgisayar tabanlı bir simülasyonu olarak ilk yapay sinir ağını tasarlaması oluyor. 1Oluşan büyük beklentinin hayal kırıklığına sebep olması ve yaşanan yavaşlama dönemi sonrasında, yakın geçmişimizden başlayarak bu çalışmalar tekrar büyük bir hız kazanmış durumda.

YÖ’de temelde üç yaklaşım bulunmaktadır: gözetimli, gözetimsiz ve pekiştirmeli öğrenme.

Gözetimli öğrenmede, girdi değişkenlerini (X), çıktı değişkenlerine (Y) eşleme işlevini öğrenmek için etiketli eğitim verileri kullanılıyor.2Daha anlaşılır bir dil ile, diyelim ki siz bir emlakçısınız. İşleriniz büyüyor ve size yardım etmesi için birçok stajyer işe aldınız. Ama bir problem var — siz bir eve baktığınızda evin değeri hakkında iyi bir tahminde bulunabiliyorsunuz ama stajyerlerinizin tecrübesi olmadığından nasıl değer biçmeleri gerektiğini bilmiyorlar. Stajyerlere yardım etmek amacıyla (ve kendinizi tatil için boşa çıkarmak maksadıyla), sizin bölgenizdeki ev fiyatlarını genişlik, muhit ve benzer evlerin kaça satıldığı vb. gibi özelliklere göre hesaplayan basit bir uygulama yazmaya karar verdiniz. Bu yüzden son üç ayda şehirde satılan tüm evlerin fiyatlarını kaydettiniz. Satılan her evin oda sayısı, genişliği, muhiti vb. gibi detaylı özelliklerini not aldınız. Ama en önemlisi nihai satış fiyatını da kaydettiniz. Bu eğitim verisini kullanarak, bizim bölgemizdeki diğer tüm evlerin satış fiyatlarını tahmin eden bir program yazmak istiyoruz. İşte bu yöntem gözetimli öğrenmedir. Her bir evin kaça satıldığını biliyorsunuz, yani problemin cevabını biliyorsunuz ve oradan yola çıkarak geriye doğru bir mantık oluşturmaya çalışıyorsunuz.3 Gözetimsiz öğrenmede ise sistem yalnızca girdi değişkenlerine (X) sahip, buna karşılık çıktı değişkenleri bulunmuyor. Verilerin altında yatan yapıyı modellemek için etiketsiz eğitim verileri kullanılıyor. 4Yine baştaki emlakçı örneğine geri dönelim. Her evin satış fiyatını bilmeseydiniz ne olurdu? Tüm bildiğiniz evin genişliği, yeri vb. gibi bilgiler olsa bile, görünen o ki hala işe yarar hesaplamalar yapabilirsiniz. Buna da gözetimsiz öğrenme deniyor.Bu yöntem şuna benziyor: Birisi size bir kağıtta sayı listesi veriyor ve şunu diyor “bu sayıların ne ifade ettiğini bilmiyorum ama belki sen burada bir düzen veya grup gibi birşey bulabilirsin — iyi şanslar!”.5Pekiştirmeli öğrenmede ise yazılımlar, genellikle deneme yanılma yoluyla en iyi eylemleri öğrenirler. Bu yöntem genel olarak robotikte kullanılır. Burada bir robot, engele çarptıktan sonra negatif geri bildirim alarak çarpışmalardan kaçmayı öğrenebilir. Ayrıca video oyunlarında da, yine deneme yanılma yöntemiyle bir oyuncunun ödülleri alabileceği belirli hareketleri saptayabilir ve bir sonraki hareketini buna göre komutlar.6

Günümüzde oldukça ilerleyen bu teknikler pek çok alanda da kullanılmaya başlandı.Nesne ve ses tanıma, görüntü işleme, arttırılmış gerçeklik bu konuda ilerleme kat edilen önemli konulardan bazılarını oluşturuyor. Bunlar hayatımızı kolaylaştırmakla birlikte bazı hukuksal sorunları da beraberinde getiriyor. 2018 WeRobot konferansında Washington Üniversitesi’nden Ryan Calo ve ekibinin sunduğu “Is tricking a robot hacking? yani “Bir robotu kandırmak hacklemek midir?” adlı makalesinde harika bir hususa değiniyor. Calo’ya göre, hasmane YÖ (adversarial ML) hukuksal açıdan da incelenmesi gereken bir konu. Hasmane YÖ, yapay öğrenme ile bilgisayar güvenliğinin ortak çalışma alanını oluşturuyor. Burada öğrenme algoritmalarının güvenlik açıklarından faydalanılarak, giriş verileri sistem güvenliğini tehlikeye atmak için manipule ediliyor. Hasmane YÖ’ye karşı savunma yapmak da oldukça güç; çünkü hasmane örnek hazırlayıp sürecin kuramsal modelini oluşturmak zorludur. Araştırmalar, YÖ algoritmalarının kırılabileceğini ortaya koymakta ve YÖ’deki bu başarısızlık, basit algoritmaların bile tasarımcılarının düşündüğünden oldukça farklı davranabileceğini göstermektedir.7

Örneğin, hasmane YÖ kullanılarak, televizyondaki bir reklamda gömülü olan ve hiç kimsenin anlamlı bir şekilde farkına varamayacağı olumsuz bir ses girdisi yoluyla sesi işiten kişisel asistan sosyal medyada konum verisi paylaşabilir. Ya da sürücüsüz bir araç, dur işaretini bir hız limiti olarak algılayıp durmak yerine hızlanarak trafik kazasına yol açabilir.8 Görüldüğü gibi, aslında sisteme doğrudan bir müdahale yapılmayıp, sistem “kandırılarak” belli bazı sorunlara sebebiyet veriliyor. Calo’nun da dediği gibi asıl soru şu: “Bir robotu kandırmak hacklemek midir?” Ve bunun hukuktaki yansımaları nasıl olur?

Türk Ceza Kanunu(TCK) bilişim suçlarını birden fazla maddede düzenlemiştir. Bilişim Alanında Suçlar başlıklı bölümünde, madde 243’te hukuka aykırı olarak bilişim sistemine girme ve sistemde kalma suçunu düzenlemektedir. Buna göre, “Bir bilişim sisteminin bütününe veya bir kısmına, hukuka aykırı olarak giren veya orada kalmaya devam eden kimseye bir yıla kadar hapis veya adlî para cezası verilir.” Veriler ele geçirilsin veya geçirilmesin bilişim sistemine hukuka aykırı olarak girilmesi ve orada kalınması bu suçun eylemini oluşturmaktadır. Burada failin eylemi neticesinden bir zarar veya tehlike oluşması aranmamakta, sisteme girilmesi ve orada kalınması yeterli görülmektedir.

Bilişim sistemlerinin işleyişinin engellenmesi veye bozulması suçu ile verilerin yok edilmesi veya değiştirilmesi suçunu düzenleyen madde 244/1-2’ye göre ise, “Bir bilişim sisteminin işleyişini engelleyen veya bozan kişi, bir yıldan beş yıla kadar hapis cezası ile cezalandırılır.Bir bilişim sistemindeki verileri bozan, yok eden, değiştiren veya erişilmez kılan, sisteme veri yerleştiren, var olan verileri başka bir yere gönderen kişi, altı aydan üç yıla kadar hapis cezası ile cezalandırılır.” Bu düzenleme ile bilişim sisteminin her nasıl olursa olsun çalışmasının engellenmesi, sistemin bozulması ve verilere zarar verilmesi ya da erişilmez hale getirilmesi cezalandırılmaktadır. Maddenin gerekçesinde de, bu maddeyle bilişim sistemlerine yöneltilen ızrar (mala zarar verme) eylemlerinin ayrı bir suç haline getirildiği belirtilmektedir. Ayrıca yine maddenin gerekçesinde, yapılan düzenleme ile “aracın fizik varlığı ve işlenmesini sağlayan bütün diğer unsurları, söz konusu suçun konusu oluşturmaktadır” denilerek bilişim sisteminin somut ve soyut bütün unsurlarının bu suçun konusunu oluşturacağı ifade edilmektedir.9

TCK devamında madde 245’te banka ve kredi kartlarının kötüye kullanılması suçlarını düzenlemiştir. Kısacası bu madde ile söz konusu kartların haksız, hukuka aykırı olarak kullanılması yoluyla bankaların ve kart sahiplerinin zarara sokulması ve bu suretle hukuka aykırı yarar sağlanması istenmektedir.10

Bilişim alanında suçlar başlıklı bölüm dışında, TCK, Malvarlığına Karşı Suçlar başlıklı bölümünde madde 142’de hırsızlık suçunun nitelikli hali olarak fıkra 2, e bendinde “bilişim sistemlerinin kullanılması suretiyle” ifadesine yer verilmiştir. Bunun dışında, madde 135 vd. kişisel verilerin korunmasına ilişkin suçlarından; madde 124 haberleşmenin engellenmesi suçundan; madde 132 haberleşmenin gizliliğini ihlal suçundan bahsetmekte ve Kanun bilişim sistemleri aracılığıyla işlenebilecek diğer suç tiplerine de ilgili maddelerde yer vermektedir.

Sonuç olarak, TCK’nın bilişim suçları ile ilgili düzenlemelerine baktığımızda, genel itibariyle bilişim sistemlerine girip belli birtakım değişiklikler, tahribatlar, kopyalamalar vs. yapılması üzerine kurgulanmıştır. Ancak, gelişen teknoloji ile birlikte kötü niyetli kişiler yukarıda da anlatıldığı üzerine doğrudan sisteme bir müdahale etmeden de zararların oluşmasına sebep olabiliyor. Sürcüsüz aracın hasmane YÖ ile durma işaretini hızlan olarak algılayıp bir insanın ölümüne sebep olduğunu ve kötü niyetli kişilerin bu kasten yaptığını düşünelim. TCK, bilişim alanında suçlar başlığı altında bilişim sistemlerine yapılan müdahalelere yönelik düzenlemere yer verdiğinden, burada farklı bir yol izlenmesi gerecek.Çünkü örnekte olduğu gibi, bu teknolojinin getirdiği kolaylıktan faydalanılarak suçun işleyişi kolaylaşmaktadır. Kasten öldürme, kasten yaralama, özel hayatın gizliliğini ihlal,  trafik güvenliğini tehlikeye sokma gibi suçları da oluşturacak şekilde hasmane YÖ gibi teknolojiler kullanılabilmektedir. Dolayısıyla bunlar gözetilerek, nitelikli hal olarak bu teknolojileri kullanmanın getirdiği kolaylıkla suçun işlenmesi durumu TCK’ya eklenmelidir.

Prof. Dr. Cem Say, Richard Kelley ve Av. Gökhan Ahi’ye değerli görüşleri için teşekkürler…

Ayrıca bakınız:

Robotları kandırmanın cezası var mı?

Modern Tüketici Dünyasında Yapay Zeka, Otomatik Karar Verme, Robotik Ve Bağlantılı Cihazların Sağlam Ve Güvenli Kullanımı İçin Politika Önerileri

 

Modern Tüketici Dünyasında Yapay Zeka, Otomatik Karar Verme, Robotik Ve Bağlantılı Cihazların Sağlam Ve Güvenli Kullanımı İçin Politika Önerileri

 

Avrupa Tüketici Danışma Grubu Görüşü
16 Mayıs 2018

 

Özet

“Tüketici bağlamında yapay öğrenme ve otomatik karar verme

Kendi adına veya insanlar yerine süreçleri yürüten ve kararlar alan kendi kendine öğrenme algoritmalarının ve yapay öğrenmenin artan kullanımı, kaçınılmaz olarak bir dizi toplumsal ve etik soruna yol açıyor. Tüketici bakış açısından, etkilenen tüketicilerin sayısı yüksek olabileceği için, büyük verilere dayanan Algoritmik Karar Verme (ADM), fiili (de facto) otomatik karar alma özel bir ilgi ve yüksek bir öneme sahiptir.Nitekim, tüketicilerin günlük yaşamlarında ADM kullanma sıklığı neredeyse sınırsızdır. Yapay zeka da uzak gelecekteki bir bilim kurgu değildir. Söz konusu örnekler, çevrimiçi perakendecilerin bireysel tüketicilerin konumlarının ve kendi kendine giden arabaların etrafta dolaşma bilgilerinin tahminlerine göre fiyatları uyarladığı algoritmaları içerir. 

Bu nedenle, tüketicinin korunmasıyla ilgili Avrupa düzenleyici çerçevesinin sadece bağlı cihazlarla değil, aynı zamanda otomatik karar verme ile ortaya çıkan zorlukları da karşılayabilmesi önemlidir. Tercihler algoritmalarla tanımlandığında, tahmin edildiğinde ve şekillendiğinde, tüketici tercihi hakkında konuşabilir miyiz?Tüketici kuruluşları, tüketicilerin haklarına algoritma ve otomatik karar verme ile saygı duyulduğundan emin olmak için, ilgili Tüketici Koruma mevzuatını değerlendirmek ve gözden geçirmek üzere Avrupa Kurumlarına çağrıda bulunmaktadır.Bu veri kullanımının faydalarını teşvik etmek, aynı zamanda ortaya çıkabilecek riskleri de ele almak için ayrıntılı bir hesap verebilirlik ve etik işleme biçimi gereklidir.”

 

Öneri ile ilgili bağlantı adresini ve önerinin orijinalini aşağıda bulabilirsiniz:

https://ec.europa.eu/info/sites/info/files/eccg-recommendation-on-ai_may2018_en.pdf