İki Yakın Arkadaş : Yapay Zeka ve Hukuk

 

İki Yakın Arkadaş : Yapay Zeka ve Hukuk

 

Washington Üniversitesi’nden Prof. Ryan Calo ile YZ, robotlar ve hukuk üzerine keyifli bir röportaj yaptık. Calo, Hukuk, İletişim ve Bilgisayar Mühendisliği bölümlerini bir araya getiren, disiplinlerarası araştırma merkezi olan Washington Üniversitesi Tech Policy Lab’in Batya Friedman and Tadayoshi Kohno ile birlikte kurucu ortağı. Calo’nun  hukuk ve gelişen teknolojiler üzerine olan incelemeleri ve teknik eserleri önde gelen yayınlarda yer almakta  (California Law Review, University of Chicago Law Review, and Columbia Law Review, MIT Press, Nature, Artificial Intelligence) veya yayınlanmak üzere; ayrıca ana akım medyada da referans gösterilmekte (NPR, New York Times, Wall Street Journal).

Keyifli okumalar…

 

Çetin: Hadi kişisel bir soru ile başlayalım. Robotlar ve hukuk… Bu oldukça popüler bir konu oldu. Bu alanın gelişimini nasıl değerlendiriyorsun?

Calo: Robotik hukuk ve politikanın son on yılda geldiği noktadan çok memnunum. En azından Amerika’da kenarda kalmış bir konu olmaktan, sofistike teoriler ve somut örneklerle olgunlaşan bir alt disiplin olma yolunda ilerledi. Bence -senin de katılmış olduğun- her yıl düzenlenen We Robot konferansı buna aracı oldu.

 

Çetin: Ülkeler yavaş yavaş YZ politikalarını belirlemeye başladı. Ülkelerin demokratik ve ekonomik yapılarının YZ politikaları konusundaki etkisi ile ilgili ne düşünüyorsun?

Calo: Güzel soru. Bazı ülkeler YZ’yi küresel anlamda daha rekabetçi olmak için bir fırsat olarak görüyor; bazıları ise üstünlüklerini koruma açısından endişeli. Bana göre en iyi politika, YZ’yi küresel bir girişim olarak algılamak ve aynı zamanda YZ’nin kendi toplumundaki sosyal etkilerini düşünmektir. YZ’nin bir veya daha fazla ülkenin kazanacağı bir yarış olduğu söylemini sevmiyorum. Bu tür düşünceler faydalı olmayan kısayollara yol açar ve işbirliğini engeller.

 

Çetin: Gelişmekte olan ülkeler büyük oranda teknoloji ürünlerini ithal ediyor, ayrıca bu tür ürünler yerel pazarda büyük talep görüyor. Bu durumun gelişmekte olan ülkelerdeki YZ düzenlemelerini nasıl etkilediğini düşünüyorsun?

Calo: Teknolojinin kültürel ve diğer varsayımları beraberinde getirdiğini unutmamak önemli. Yani gelişmiş ekonomiler daha az gelişmiş olanlara teknoloji ihraç ettiğinde, bu ülkelerin değerinin ürünle rekabet etme potansiyeli var. Bu nedenle, gelişmekte olan ülkelerin YZ politikasının üretim açısından en iyi uygulamaları içermesi gerektiğini düşünüyorum. Demek istediğim, gelişmekte olan ülkeler aynı oranda yapay zeka geliştirememelerine rağmen, hala pazar gücüne sahipler ve ithal ettikleri ürünlerin değeri ve sağladığı refahın önemini anlama konusundaki ısrarlarını sürdürebilirler. Hiç kimse bu ısrar olmaksızın YZ ithal etmemeli.

 

Çetin:  İçtihat Hukuku ile Kıta Avrupası Hukuku karşılaştırıldığında, YZ ve robotların hukuki düzenlemesi konusunda ne gibi zorluklar söz konusu olabilir?

Calo: Aslında robot hukuku ile ilgili zorlukların örf ve adet hukuku ve medeni hukuk arasında oldukça belirgin olduğunu düşünüyorum. Zarar sorumluluğu, mahremiyet, kontrol ve mülkiyete ilişkin soruları değerlendirmeyi içeriyor. Bu, örf ve adet hukukunun yeni teknolojiye tepki vermede daha esnek olduğunu kanıtlayabilir; fakat durumun böyle olması için doğal bir sebep yok.

 

Çetin: Özellikle son yıllarda şirketler YZ ve etik konusunda adımlar attı. Mesela onlardan biri de Google idi. Yapay zeka ve etik konusunda politika belirlerken şirketler için en önemli husus ne olmalı?

Calo: Etiği hukuk ve politikanın dışında tutma konusunda ısrarcı olmamamız ile ilgili uzun süre tartıştım. Bu fenomen birçok şirketin, hükümetin zorunlu kurallarıyla yüzleşmek yerine kendi etik kurallarını oluşturmayı tercih etmesi yönündeki seziyi ele alan “etik yıkama” olarak bilinir hale geldi. Bu yüzden, etik programların içeriği çok önemliyken, meşruiyet sorunu da öyledir.

Bu anlayışla şirketler, YZ’nin zararlarının ve yararlarının çoğunlukla değişken olduğu; YZ’yi tüm paydaşlarla birlikte tasarlayacak süreçlere sahip olduğu; ve yeni teknolojilerin özellikle en savunmasız kişiler üzerindeki sosyal etkilerini değerlendirdiği hususlara vurgu yapmalı. Bence bu şeffaflıktan çok daha önemli bir şey.

 

Çetin: Avrupa Komisyonu yakın zamanda Siber Güvenlik Düzenlemesini kabul etti. Bu AB’de bilgi güvenliği ile ilgili önemli bir adım. Peki ABD ne durumda? Özel sektör ve hükümet uygulamaları açısından ABD’nin siber güvenlik yaklaşımını nasıl değerlendiriyorsun?

Calo: YZ -özellikle adversarial ML (hasmane YÖ)- ışığı altında hackleme kavramının modasının geçmesinden endişeliyim. Bilgisayar bilimci arkadaşlarımla bununla ilgili ”Is Tricking a Robot Hacking?” (Robotları Kandırmak Hacklemek midir?) başlıklı bir makale yazdık. YZ’yi kandırarak manipüle etmenin en az bilgisayar sistemlerinin içine girmek kadar tehlikeli olduğunu tartıştık. Güvensizlik ve önyargı bakımından YZ’yi test eden araştırmacıları korurken, saldırılar karşısında YZ’yi daha güçlü hale getirme yollarına da ihtiyacımız var.

 

Çetin: CCPA, Kaliforniya’daki en önemli düzenlemelerden biri. Ancak ABD’de federal bir veri koruma yasası hala yok. Bu durumun bireyler ve şirketler için etkisi nedir?

Calo: Bilmiyorum. Şirketlerin kendileri de dahil olmak üzere pek çok kişi ve grup, ABD’de federal tabanlı veri koruması arıyor. Bence herkes belirsizlikten ve sonuçta ortaya çıkan korku ve dengesizlikten bıkmış durumda. CCPA’in harika olduğunu düşünmüyorum; ancak Kaliforniya’ya, ABD’deki  tartışmalarda sıçrama yarattığı için teşekkür ediyorum.

 

Çetin: Eminim bu soru sana çokça soruluyordur; ama robotic.legal okurları için tekrar sormak istiyorum. Robot hukuku konusunda kendini geliştirmek isteyen üniversite öğrencilerine önerilerin nelerdir?

Calo: Harika soru! We Robot’a katılmalarını ya da en azından izlemelerini ve takip etmelerini söylemek istiyorum. Bu tartışmaların en ateşli olduğu yer. Ancak diğer disiplinden kişileri de bulun. Eğer robot bilimciyseniz hukuk ve sosyal bilimlerden kişileri bulun; hukuk veya sosyal bilimlerden iseniz robotik ve YZ öğrencileri ve fakülteden kişiler ile konuşun. Sıklıkla söylediğim gibi, tek bir disipline atıfta bulunularak çözülebilecek çok az önemli soru var.

Her zaman olduğu gibi harika soruların için teşekkürler Selin! Ayrıca robot hukuku çalışan kişilere de!

 

Ryan Calo’ya saygılarla…

Siber Güvenlik Perspektifinden Gelişen Teknolojiler

 

Siber Güvenlik Perspektifinden Gelişen Teknolojiler

 

 

 

Deloitte Türkiye’de partner olarak çalışan Burak Sadıç ile siber güvenlik ve gelişen teknolojiler üzerine konuştuk. Sadıç’ın yirmi yıldan fazla danışmanlık ve yönetim deneyimi bulunmaktadır.

 

Keyifli okumalar…

 

 

 

 

Çetin: Kişisel bir soru ile başlayalım, günlük hayatta kullandığınız teknolojik ürünlerin riskleri karşısında kullanıcı olarak sizin çözümleriniz neler oluyor?

Sadıç: Bir siber risk uzmanı olarak, teknolojiyi olabildiğince az kullanmaya çalışıyorum 🙂 Şakayı bir kenara bırakacak olursam, kullanıcı olarak benim kişisel tercihlerim:

– Her uygulama ve sistem için farklı ve karmaşık bir parola kullanmak,

– Yukarıda belirtilen tüm şifreleri saklamak için güvenli bir parola yönetimi uygulaması kullanmak,

– Mümkün olduğunda, ikili kimlik doğrulama kullanmak,

– Mevcut coğrafi konumu paylaşmayı mümkün olduğunca sınırlamak,

– E-posta veya mesajlar veya sosyal medya yoluyla gönderilen eklentileri açmamak veya bağlantılara tıklama konusunda paranoyak olmak. Eğer bu eklentileri ya da bağlantıları gerçekten merak ediyorsam da, onları “güvenli” bir ortamda açmaya çalışırım.

 

Çetin: Peki, bugünlerde şirketler hangi siber güvenlik tehditleri ile karşılaşıyor? Geçmişle karşılaştırdığında, özellikle yapay zekanın (YZ) gelişimiyle birlikte sigorta şirketlerinin sunduğu risk yönetimi çözümlerindeki değişimler neler oldu?

Sadıç: Siber güvenliği bir kitap olarak düşünürsek, şimdi ilk bölümün sonunda veya son bölümün başındayız. Internet’in yaygınlaşması ve bağlı cihazlarla (Nesnelerin Interneti) birlikte şirketler veya bireyler için siber güvenlik tehditleri her bakımdan yalnızca bizim hayal gücümüzle sınırlanıyor. Ancak özet olarak, işin durması ve veri ihlali, şirketlerin bugünlerde karşı karşıya kaldıkları en büyük tehditler. Bence YZ gelişmelerinin siber sigorta üzerindeki potansiyel etkileri hakkında yorum yapmak için henüz erken.

 

Çetin: YZ kullanımının sigorta sektöründeki olumlu ve olumsuz etkileri nelerdir?

Sadıç: YZ tüm endüstrileri değiştirecek ve sigorta sektörü de bir istisna değil. Aşağıdakine benzer bir senaryo düşünün:

Bir trafik kazasına karıştığınızda, bağlantılı arabanız polise, hastaneye ve sigorta şirketine aynı anda bilgi veriyor. Polis ve sağlık uzmanları size ve diğer potansiyel mağdurlara yardım ederken, sigortacınız da aracınıza verilen zararın seviyesini belirliyor. İhtiyaç olması durumunda çekici otomatik olarak aranıyor ve ayrıca hasar seviyesi ve olası onarım maliyetleri önceden hesaplanıyor. Böylece, birkaç dakika içinde her şey robotik süreç otomasyonu ve YZ ile düzenleniyor.

 

Çetin: Siber saldırıları tespit etmek için geliştirilen YZ uygulamaları yayılmaya başladı. Bu uygulamaların geleceğini nasıl değerlendiriyorsunuz?

Sadıç: YZ, siber savunmada geleceğin zorunlu bir parçası. Mevcut altyapıların karmaşıklığı, son otomasyon teknolojilerinin yardımıyla bile, insanın durumu kavrayışını gerçekten zorlaştırıyor. Ancak, madalyonun bir de öteki yüzü var. Saldırganlar da YZ’yi saldırılarını daha da karmaşık hale getirmek için kullanacaklar. Dolayısıyla, gelecekte siber ortamda hem insan hem de YZ mücadelesi olacak.

 

Çetin: Türkiye siber güvenlik tehditleriyle karşı karşıya, YZ çözümlerinin daha iyi kullanılması için ne gibi adımlar atılmalı?

Sadıç: Türkiye yarışta geri kaldı, ancak hem özel sektör hem de kamudaki oyuncular siber silah yarışının hızına ayak uydurabilmek için cesur adımlar atıyor. Bence, YZ’nin daha etkili kullanılmasında ilk adım, YZ’nin gerçekte ne olduğunu anlamak ve buna göre davranmak.

 

Çetin: Yasal anlamda, Türkiye’deki düzenlemeler çerçevesinde, siber güvenlik alanındaki gelişmeler karşısında yapılanların yeterli olduğunu düşünüyor musunuz?

Sadıç: KVKK ve özellikle 12. madde ve bilhassa veri ihlali bildirimi fıkrası siber güvenlik için geç ama çok önemli bir adım. BDDK’nın yeni taslağı ve çeşitli endüstri düzenlemeleri ve rehberler de umut verici gelişmeler. Ben bir hukuk uzmanı değilim, ancak ilgili makamlar, çerçeveyi sürekli artan bir hızda geliştirmeye ve zenginleştirmeye devam ettiği sürece, mevcut çerçeve siber güvenlik alanındaki sürekli değişen gerçeklikle başa çıkma konusunda umut verici görünüyor.

 

Burak Sadıç’a saygılarla…

Otonom Araçlar ve Teknoloji Devrimi 

 

Otonom Araçlar ve Teknoloji Devrimi 

 

 

Nevada Üniversitesi otonom araç geliştirme ekibinin baş mühendisi Richard Kelley ile otonom araçlar üzerine harika bir röportaj yaptık. Kelley, ayrıca Intelligent Mobility Initiative‘de, ulaşım sorunlarına yapay zeka uygulanması üzerine çalışan bir araştırma projesinin de önde gelen araştırmacılarından biri. Halen, öğrencileri ile Lincoln MKZ Sedan programlamaya yönelik olan çalışmaları Reno ve Lake Tahoe çevresinde sürmekte.

 

Keyifli okumalar…

 

 

 

 

 

Çetin: Genel bir soru ile başlayalım. Otonom araçların bizim için potansiyel faydaları neler olacak? Onlara neden ihtiyacımız var?

Kelley: Bence, otonom araçlar üzerine çalışan herkes -en azından bir kısmı-otonom araçlarla daha güvenli bir gelecek olacağı için bunu yapıyor. Bugün çoğu trafik kazası insan hatasından dolayı oluyor ve otonom araçlar, bu kazaların kaynağını ortadan kaldırma potansiyeline sahip.Ancak güvenlik konusunun ötesinde, otonom araçlar yapay zeka bakımından ileriye yönelik önemli bir adımdır. Şu ana kadar, çoğu otonom robot, nispeten kısıtlı ortamlarda çok basit görevleri çözmek için konuşlandırılmıştır. (şöyle düşünün: bir evi temizleme gibi). Öyle görünmüyor olabilir, ama güvenilir temizlik robotları bakımından sahip olduğumuz noktaya ulaşmak aslında büyük bir teknik başarıdır – çünkü laboratuardan oturma odasına gitmek onlarca yıl aldı. Bir araba sürmenin bir ev temizlemeye göre ne kadar zor olduğunu kıyaslayın.Tamamen otonom arabalara – her türlü çılgınca şeyin olabileceği gerçek dünyada faaliyet gösterebilen otomobillere – ulaşmak için robotistlerin ve YZ uzmanlarının, YZ teknolojisinin sınırlarını zorlaması gerektiriyor ve bu teknolojinin günlük hayatımıza yayılma toplum için pek çok fayda da sağlayacak.

 

Çetin: Otonom araçlarla ilgili hacklenme, terörizm, gizlilik ve güvenlik ile ilgili riskler konusunda eleştiriler mevcut. Bu risklerle ilgili ne düşünüyorsunuz. Bunların üstesinden gelinebilir mi?

Kelley: Bunların hepsi kritik olarak önemli konulara işaret ediyor. İnternet ve World Wide Web’in üzücü taraflarından biri güvenliğe başından beri değil de, sonradan odaklanmaya başlamasıdır. Aynı hatayı otonom ve bağlantılı araçlarla yapmaktan kaçınmamız için bir şansımız var. Güvenlik sorunlarını (hack ve terörizm gibi) ele almak için muhtemelen arabaların nasıl geliştirildiğini yeniden düşünmek gerekecek. Bu günlerde bir araba, düzinelerce mikrodenetleyiciden ve ilk bilgisayar solucanı bile icat edilmeden birkaç yıl önce 1980’lerin ortasında tasarlanan bir ağ protokolü (CAN) ile bağlı bilgisayarlardan oluşuyor. Otomobilin tekerleklere sahip bir bilgisayar ağı olduğunu kabul etmeli ve bu gerçeğin farkında olan ve bunu ele alan yeni güvenlik sistemleri geliştirmeye çalışmalıyız.Ve bence mümkün, bu, sektörün kamunun riskler konusunda bilinçlenmesi üzerine çalıştığı bir şey.

Mahremiyet söz konusu olduğunda, toplumun ileri teknolojiden mahremiyete kadar modern tehditleri öğrenmesi ve buna dayalı olarak, öğrenmenin demokratik olarak nasıl ilerleyeceğine karar vermesi gerektiğini düşünüyorum.Bence bunu sosyal medya bağlamında görmeye başlıyoruz, umarım otonom arabalar daha yaygın olduğu zaman, insanlar mahremiyetlerine nasıl değer vermeleri  gerektiği konusunda daha iyi fikir sahibi olurlar. Bu zorlukların tamamı çok önemli, ancak ileriye doğru iyi bir yol seçebilmemiz için umutlu olalım.

 

Çetin: Bu teknolojinin geliştirilmesinde hükümet ve özel sektör ne gibi rollere sahip olmalı? Hangisi daha faydalı olabilir?

Kelley: Hem hükümet hem de özel sektör bu konuda rol oynuyor ve gelecekte otonom araç geliştirilmesinde de önemli rolleri olacak. Bence hükümetin temel rolü, kamuoyunun güvenlik kaygılarını, şirketlerin sistemlerini kapsamlı bir şekilde test etme gereksinimi ile dengeleyen yararlı bir düzenleyici ortam yaratmak olacaktır.Aynı zamanda, muhtemelen şirketlerin üzerinde çalışabilecekleri spekülatif araştırma konuları da var ve muhtemelen bu tür konularla ilgili araştırmaları finanse etmek için hükümetin olanaklarından yararlanılabilir. Örnek olarak, çok az sayıda otonom araç şirketi ağa bağlı şehirler konusunda bu teknolojiyle ilgilenmektedir, çünkü sistemlerinin kamu altyapısına bağlı olmadan çalışmasını istiyorlar. Ancak, böyle bir altyapının devletin araştırmaları destekleyebileceği başka faydaları olabilir.Ekibim şu anda Reno şehri ve Nevada Eyaleti ile akıllı lidar ağlarının şehirleri nasıl daha güvenli ve daha duyarlı hale getirdiğini araştırmak için çalışıyor.

Özel sektörün öncelikli işi ise, temel teknik gelişmeleri ileriye doğru taşımak olacaktır. Sonuç olarak, her iki rolün de eşit derecede önemli olduğuna inanıyorum.

 

Çetin: Otonom araç yazılımları gelişirken, bunun hukuka ve etik kurallara olan yansıması ne olacak?

Kelley: Bence otonom araç şirketlerinin odaklanması gereken temel şey, sağlam bir şekilde hukuku takip eden sistemler inşa etmektir. Eğer bunu yapabilirlerse, bence, “belli” etik kaygıların büyük çoğunluğu ele alınmış olacak.

“Trolley etiğine” duyulan ilginin yararlı olduğunu düşünmüyorum. Neyse ki bu ilgi azalıyor gibi gürünüyor.

 

Çetin: Sizce bu teknolojinin geliştirilmesinde hangi hukuk nosyonlarını öncelikli kabul etmeliyiz?

Kelley: Trafik yasaları ile ilgili zor şeylerden biri insanlar düşünülerek yazılmış olması. Yazılı trafik yasalarını sık sık kesin maddeler olarak düşünüyoruz, ancak bunları gerçekten dikkatlice okuyunca, yorumlanması geren çok yer var.Bu, bilgisayarların zorlandığı bir şey, bu yüzden otonom bir aracın eksiksiz özellikleri ile ilgili beklentilerimizi netleştirmemiz gerekecek. Örneğin, otonom araçlar okuyabilmeli mi? Bu kulağa komik gelebilir, ancak şaşırtıcı miktardaki trafik kontrolü, sadece ezberlenemeyen yazılı işaretler kullanılarak yapılır. Eğer biz otonom araçların okuyabilmesi gerektiğine karar verirsek, o zaman hangi okuduğunu anlama seviyesine ihtiyacımız olacak? Tipik bir sürücünün okuma seviyesinde mi okuyabilmeliler? Bu yüksek bir standart gibi görünüyor; ancak, yasayı anlamak söz konusu olduğunda otonom araçlara yönelik beklentilerimizin ne olduğuna karar vermemiz gerekiyor.

Aynı zamanda, hükümetler, otonom araçların ve diğer robotların yasal kısıtları yükleyip anlamasını kolaylaştıracak yasaları sunmanın standart bir yolunu oluşturmayı başlayabilirse, bu muhtemelen yararlı olacaktır.Kanunların tek tip olmaları gerekmiyor, ancak hem Nevada’nın (bulunduğum yer) hem de Kaliforniya’nın yasalarının standart olarak okunabilir bir formatı olsaydı, her iki eyalette de çalışabilecek robotlar yapmak çok daha kolay olurdu.

Temel olarak, robotlar için “sürücü testi” nin nasıl olacağına karar vermemiz gerektiğini düşünüyorum. Bu, hükümetlerin ve özel şirketlerin birlikte çalışabileceği başka bir alan.

 

Çetin: Otonom araç kazalarındaki sorumluluk popüler tartışmalardan biri. Siz sorumluluk konusunda ne düşünüyorsunuz? Örneğin, yazılımcının öngöremediği bir durum gerçekleştiğinde sorumluluk sorunu nasıl çözülmeli?

Kelley: Genel olarak, bence, otonom araçların mükemmelleştirilmesinden dolayı sorumluluk *daha az* ilgi çekecek alanlardan biri. ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), ABD’deki kazaların nedenlerini belirlemek için 2005’ten 2007’ye kadar kapsamlı bir analiz gerçekleştirdi. NHTSA, neredeyse tüm (% 94) kazaların insan hatasıyla oluştuğunu tespit etti. Temel olarak, insanlar kaçınılmaz olarak kötü kararlar veriyorlar. Otonom araçlar bu tür bir kazayı önledikten sonra, kalan sorunların (son% 6) belirlenmesi daha kolay olacaktır. Otonom araçlardaki gelişmiş sensörler ve YZ sayesinde, yolda bir lastiğin patlamasına neden olabilecek “aşınma ve yıpranma” gibi şeyler bile şimdi olduğundan daha erken tespit edilir.

Kazalar olsa bile, muhtemelen uçak kazalarında olduğu gibi ele alınacaktır. Her çarpışmayla ilgili her arabada olan “kara kutular”, söz konusu olay kapsamında alınacak, hükümet ve otonom araç üreticileri tarafından gelecekte benzer kazaların önlenmesini sağlayacak şekilde dikkatli bir şekilde analiz edilecektir.

 

Çetin: Otonom araçların 5 seviyeden oluştuğunu biliyoruz. Kamuya açık bir yolda 5. seviye bir araba ne gibi problemler yaratabilir? Bunların üstesinden nasıl gelebiliriz?

Kelley: -Direksiyon olmadan istediğiniz yere gidebileceğiniz- gerçek bir “seviye 5 otonomi”ye sahip araçların birkaç yıl (belki de onlarca yıl) uzakta olduğunu söylemek istiyorum. Ama bu teknolojiye sahip olduğumuzda, sanırım sorular “bu tür bir aracı konuşlandırabilir miyiz?” den, ”bu otonomluk seviyesinden en iyi şekilde nasıl faydalanırız?”a doğru değişecek. Otonom sistemlerin rolü neredeyse her zaman bazı faaliyetlerin maliyetini azaltmaktır. Seviye 5 otonom araçların durumunda, fiziksel ulaşım maliyeti azalacaktır.Bu ekonomik teşvikleri değiştirecek ve hatta yoldaki araç sayısını bile artırabilir. Buradaki zorluk, otonomluğun daha fazla yoğunluğa veya daha uzun seyahat süresine yol açmadığından emin olmaktır. Diğer önemli konu ise istihdam. Örneğin, ABD’de kamyon sürücüsü olarak çok sayıda insan istihdam edilmektedir. Seviye 5 teknolojisinin gelişiminin tüm bu insanları işsiz bırakmayacağından emin olmalıyız. Bu sebeple, başka türden işler yapmak için sürücüleri yeniden eğitmemiz gerekebilir.

 

Çetin: Trafiğin yoğun olduğu ve bazı araçların da otonom olmadığı büyük şehirlerde otonom araçlara karşı manuel sürücülerin önyargıları nasıl aşılabilir?

Kelley: İnsanlarla etkin bir şekilde başa çıkmak, bana göre, otonom araçların son ve en büyük teknik zorluklarından biridir. Otonom arabaları “sosyal olarak zeki” yapmak için hala çok fazla araştırma yapılması gerekiyor. Aslında bu, araştırmamın çoğunun şu anda odaklandığı nokta, ve bence cevap için oyun teorisine bakmamız gerekir. Geleneksel olarak, oyun teorisi sonlu sayıda sonuçlarla iyi tanımlanmış rekabetçi durumları analiz etmek için kullanılır. Fakat oyunun teorik analizini sürüş alanına genişletmenin yolları var ve şu anda öğrencilerimden birkaç tanesiyle birlikte çalışarak aramızda bu tür bir analiz yapabilmekteyiz. Şu anda otonom araçlar çok ölçülü davranıyorlar, çünkü çoğunlukla diğer sürücülerin niyetlerini modellemiyorlar, bu yüzden bu sürücülerin nasıl tepki vereceğini güvenilir bir şekilde tahmin edemiyorlar. Ekibim, insanların nasıl davranacağını tahmin etmede iyi olan “niyet tanıma” sistemleri oluşturuyor ve bu sistemleri, aracımızın karar verme yazılımına dahil ediyoruz, böylece saldırgan insan sürücüler tarafından zorbalığa uğrama olasılığı daha düşük oluyor.

 

Çetin: Fütüristik bir soru sormak istiyorum. Otonom araçların gelecekteki ilerlemesi nasıl olabilir? Otonom araçlar için 5. seviyenin üstünde bir yazılım öngörebiliyor musunuz?

Kelley: Seviye 5 otonomisi hala uzun bir yol olsa da, bence bu otonom araçlar için gerçekten sadece bir başlangıç. Otonom araçların üstüne inşa edilmiş büyük bir ekonomi olacağını umuyorum, aynı şekilde karmaşık bir ekonomi Internet ve Web çevresinde büyümüştü. Örneğin, ulaşım ağları ekonomisi yeniden değerlendirilmeli.Arabalar bağımsız olarak hareket edebildiğinde, bu araçların kabin içi kullanıcı deneyimini dikkatlice tasarlama ihtiyacı doğacaktır. Arabalarımız bizi gezdirirken, eğlenecek yeni yollar bulacağız(umarım bugün Web’de sahip olduğumuzdan daha az reklamla). Daha geniş anlamda, seviye 5 otonomisi sağlayacak teknolojinin normal otomobillerden daha faydalı olacağını düşünüyorum. Seviye 5 otonom arabalara sahip olduğumuzda, aynı teknoloji muhtemelen daha küçük otonom dağıtım araçları da kullanacak.

 

Çetin: Son olarak, çoklu veya tüm otonom araçları çalıştırabilecek kolektif ve merkezi bir yazılım olabilir mi? Bunun sonuçları ne olurdu?

Kelley: Bu gerçekten ilginç bir soru! İnsansız hava araçları (dronlar) alanında, esas olarak NASA’nın UAS Trafik Yönetimi (UTM) projesi ile merkezi trafik yönetim sistemleri üzerinde çok fazla araştırma yapılmıştır. Nevada Eyaleti’nde UTM araştırmasına katılarak birkaç yıl çalıştım ve NASA’nın yaptığı işin, robotiklerin yaygınlaştığı her alanda merkezi robot kontrol ağlarının nasıl gelişeceğinin bir şablonu olduğunu düşünüyorum.Bireysel şirketlerin filolarını yönetmek için kendi merkezi sistemlerine sahip olmalarını umuyorum. Dahası, yerel yönetimlerin burada bir rolü olması söz konusu olabilir.Birçok aracın merkezileştirilmiş kontrolünün, merkezi olmayan yaklaşımlardan daha verimli olabileceğine dair bazı kanıtlar var, bu yüzden önümüzdeki yıllarda bu tür bir soruna yönelik pek çok pratik araştırma ve deney görmeyi umuyorum.

 

Richard Kelley’e saygılarla…

Akıllı Teknolojiler ve Ödeme Sistemlerine Yeni Bir Bakış

 Akıllı Teknolojiler ve Ödeme Sistemlerine Yeni Bir Bakış 

 

 

Bankalararası Kart Merkezi Genel Müdür Yardımcısı Sayın Celal Cündoğlu ile yaptığımız röportajda blockchain ve ödeme sistemlerinin bugününü ve geleceğini konuştuk.

 

Keyifli okumalar… 

 

 

 

 

Çetin: Genel bir soru ile başlayalım, Blockchain’in tarihsel sürecini de göz önüne aldığımızda bu teknoloji finans ve bankacılık sektöründe ne gibi yansımalar yarattı?

Cündoğlu: Blockchain’in asıl popülerleşmesi 2008 yılında Satoshi’nin çıkardığı Bitcoin konusunda, paranın dağıtık yapısı ile ilgili makale sayesinde oldu. Onun özellikle kripto para kısmı dikkat çekti. Reel düzleme bakınca, bunun altındaki Blockchain’in bir güven makinesi olduğunu anladık. Yani bunun üzerinde mutlaka bir kripto paranın olması gerekmiyor. Dünyada pek çok iş süreci kağıt üzerinde veya uçtan uca tek taraflı bir veri tabanında yürütülüyor.Birbiri ile iş yapan tarafların birbirine güvenmesini sağlayan ya sözleşmeler oluyor ya da böyle merkezi bir yapıya dayanılıyor. Buna karşın Blockchain kriptolojinin gücünü kullanarak teknik bir imkan oluşturuyor ve güvenin maliyetini düşürüyor. Yavaş yavaş iş dünyası ve buna tabi ki bankalar da dahil, mevcut problemlerimizi çözmek adına “blockchain” denilen bu sistemi acaba kullanabilir miyiz, yeni iş yapış şekilleri oluşturabilir miyiz diye bakmaya başladılar.  Şu an bunun belli bir standardı yok, her konsorsiyum kendi problemlerini çözmek için kendi standardını oluşturmaya çalışıyor. Böylelikle  bir çerçeve yaratılmaya başlanıyor. Gelecekte bunlar iyice olgunlaştığında ilgili sektörlere cevap oluşturacak yapılar meydana getirmiş olacak. İşin temelinde yepyeni bir güven makinesi oluştu. Eskiden güvenin aracı sözleşmelerken, söz iken, şimdi güvenin aracı matematik oluyor. Blockchain sayesinde herkes kendi kaydını tutabiliyor ve networkteki herkes bunu gördüğü için kimse itiraz edemiyor. Bunun üzerinde çok yeni iş modelleri kurgulanabilir.

 

Çetin: Bu teknolojinin kullanımı ne kadar genişleyebilir? Başka hangi alanlara yansıtılabilir?

Cündoğlu: Diyelim ki Tükiye’nin merkezinde bir şirket bir ürün üretti ve o ürünü Amerika’ya sattı. O ürünün Amerika’ya kadar gitmesi lazım. Bir limana gidecek, orada bir konteynere yüklenecek ama o konteynerde farklı ürünler de olacak, sonra o konteyner bir gemiye yüklenecek. Bu gemi belki İtalya’ya gidecek ve orada daha büyük bir gemiye yüklenecek. Bütün bu geçiş noktalarında dünya kadar kağıt işlemi var. Birçok partinin bu işlemleri onaylaması gerekiyor. Bunun sebebi de güveni sağlamak. Başka bir örnek verecek olursak, bir bina düşünün, belediye bunu binanın yapılması için bir şirkete ihaleyi verecek ama şirkete güvenmesi gerekiyor, bunun için de banka teminatı istiyor. Dolayısıyla banka, projeyi veren parti ve projeyi yapan firma arasında bir güven ilişkisi oluşturuyor. Bu bile aslında akıllı sözleşmeler ile yapılabilecek cinsten bir işlem. Her iki örnekte de mevcut iş yapış şekilleri blockchain ile daha verimli bir şekilde yapılabilir.  Bunun dışında, bu teknolojinin kullanım alanı bugün var olmayan şeyler de olabilir.Örneğin üzeride sensörleri olan bir cihaz düşünelim, belli bir limite geldiğinde bir şeyler sipariş ettiğini ya da tarlaya atılan ilaç belli bir seviyeye geldiğinde, depo azaldığında otomatik bir sözleşme ile siparişin yapıldığı ve ödemenin de paralelinde gerçekleştiği düşünebiliriz. Dolayısıyla bu pek çok sektöre uyarlanabilir.

 

Çetin: Blockchain’i kredi kartları açısından nasıl değerlendirebiliriz?

Cündoğlu: Elbette burada da uygulanabilir. Ancak problemlerin olduğu noktaya baktığımızda ihtiyaç var mı sorusunu öncelikli olarak sormalıyız. Bugün kredi kartı ya da banka kartını kullanırken ne gibi problemler yaşıyorsunuz? Kasaya yaklaşırken herhangi bir kaygınız oluyor mu? Birine nakit ödemek isterken önce o kadar nakitim olsun diyorsunuz; ancak markete girdiğinizde kasada kartın çalışacağını biliyorsunuz.  Bunlar çok olgun ödeme networkleridir. Belki ileride işlem hacimleri arttığında bazı problemler ortaya çıktığında ve Blockchain de olgunlaştığında bu düşünülebilir. Şu anda zaten elektronikte olan değil de manuelde olan problemleri blockchain ile çözmemiz lazım.

 

Blockchain rakipleri yönetişimde birlikte çalışmaya zorluyor

 

Çetin: Blockchain’in Rekabet Hukuku açısından sakıncaları ya da avantajları var mıdır?

Cündoğlu: Yönetişimin nasıl kurgulandığı ile ilgili bir durum. Blockchain dağıtık bir yapı demek, bu da hiçbir şirketin tek başına bunu oluşturamayacağı anlamına geliyor. Birbiri ile rakip olan yapıların iyi bir yönetişim kurması gerekecek. Bu yönetişim yapısı rekabete açık veya kapalı şekilde kurgulanabilir. Ancak bugün rekabeti kısıtlayıcı yapı sadece belli bir süre devam edebilir. Ülkemizde olduğu gibi diğer pek çok ülkede de rekabet kanunları oldukça olgun. Bu durumlar karşısında gereken adımlar atılacaktır. Mesela BDDK çıkarılan bir düzenlemenin uygulamalarını denetleyebiliyor. Blockchain ile öyle bir yönetişim yapısı kurulmuş olduğunu düşünelim ki düzenleyici de burada söz sahibi olabilsin ve o networke girmenin teknik, operasyonel kuralları biliniyor olsun ve ancak bulara uyanlar bu blockchain networküne dahil olabilsin. Bu sayede sadece bir denetim ile herkesi düzenlemiş oluyor. Dolayısıyla düzenleyicinin de tercih edeceği yaklaşımlar olacaktır. Regülatörün görevi uğraşın, çabalayın ben de öğreneyim ve ona göre bir düzenleme yapalım, olmalı. Standart bir şey ortaya çıktığında ve regülatör de evet bu böyle yapılır dediğinde denetlemek de kolay olacak.

 

Çetin: Kişisel veri setinin blockchain’e aktarıldığını düşünelim, bu kişisel verilerin korunması açısından dezavantaj mıdır yoksa kapalı bir yapı olduğunu düşünürsek avantaja dönüşebilir mi?

Cündoğlu: İkisi de değil diyebilirim. Bu aslında networkte hangi verileri saklamak istediğiniz ile ilgili. Kişisel veri saklamada da blockchainden faydalanabiliriz. Şöyle hayal edelim, bankalar kendi arasında dijital kimlik paylaşımı üzerine bir blockchain networkü kurdu. A bankasının müşteri tanıma sürecinden geçirdiği Celal, daha sonra hiç bankacılık ilişkisi olmadığı B bankasından hizmet almak istedi. Kanaatimce A bankası zaten müşteri tanı sürecinden geçirmişken artık B bankasında da Celal’in benzer bir süreçten geçmesine gerek yok. Blockchain üzerinden bankalar bunu paylaşabiliyor olmalı. A bankasında tutulan Celal’in Idsi, Celal’in onayı ile B bankasına gönderilse ve bu networkte de sadece bu iki banka arasında bir işlem gerçekleştiğine dair kayıt bulunsa yeterli olabilir. KVKK çok değerli bir kanun, kişilerin özel ve gizli bilgilerinin korunmasına dair önemli bir düzenleme. Ancak kişisel verilerin blockchainde tutulmasına gerek yok. KVKK’ya muhalefet oluşturmaz ancak blockchainde ne tuttuğunuz da önemli. Kişisel verileri networkte tutmaya kalkarsanız problem yaratabilir.

 

Çetin: Kara para aklamanın önüne geçme ve finansal ilişkilerin şeffaflaşması açısından blockchain kullanımını nasıl değerlendiriyorsunuz?

Cündoğlu: Kesinlikle faydalı buluyorum. Bitcoin için bile anonim deniyor ama öyle değil südonimdir. Kayıt oluşmuş durumda ve bu silinemez bir kayıt.

 

Çetin: Akıllı sözleşmeler ve Yapay Zeka açısından günümüzü nasıl değerlendiriyorsunuz?

Cündoğlu: Blockchain’in kullanım alanlarından biri de akıllı sözleşmelerdir. Akıllı sözleşmeleri oldukça komplex yaratabiliriz. Hatta gelecekte bu akıllı sözleşmeleri ileri düzeyde yazan yapay zekalar da olabilir.

 

Çetin: Nakit ile mücadelede “Keklik” adında bir uygulamanız var. Bize bundan da bahseder misiniz?

Cündoğlu: Kekliği ortaya çıkarmamızdaki amaç blockchain’i kağıt üzerinde anlatmakta güçlük çekiyor olmamız. Dağıtık defter yapısı nedir, neden merkezi veri tabanına gerek yoktur, akıllı sözleşme nedir, dijidal ID nedir, kripto para nedir bunları zaman içerisinde sözlü olarak anlatıyorduk. Bunu anlatmak neden bizim görevimiz? Çünkü biz ödemelerde geleceğin deneyimini yaşatmak istiyoruz. Bankalarla çalışarak, blockchain’in hangi problemlere çözüm olabileceğini bankacıların hayal etmesini istiyoruz. Bunun için de teknolojiyi anlamalarını sağlamamız lazım. Bu da bir pratik yaratma ihtiyacı doğurdu. Oluşturduğumuz case şirket için sadakat uygulamasına dayanıyordu. Şirketimizin içerisinde farklı ürünlerimizi arkadaşlarımız kullansınlar, o ürüne geri bildirim oluştursunlar ki ürünlerimiz olgunlaşsın diye projeler çıkarıyorduk. Sonra bir proje yapıp girilen challengelar gerçekleştiğinde örneğin onlara tiyatro bileti vermek yerine kripto para verelim dedik. Adını da “keklik” koyduk. Ve o kripto paraları harcayabilecekleri mağazalar oluşturduk. Burada kazandıkları keklik kadar harcama yapabiliyorlar. Peki dağıtık defter yapısı bunun neresinde? Şirketi üçe böldük, her kat bir şirkettir dedik, böylelikle herkes kendi şirketine girip alışveriş yaptığı gibi diğerlerinde de alışveriş yapabiliyor. Bu işlemler dağıtık defter yapısında şifreli olarak kopyalanıyor. Aynı keklik yapısını farklı veri tabanlarında görebildiğimden, dağıtık defter yapısını da sağlamış oluyoruz. Bu kapsamda her kata bir digital ID ile giriş yapabiliyorum. Aslında bu projenin güzel bir raporunu da yayınladık, o da BKM Express içerisinde mevcut. Robotic.legal ve Siber Bülten okuyucuları onu BKM Express yayınları içerisinden 1 TL bağış ile indirebilirler. Bu proje hem şirketimizin hem ekosistemdeki pek çok oyuncunun bu kavramları anlamasına yardımcı oldu.

 

Çetin: Bankacılık ve finans sektörü müşterilere sunulan hizmetlerde bu teknolojiden nasıl faydalanabilir?

Cündoğlu: İleride pek çok uygulamasını göreceğiz. Örneğin, şu anki güzel uygulamalardan bir tanesi, Microsoftun İsrail ofisi ile oradaki büyük bankalardan biri teminat mektupları için pilot uygulama başlattı. Bu süreçleri çok daha kolay ve rahatlatıcı hale getiriyorlar. İleri de örneğin uluslararası para transferlerinde kullanılabileceğini düşünüyorum. Bu sayede paranın transfer sürecinde ne aşamada olduğu izlenebilecek.

 

Çetin: Türkiye’de bunun gelişmesi için iç dinamikler mi cesaretlendirilmeli yoksa farklı ne gibi adımlar atılmalı?

Cündoğlu: Önce hangi problemin çözümlenmek istendiği tanımlanmalı, sonra bu çözümde bulunması gereken minimum paydaşlar kimler buna bakılmalı. Paydaşlar, bu çözümü kendi ekosistemimiz içinde kendi yönetişimimizde gerçekleştireceğiz kararlılığını göstermeli. Daha sonra projeler hayata geçecek, ancak bu sıralamanın gerçekleşmesi gerekir. Ayrıca BKM olarak bankaları değişik projeler etrafında toplamaya çalışıyoruz. Türkiye’de bu teknolojiden her sektör faydalanabilir, bunun için insan yetiştirilmesi de çok önemli. BKM’nin kurucu ortaklarından olduğu Türkiye Blockchain ekosisteminin oluşumu bu açıdan kritik bir yere sahip olacak.

 

Çetin: Sıradan vatandaş için bunu nasıl daha aktif hale getirebiliriz?

Cündoğlu: Daha çok erken. Hep dediğim gibi problem oluşmalı ki çözüm bulmak isteyelim. Bu problemler business to business mı yoksa business to consumer mı? Önce b to b’yi oluşturmak lazım. Blockchain’i hayata geçirmek o kadar kolay değil, birçok partinin bir araya gelip bunda hem fikir olması gerekiyor. Ben bu yılın ve gelecek yılın ekosistemlerin oluşmaya başladığı yıllar olacağını düşünüyorum. Örneğin bir vatandaş olarak yaşadığım bir sorunu söyleyeyim, 18 yaşından küçük bir çocuğum var. Pasaportunu yenilmem için bir araya getirmem gereken birçok doküman var. Bu süreçte notere ve bankaya gitmem gerekiyor. Okulundan öğrenci belgesi almam gerekiyor. Sonra randevu ile görüşmeye gitmemiz gerekiyor. Bütün bunlar güven eksikliğinden olan şeyler. Devletin verdiği kimlik belgesi güven eksikliğinden dolayı yeterli görülmüyor. Benim bir güven makinam olsa bunu çözebilirdim. Bu güvenin maliyetini düşürecek bir yöntem olduğu için, ileride vatandaşın buna yönelmesi gerektiğini düşünüyorum.

 


Sayın Celal Cündoğlu‘na saygı ve sevgilerle…
Selin Çetin

 

Ayrıca bakınız:

Eskiden güvenin aracı sözleşmelerdi, Blockchain ile güvence artık Matematik

Robotlar, Yapay Zeka ve Hukuksal Tartışmalar

Robotlar, Yapay Zeka ve Hukuksal Tartışmalar

Türkiye’de bilişim hukuku alanında yetkin isimlerden biri olan, Medipol Üniversitesi’nden Doç. Dr. Volkan Dülger ile robotlar, yapay zeka ve yaratabilecekleri muhtemel hukuksal sorunların çözüm yolları üzerine konuştuk.

 

Keyifli okumalar…

 

Çetin:Yapay zekâ teknolojisinin yaratabileceği mahremiyet ve gizlilik sorunları karşısında sizce ne gibi düzenlemelere gidilmeli?

Dülger: İnsanlık var olduğu tarihten bu yana ihtiyaçlarına cevap verecek ve hayatını kolaylaştırıp kendisine yardım edecek araçların yapımı için uğraşmıştır. Bu araçların yapımı için ise bilgi, yetenek ve deneyime gereksinim vardır. İşte bu noktada teknoloji dediğimiz kavram gündeme gelir. Kısaca insanların kendisine yardımcı olacak araç ve gereçleri yapmak, üretmek veya geliştirmek için gereksinim duyduğu ve bilimsel ilerlemeye bağlı olarak gelişen ve artan araçlara teknoloji denir. Teknoloji, yapılan araştırmalar, çalışmalar ve deneyler ile gün geçtikçe gelişmekte ve şaşırtıcı boyutlara ulaşmaktadır.

Bilimsel ilerlemeler ile teknolojik gelişmeler sayesinde bilişim ve iletişim dünyasında meydana gelen gelişmelerle hayatımız ciddi bir biçimde değişmiş ve kolaylaşmış durumda. Bilgisayar, telefon ve internetle dünyanın öbür ucuyla iletişim sağlanabilirken; ulaşım araçları sayesinde dünyanın dört bir yanı ulaşılabilir hale gelmiştir. Sağlık alanına baktığımızda gerçekleştirilen ameliyatlar, röntgen ve filmler, kan tahlilleri ve DNA araştırmaları gibi faaliyetler tamamen bilimsel ilerleme ve teknolojiyle bağlıdır. Böylece tanı, tedavi yöntemleri ve tedaviye ulaşma hızı dolayısıyla da insan ömrünün uzaması açısından teknolojinin büyük katkıları olduğunu söylemek mümkündür. Hukuk ve özellikle ceza hukuku alanında ise teknoloji kullanılmadan yargılama yapılması ve suçluların yakalanması neredeyse imkansız hale gelmiştir. Güvenlik kameraları, kan ve parmak izleri ve takip sistemleri gibi teknolojiler, ceza soruşturma ve kovuşturmalarında sıklıkla kullanılmaktadır.

Görüldüğü gibi iletişim, ulaşım, sağlık, hukuk ve daha birçok alanda teknoloji ve teknolojinin getirdikleri vazgeçilmez hale gelmiştir. Nitekim teknoloji ürünlerinin sağladığı kolaylıklarla  hayatımızın bir parçası haline geldiği açık bir gerçektir. Öyle ki artık teknolojinin sağladığı fayda ve kolaylıklar olmadan bir yaşam sürülmesi düşünülememektedir. Peki hayatımızı bu denli kolaylaştıran teknoloji gerçekten bu kadar masum mu, hiç mi zararı yok? Maalesef durum böyle değil. Teknolojinin getirdikleri kadar götürdükleri de mevcut ve hatta bazı kesimler tarafından götürdüklerinin daha fazla olduğu iddia edilmekte. Ben bu düşüncede olmasam da faydalarının yanında birçok zararının da olduğunu inkâr etmek mümkün değil.

Teknolojiyle beraber gelişen savaş araçları, hava ve çevre sorunları, yer altı ve yer üstü kaynaklarının tükenmesi ve teknolojik araçların yaydığı elektromanyetik dalgaların canlılar üzerindeki zararı, teknoloji ile hayatımıza giren zorlukların ilk akla gelenleridir. Somut ve maddi örneklerin yanı sıra esasen en büyük zarar, insanların sosyal hayatı üzerinde gerçekleşmektedir. İnsanların, teknolojinin sağladığı kolaylıklardan sonra tembelleştiği ve sanallaştığı gözlemlenmektedir. Böylece depresyon, stres ve uykusuzluk gibi birçok problemi de beraberinde getirmiştir. Sosyal medya araçları sayesinde kendini daha kolay, hızlı ve daha geniş kitlelere ifade edebilen ve düşüncelerini paylaşabilen insan; diğer yandan yüz yüze iletişime geçmeyen, sanal ve bağımlı bir varlığa dönüşmüştür. Hal böyle olunca hayatımıza teknoloji bağımlılığı adıyla yeni bir hastalık türü girmiş ve çağın hastalığı olarak da kabul edilmeye başlanmıştır. Teknoloji bağımlılığı ile mücadele amacıyla birçok kuruluş harekete geçmiş ve çalışmalara başlamıştır.

Teknolojinin fayda ve zararlarının birleştiği en önemli nokta ise bilgi alışverişinin gerçekleşmesi noktasındadır. Özellikle internet aracılığıyla olmak üzere, bilişim ve iletişim teknolojilerinin gelişmesiyle bilgi alışverişi çok kolay ve hızlı hale gelmiştir. Bugün saniyeler içerisinde çok büyük sayıda verilerin tutulması, işlenmesi ve aktarılması mümkündür. Bununla birlikte verilerden yola çıkılarak veri sahibine de kolaylıkla ulaşılabilmektedir. Bu durum sağladığı faydaların yanında bireylerin kendilerine ait olan bilgilerinin, bu bilgilerle hiçbir ilgisi ve menfaati olmayan üçüncü kişilerin eline geçmesi ve bu bilgilerin üçüncü kişiler tarafından hukuka uygun veya aykırı olarak kullanılması tehlikesini gündeme getirmiş ve bu konuda endişe edilmeye başlamıştır. Bu endişelerin çıkış noktası daha basit teknolojilere dayanmış olsa da büyümesi ve ciddi boyutlara ulaşması günümüz teknolojisiyle gerçekleşmiştir.

Bugün teknolojide ulaştığımız son noktanın ise bundan kısa bir süre önce hayal etmesi bile zor olan ve hayal edilse dahi gerçekleşmesine imkânsız gözüyle bakılan gelişmelerden oluştuğunu görüyoruz. Özellikle yapay zekâ alanında gelinen nokta hem heyecanlandırıcı hem de olası senaryolar karşısında düşündürücü niteliktedir. Zira yapay zekalı varlıkların birçok mesleğin yerine geçebileceğini, cerrahi operasyonlar yapabileceği, doksan yıl içinde kendilerinin dahi yapay zekâ araştırmaları yapabileceği ve hatta bu varlıkların yüz yıl sonra bizler gibi olabileceği konuşuluyor. Yapay zekadan beklenen öğrenme, öğrendiğini analiz etme ve analiz çıktısını yorumlayarak karar verme, hatta söz konusu olan bir yapay zekalı robotsa hareket etme aşamalarını gerçekleştirebilmesidir. Bu amaçlarla devam eden yapay zekâ çalışmaları ve bu çalışmaların mevcut ürünleri düşünüldüğünde söz konusu ihtimaller pek de imkânsız görünmemekte.

Yapay zekalı varlıkların öngörülen geleceğini insanlık için tıpkı teknolojideki gelişmeler gibi faydalı ve yardımcı olacağını savunanlar kadar; tam aksine insanlar için tehlikeli olarak değerlendiren kesimler de mevcut. Peki bu tehlikenin kaynağı nedir? İnsanlar gibi araştırma yapabilecek, insanların gerçekleştirdiği meslek faaliyetlerinde onlara yardımcı olabilecek ve insan hayatında kahve içeceği saati, ne zaman nereye gideceğini bile tahmin edebilmek gibi birçok kolaylık sağlayabilecek olan yapay zekalı varlıkların ne gibi bir riski olabilir? Aslında bu sorunun cevabı tam da kendisi. Saydıklarım her ne kadar ilk bakışta yapay zekâ teknolojisinin ne kadar harika olduğunu düşündürtse de esasen olası tehlikeleri de anlatmaktadır. Yapay zekalı varlık sizin kahve içeceğiniz saati nerden bilebilir? Kullanmanız gereken ilacı ve ilaç saatinizi hatırlatacak olması nasıl mümkün olabilir? Aileniz ve yakın çevrenizi nereden tanıyabilir? Bütün bu soruların tek cevabı var: Veri, özellikle de kişisel veri! Yapay zeka teknolojisi kendisine yüklenen veriler üzerinde zihinsel faaliyetler gerçekleştirir ve ortaya sonuçlar çıkarır. Dolayısıyla esas olarak verilerden yola çıkar, burada da karşımıza büyük veri (big data) kavramı karşımıza çıkar. Yapay zekanın gerçekleşmesi, yapay sinir ağlarının gelişmesine bu da çok sayıda verinin üretilmesi, depolanması, erişilebilmesi ve bunların işlenmesine bağlıdır.

Verileri kullanarak insan zekasını taklit eden faaliyetlerde bulunan yapay zekalar, birçok farklı açıdan bu faaliyetleri insan zekasından daha iyi gerçekleştirebilmektedir. Yapay zekanın; doğal zekâ yani insan zekası gibi belli bir ömrü ve kapasitesinin olmaması, yapay zeka algoritmalarıyla donatılmış bir makine içindeki verilerin kolaylıkla kopyalanabilmesi ve belli bir sistem üzerinde kurulmuş olması itibariyle her durumda aynı ve objektif tepkiler verebilmesi kendisine yüklenen verilerin analizini yapma sürecinde insan zekasından daha üstün olduğu yönlerdir.

Bireylere ait verileri bu denli etkin ve ölçüsüz bir biçimde kullanabileceği öngörülen yapay zekaların, bu veriler üzerinde gerçekleştirecekleri faaliyetler sonucu hukuka aykırı kullanımlara ve insan hakları ihlallerine neden olabileceklerinden endişe edilmektedir. Zira halihazırda yapay zekâ algoritmalarının kullanıldığı alanlarda insan haklarının yoğun bir biçimde ihlal edilmesi ve tehlike altında olması bu endişeleri kuvvetlendirmektedir. Endişelerin esas yaşandığı ve toplandığı nokta ise bireylerin özel hayatın gizliliği ve özel hayata saygı hakkı kapsamında mahremiyet ve giz alanına ilişkindir.

Mahremiyet hakkı 1970 tarihli “Kitlesel İletişim Araçları ve İnsan Hakları Bildirisi” ile bir kişinin hayatını minimum müdahaleyle yaşama hakkı olarak tanımlanmıştır. Kişinin özel, fiziksel ve ruhsal bütünlüğü, onur ve itibarı ile aile hayatı bu kapsamdadır. Avrupa İnsan Hakları Sözleşmesi’nin özel yaşam ve aile hayatı hakkı başlıklı 8. maddesi ile de mahremiyet hakkının da korunduğu AİHM içtihatlarında açıkça belirtilmektedir.

Buna göre kişi kendi bütünlüğü ile özel ve aile yaşamı alanlarına en az müdahale ile hayatını sürdürebilmelidir. Oysa günümüz teknolojisi ve yapay zekalı varlıkların geleceği bu hak üzerinde maksimum düzeyde müdahale edebilecek nitelikte üretilmekte ve dizayn edilmektedir. Bunun nedeni söz konusu teknolojileri her kullandığımızda ardımızda dijital izler bırakmamızdır. Dijital alanda ve buna bağlı olarak internette attığımız her adım; hangi web sitelerine girip ne araştırdığımız, ziyaret ettiğimiz alışveriş sitelerinde hangi ürünlere baktığımız hatta nerelerde yemek yediğimiz ve kimlerle olduğumuz gibi en mahrem alanımıza ilişkin bilgiler sürekli kaydedilmektedir. İşin ilginç tarafı kimsenin bilmesini ve ulaşmasını istemeyeceğimiz bu bilgileri çoğu zaman kendi ellerimizle ortalık yere bırakmamızdır.

Günümüzde büyük ölçüde teknolojinin gelişmesiyle ortaya çıkan tehlikeler dolayısıyla kişisel verilerin korunmasına ilişkin sorunlar daha iyi anlaşılmış ve özellikle 1980’li tarihlerden itibaren Avrupa Birliği’nin bu yöndeki çalışmaları neticesinde kişisel verilerin korunması hakkı oluşmuştur. Ülkemizde de kişisel veriler 7 Nisan 2016 tarihinde yürürlüğe girmiş olan 6698 sayılı Kanun ve ilgili Yönetmeliklerle korunmaktadır. Ayrıca kişisel verilerin hukuka aykırı olarak kaydedilmesi ve yayılması Türk Ceza Kanunu ile de zaten suç olarak düzenlenmiştir.

Bununla beraber teknolojinin gelişmesi ve yapay zekalı varlıkların iyiden iyiye hayatımıza girmesi ile bu korumaların yetersiz kalacağında şüphe yoktur. Ki ben yapay zekalar tarafından kişisel verilerimizin hukuka aykırı bir biçimde kullanılması ile yakın bir gelecekte karşı karşıya kalacağımızı düşünüyorum. Gelinen nokta düşünüldüğünde yukarıda detaylı bir biçimde bahsettiğim olası tehlikelerin çok da uzak olmadığını öngörüyorum. Bu nedenle teknoloji ve yapay zekalar konusunda hukuk düzleminde de çalışmalara başlanmalı ve düzenleme yapma yoluna gidilmelidir.

Bu kapsamda ilk olarak hukuki statü tartışması çözümlenmelidir. Ardından günümüz dünyasında kişisel verilerin kullanımı olmadan hayatın devam edilmesinin mümkün olmadığından artık şüphe edilmediğinden yapay zekalı varlıklar ile beraber bu zekaların da kişisel veriye ihtiyaç duyacağı kesindir. Öyleyse yapay zekalar tarafından hangi hallerde kişisel veri kaydedileceği, işleneceği ve/veya aktarılabileceği hukuki düzenlemelerle belirlenmelidir. Sözgelimi bir yapay zekalı varlığın elinde bulundurduğu kişisel veriyi hangi şartlar altında başka bir yapay zekalı varlığa aktarabileceği öngörülebilir olmalıdır. Bundan sonra bu varlıkların mahremiyet ve özel hayata saygı hakkı başta olmak üzere temel insan haklarını ihlal etmeleri halinde hukuki ve cezai sorumlulukları düzenlenmelidir.

Çetin:Yapay zekâlı robotun ölümlü kazaya sebep olduğu bir senaryoda, hangi şartlarda robotun cezai sorumluluğundan bahsedebiliriz?

Dülger: İlk olarak yapay zekalı varlıkların hukuki statüsü ile hukuki ve cezai sorumluluğunu belirleyen yasal düzenlemeler olmadığını ancak teknolojinin gelişmesiyle düzenleme yapılması ihtiyacının gündeme geleceğini belirtmeliyim. Bunun nedeni hukuk düzenimizde Roma Hukuku’nda beri süregelen kişi ve eşya ayrımına yer verilmiş olmasıdır. Oysa yapay zekalı varlıkların insanın tabi olduğu düzenlemelere konu olmasının mümkün olmadığı gibi; eşya tanımı kapsamında değerlendirilebilmesi de imkansızdır. Yapay zekalı robotların basit bir eşya tanımının çok ötesinde olduğundan şüphe yoktur. Bu nedenle artık geleneksel hukuk anlayışının sınırları aşılarak yapay zekalı varlıkların hak ve yükümlülüklerini belirleyen düzenlemeler için çalışmalara başlanmalıdır. Ancak henüz mevcut bir düzenleme bulunmadığından bu noktada yalnızca olması gerekeni konuşabiliriz.

Yapay zekalı robotların cezai sorumluluğunun olup olamayacağı; olacaksa da bunun nasıl belirleneceği sorularının tespiti için öncelikle otonom-yarı otonom araçlar ile gerçek anlamda yapay zekalı varlıklar ayrımına dikkat çekmek gerekir. Otonom-yarı otonom araçlar bakımından bu problemi çözmek basittir. Bu araçlar bilinç sahibi olmadığı ve gerçek kişiler tarafından yönetildiği için bu araçların sebep olduğu zararlardan bunları yöneten ya da duruma göre üreten gerçek kişiler sorumlu olacaktır. Çünkü bu araçlar gerçek kişilerin verdiği komutlara göre hareket eder ve dolayısıyla bu araçların hukuki veya cezai sorumluluğundan bahsedilemez.

Sorumluluğun tespit edilmesinde asıl problem gerçek anlamda yapay zekalı varlıklar açısından ne olacağıdır. Son kararı kendisi verebilecek yapay zekalı bir robotun araba sürücü olması ve arabayı çarpmamak adına başka birine çarpması halinde kasten ya da taksirle öldürme suçunun faili kim olacaktır? Başka bir ihtimalde, cerrahi operasyon yapabilen bir robot ihmali neticesinde hastanın ölümüne sebep verirse sorumlu kim olacaktır? Yapay zekalı robotun kendisi mi, eğer bir sahibinin olduğu kabul edilirse sahibi mi, yoksa robotun üreticisi mi?

Yapay zekalı robotun sahibi olduğu kabul edilirse robotun eşya statüsünde değerlendirilmesi gerekir. Oysa bu yapay zekaların bir yöneticisi ve komut vereni yoktur. Dolayısıyla kendi kararlarını kendi verebilmektedir. Dolayısıyla bir sahibinin olduğundan bahsedilemeyecektir. Bilinçli hareketleri ile gerçekleştirdiği davranışları sonucu doğan zararlardan üreticinin de sorumluluğuna gidilmesi mümkün olmamalıdır. Hiçbir kusuru olmayan üreticinin suçun faili olarak kabul edilmesi suçun şahsiliği prensibine aykırıdır. Öyleyse kendi iradesi ile bilinçli olarak hareket eden ve bu hareketi sonucunda tipik bir suçun meydana gelmesine neden olan yapay zekalı robotun söz konusu suçun faili olarak kabul edilmesi gerekir. Ancak mevcut ceza hukuku sistemimizde bir suçun faili ancak gerçek kişiler olabilir.

Görüldüğü gibi sorumluluğun tespitinde farklı ihtimalleri değerlendirdiğimizde halihazırda bulunan yasal düzenlemeler hiçbirine cevap verememekte ve bir noktada tıkanmaktadır. Bu nedenle kişi ve eşya ayrımının yanına yapay zekalı robotların da hukuk düzeninde tanımlaması yapılmalı ve hukuki statüsü belirlenmelidir. Burada dikkat edilmesi gereken nokta genel bir tanımdan ziyade bunların otonom-yarı otonom ve gerçek yapay zekâlı varlıklar gibi derecelendirilerek ayrılması gerektiğidir. Zira yapay bir bilinç ve kendi kendine karar verebilme kavramının derecesi hepsinde aynı değildir. Dolayısıyla sorumluluğun boyutu da farklılık gösterebilecektir.

Bu bilgiler ışığında yapay zekalı robotun ölümlü bir kazaya sebep olmuş olması ihtimalinde; sorumluluk, şu aşamalar esas alınarak belirlenmelidir:

  • İlk olarak kazaya sebep olan robotun Anayasa ve Medeni Kanun ile belirlenmiş olan tanımı ve hukuki statüsü tespit edilmelidir. Kaza, verilen bir komut sonucunda mı gerçekleşmiş yoksa robotun kendi bilincinden ve iradesinden bahsedilebiliyor mu? En uç ihtimalde biyolojik insan faktörleri mevcut mu? Bu ihtimaller değerlendirilmelidir.
  • Kazanın yapay zekalı varlığın bilinçli hareketleri neticesinde gerçekleştiği sonucuna varılırsa suçun unsurlarının oluşup oluşmadığına bakılmalıdır.
  • Son olarak somut olayda gerçekleşen suça, yapay zekalı robotun sorumluluğunun öngörüldüğü hukuk prensiplerince belirlenmiş olan ceza yaptırımı uygulanmalıdır.

Burada tartışılması gereken bir diğer problem de insanlar için belirlenmiş olan ceza yaptırımlarının robotlar üzerinde ne kadar etkili olacağıdır. Ceza hukuku yaptırımlarının esas çıkış noktası suçun işlenmesi aşamasından önce caydırıcı etkisidir. Hapis cezasına hükmedileceğini düşünen insan ailesinden ve sevdiklerinden ayrı kalacağını düşünerek cayabilecekken; yapay zekalı robot için bu durumun caydırıcı bir etkisi olabilir mi? Yoksa daha ilerde tıpkı insan gibi duygulara sahip olan robotlar var olacak mı?

Suçun işlenmesi aşamasından sonra ceza hukukunun amacı suçluyu ıslah etmeye yöneliktir. Hapis cezasına hükmedilen suçlunun, bu süre içerisinde işlediği suçtan pişman olup bir daha suç işlememesi gerektiğini kavrayabilmesi amacı söz konusudur. Yapay zekalı robotun pişmanlığından ve ıslahından söz edilebilecek mi?

Ceza ile birlikte veya cezadan ayrı olarak bir güvenlik tedbirine hükmedildiğinde bunun robot için anlamı ve gerekliliği nedir? Bir yazılım güncellemesi ile her sorun çözülebilecek iken, güvenlik tedbiri olarak yapay zekalı robotun bir kenarda çürümeye bırakılması ne kadar gerçekçi ve mantıklıdır?

Görüldüğü üzere yapay zekalı varlıkların hukuki statüsü ile hukuki ve cezai sorumluluğunun yasalarla öngörülmesi gerektiği kadar; bunun nasıl yapılacağı da büyük bir problem teşkil etmektedir. Düzenlenecek olan yasaların yapay zekalı varlıkların doğası ve özü dikkate alınarak onların ihtiyaçlarına cevap verebilecek nitelikte olması gerekir.

Çetin:Sıradan nesnelere zarar vermekle, insansı özellikleri olsun veya olmasın bir yapay zekâlı robota zarar vermek açısından cezai anlamda fark oluşur mu?

Dülger: İlk olarak soruyu sıradan nesneler ifadesi için eşya kavramını esas alarak cevaplandıracağım. Eşya olarak nitelendirilebilecek nesnelere zarar verildiğinde bu zarar neticesinde Türk Ceza Kanunu’nda düzenlenmiş olan “mala zarar verme” suçu oluşur. Bununla beraber eşya kapsamında değerlendirilebilecek yapay zekalı bir robotun söz konusu olması ihtimalinde bu hallerin de yapay zekalı varlıkların kendilerine özgü düzenlenmiş olan hükümleriyle çözümlenmesi gerekir. Ancak mala zarar verme suçuna benzer bir suç biçiminde düzenlenmesi gerektiğini söylemek mümkündür.

Öte yandan insansı özellikte olmayan ama kişi için bir eşya kavramından çok daha fazlasını ifade eden yapay zekalı varlıklar söz konusu olabilir. Uzaktan haberleşme özelliğine sahip, sizi istediğiniz yerden alacak ve trafiksiz olan en rahat yolu seçecek, sizin sevdiğiniz kahveyi bilip gelmeden onu da yol üstündeki bir kafeden alabilen, dolayısıyla kişisel tercihlerinizi kodlayabileceğiniz yapay zekâya sahip bir aracı sadece eşya olarak nitelemek ne kadar doğru? Çünkü bu durumda kişinin yalnızca bir arabasına zarar vermiş olmazsınız ve kişinin üzerinde arabasına zarar vermiş olduğunuz ihtimaline göre çok daha büyük bir zarar meydana getirmiş olursunuz.

İnsansı özelliklere sahip bir robottan ise insan gibi algılayabilen, öğrenen, kendi kendine karar verebilen ve bilinçli bir şekilde hareket eden yapay zekalı varlık anlaşılmalıdır. Burada mağdur doğrudan varlığın kendisi olabilecek mi? Fail, mala mı yoksa kişiye mi zarar vermekten cezalandırılacak? Bilinci ve muhakeme yeteneği olan bir robota zarar verilmesi halinde doğrudan suçtan zarar görenin robotun kendisi varsayılabiliyorsa; Türk Ceza Kanunu’nda öngörülmüş olan “yaralama” suçuna benzer bir suçun oluşacağını söylemek gerekir. Failin de insansı özelliklere sahip yapay zekalı bir varlığın öngörülmüş olan hukuki statüsüne göre cezalandırılması gerekir.

Söz konusu ihtimallerden üç farklı yapay zekalı varlık tipi anlaşılmaktadır; eşya gibi nitelendirilebilen, insansı özelliklere sahip olmayıp basit bir eşyadan ötesini ifade eden ve insansı özelliklere sahip olan robot. Teknolojinin ve yapay zekanın gelişmesiyle bu tiplerin artacağı kuşkusuzdur. Soruda ise insansı özelliğe sahip olsun veya olmasın ifadesiyle ayrım yapılmaksızın bütün yapay zekâlı robotlar aynı çatı altında değerlendirilmiştir. Oysa böyle bir düzenleme mevcut düzenden bir adım ötesine geçmekten fazlasını vermez. Kaldı ki zaten düzenlemelerin esas noktasını, yapay zekalı varlığın insansı özelliğe sahip olup olmaması oluşturmalıdır. Asıl problem ve tıkanma bu noktada yaşanmaktadır. Dolayısıyla yapay zekalı varlıklar ile ilgili oluşturulacak prensip ve yasal düzenlemelerin genel bir başlık altında toplanmaktan ziyade; geniş bir perspektifle kapsamlı nitelikte olması gerekir.

Çetin:Ütopik bir soru olarak, gelecekte robotların kendi aralarında geçerli olacak bir cezai düzenlemeden bahsedilebilir mi?

Dülger: Yukarıda belirttiğim nedenlerden ötürü mevcut hukuk düzeni robotların kendi aralarında gerçekleşebilecek herhangi bir uyuşmazlığa da cevap vermemektedir. Yapay zekalı robotun bir diğer robotu yaralaması veya başka bir robotun mala zarar vermesi gibi bir senaryo karşısında halihazırda bulunan düzenlemelerle cevap verebilmek mümkün değildir. Bu nedenle yapay zekalı robotların da hukuk süjesi olarak tanımlanıp kendi aralarında yaşanacak uyuşmazlıkların geleceği ve nasıl çözüleceği konusunun belirlenmesi gerekir.

Bununla beraber sadece yapay zekâlar arasında, salt sınıflandırılan yapay zekâların birbirlerine karşı hak ve yükümlülüklerinin düzenlendiği bir sistemin öngörülmesini doğru bulmuyorum. Zira böyle bir yaklaşım ve varsayım suç teorisine aykırı bir durum teşkil edecektir ve ikili bir hukuk düzeni ortaya çıkacaktır. Bunun yerine yapay zekalı varlıklar tanımlandıktan ve hukuki statüsü belirlendikten sonra bu varlıkların tabi olacağı genel hukuk prensiplerine uygun cezai düzenlemelere gidilmesi isabetli olacaktır.

Çetin: Siber güvenlik konusunda, sizce yapay zekâ bir tehlike mi, yoksa avantaj mı?

Dülger: Öncelikle yukarıda da detaylı bir biçimde açıkladığım üzere genel olarak teknoloji ve teknoloji ürünlerinin hayatımızı kolaylaştırmak amacını güttüğünü ancak hayatımızı pek çok farklı açıdan kolaylaştırırken; birçok tehlikeyi de beraberinde getirdiğini kabul etmek gerekir. Yapay zekalı varlıklar açısından da aynı durum söz konusudur. Gerçekleştirdiğimiz mesleki faaliyetlerimizde bize yardımcı olarak işimizi kolaylaştıracak yapay zekalı varlık; bir sonraki adımda mesleki faaliyetin gerektirdiği bütün nitelikleri barındırıp gerçekleştirebildiği zaman işimizi elimizden alabilecek olması itibariyle, geleceğimiz için büyük bir tehlike de barındırmaktadır. Yıllar öncesinde günler ve saatlerimizi harcayan işlemleri şu anda saniyeler içerisinde yapmamızı sağlayan yapay zekâ algoritmaları, bugün, çok kısa süre içerisinde çok büyük boyutlarda kişisel verilerimizi de kaydederek olası insan hakları ihlallerine konu olabilmektedir. Bilişim sektörünün her alanında kullanılan ve bu sektörün gelişmesine katkı sağlayan yapay zekâ teknolojisi diğer taraftan siber saldırı aracı olarak kullanılabilecektir.

Dolayısıyla her açıdan yapay zekalı varlıkların çok önemli faydalarının yanında birtakım tehlikeler barındırdığını da görüyoruz. Ancak bu tehlikeleri esas alarak teknolojiye sırtımızı dönmek çok büyük bir hata olacaktır. Teknolojiye karşı olmak yerine onu takip edebilmek ve bunu fırsata dönüştürebilmek gerekir. Kaldı ki günümüzde teknolojiyi takip etmek bir zorunluluk haline gelmiştir. Teknolojiyi kullanmayan ve teknolojinin nimetlerinden faydalanmayan ülke ve toplumların gelişebilmesi ve yeni dünyaya ayak uydurabilmesi mümkün değildir. Buna en güzel örnek 18. yüzyılın sonlarında Avrupa’da sanayi alanında buhar gücünü kullanma ve makineleşmeyle gerçekleşen teknolojiyi takip edemeyen ülkelerin hala üçüncü dünya ülkesi olmaktan kurtulamamasıdır.

Açıkladığım nedenlerden ötürü teknoloji her ne kadar içerisinde birçok tehlikeyi barındırsa da; korkup kaçılacak bir durum değil takip edilmesi gereken bir zorunluluktur. Teknolojiden en yüksek düzeyde faydalanabilmek için de söz konusu tehlikelerin önceden mümkün olduğunca öngörülerek devletin pozitif yükümlülüğü altında önlenmesi ve bireylerin haklarının korunması gerekir. Teknoloji olmadan günlük hayat dahil olmak üzere spesifik hiçbir alanın devamının ve işleyişinin mümkün olmadığı günümüzde, barındırdığı risk faktörleri nedeniyle teknolojiden kaçmak gerçekçi bir yaklaşım olmadığı gibi akıntıyı tersine çevirmekle de eş anlamlıdır.

Çetin:Türk hukuk sisteminde bu teknoloji bakımından birincil düzenleme ne olmalı?

Dülger: Yapay zekalı varlıkların yasal düzlemde tanımlanması ile hak ve yükümlülüklerinin belirlenmesi, üstelik bu düzenlemelerin birbirinden farklı türlerinin dikkate alınarak dereceli ve kapsamlı bir nitelikte olması gerektiğine yukarıda değindim. Bu düzenlemelerin hangi hukuk prensibi ile nasıl olması gerektiği yönündeki kanaatim öncelik sıralamasına göre aşağıdaki gibidir:

  • İlk olarak konunun Anayasa hukuku bağlamında ele alınması gerekir. Burada yapay zekalı varlıkların hukuki statüsü tanımlanmalı, temel hak ve özgürlükleri açıkça belirlenmelidir.
  • Ardından hukukun temeli olan Medeni Hukuk devreye girmelidir. Kişiler hukuku benzeri “yapay zekalı varlıklar hukuku” benzeri bir başlık öngörülmeli ve bu başlık altında yapay zekalı varlıkların varlığının başlangıcı ve sonu, aile hukuku, miras hukuku ve eşya hukuku ile ilgili hükümler düzenlenmelidir.
  • Bu sırayı ceza hukukunun takip etmesi gerektiği düşüncesindeyim. Yapay zekalı varlıkların dahil olduğu bir ceza hukuku uyuşmazlığında ne yapılması gerektiği ve sorumluluğunun nasıl ve neye göre tespit edileceği açıklığa kavuşturulmalıdır.
  • Son olarak yapay zekalı varlıkların sosyal, ekonomik ve kültürel ilişki ve faaliyetleri söz konusu olacağından ticaret hukuku, iş hukuku, borçlar hukuku gibi farklı hukuk disiplinlerinde de düzenleme yapılmalıdır. Hatta vatandaşlık alan yapay zekalı robotlar düşünüldüğünde milletlerarası hukukun bile devreye girmesi gerektiğini söylemek mümkündür.

 

Değerli Volkan Dülger‘e saygı ve sevgilerle…

Robotlar, Yapay Zeka ve Hukuk – Çağlar Ersoy

Robotlar, Yapay Zeka ve Hukuk

Türkiye’de robot ve hukuk konusunda yazılmış ilk eser olan Robotlar, Yapay Zeka ve Hukuk kitabının yazarı Av. Çağlar Ersoy ile yaptığımız röportajda, hukuksal düzlemde yapay zeka ve robotların yaratacağı etkileri konuştuk.

 

Keyifli okumalar…

 

Çetin: Robotlar, Yapay Zeka ve Hukuk kitabını yazma fikri nasıl oluştu?

Ersoy: Robotların öncelikle askeri alandaki kullanımları ilgimi çekmişti. Sebebi hali hazırda kullanılıyor olmaları ve giderek gelişmeye devam etmeleri. Bu şekilde araştırmalarıma başladım ve araştırdıkça alan genişledi ve sonunda bir kitap ortaya çıktı. Makale niyetiyle yola çıkmıştım bir baktım ki kitap olmuş 🙂

Çetin: Kitaba eklemek isteyip de eklemediğin kısımlar oldu mu?

Ersoy: Günümüzdeki somut örneklere daha çok değinmek isterdim. Özellikle kültürün bunun üzerindeki etkileri çok önemli. Ancak bu konunun ucu bucağı yok zaten, sınırlamadığın zaman, tamam artık demediğinde sonu gelmeyecek bir alan.

Çetin: Hukuki açıdan kullanılamayacak ya da kullanılmaması gereken alanlar var mı sence?

Ersoy: İnsanın tamamen döngüden çıkartılması şu an için kabul edilemez bir şey, ben de bu görüşü savunanlardanım. İnsanın devreden çıkarılmaması gerektiğini düşünüyorum. Ancak bunun ilerisinde yazılımlar nereye gelir, bu yapay zekanın yeteneğine bağlı biraz da. Zekayı oluşturmada ne kadar yol kat edebileceğimize bağlı. Ancak şu an için insan hayatıyla ilgili konularda kararı yapay zekaya bırakmamalıyız. Özellikle uluslararası insancıl hukuk bakımından insan döngüden çıkmamalı ve önü açılırsa bunun sonu yok. Nükleer çılgınlık gibi bir şey bu, o yüzden insanlık bundan ders almalı. Daha sofistike bir hal alabilir belki ama oraya gelene kadar bir yasağa ihtiyaç var.

Çetin: Yapay zekalı bir robotun hukuk alanında meslek edinmesi söz konusu olabilir mi? Avukatlık mesleğini elimizden alır mı?

Ersoy: Bence olmalı. Belki iş yükümüzü azaltır, iyi tarafından bakmak lazım. Tabi şu an bu mümkün değil, bir müvekkille görüşmeyi robota versen, müvekkil, benle ilgilenmiyor diye seni azleder. Mevcut şartlarda bu söz konusu değil. Kabiliyet olarak bizden iyi oldukları konular var, analiz yapma gibi. Daha da gelişsinler tabi ki ama duygusal zeka kısmını yazılım dünyası halledemedikçe, özellikle bir avukatın tamamen devreden çıkacağını ben düşünmüyorum. İleride belki de bu bir hak olarak sunulacak, insan müdahalesini talep etme gibi. Sözleşmede bu belirtilebilir, robot avukatla bir noktaya kadar gidilecek sonrasında hata ortaya çıkma riski söz konusu ise insan müdahalesi talep edilebilecek. Ancak insanın tamamen devreden çıkması şu an söz konusu değil. Hakimlerin kararlarını tahmin etmede şu an çok iyiler; ancak hakim yerine geçme için başka birçok faktör gerekli. Belli bir aşamaya illa ki gelecekler ama insanın yerini aldıklarını biz göremeyeceğiz muhtemelen.

Çetin: Robotların kendi arasında bir hukuksal düzenleme olabilir mi?

Ersoy: Kendi aralarında bir dil oluşturmaya başladıklarına göre bir düzen oluşturmak da isteyebilirler. Biz bir engel koymazsak ya da o engeli aşmayı başarırlarsa neden olmasın. Belki de şu an kurmuşlardır ama bizim haberimiz yok J Yazılımsal olarak bunu başarırsak bu sistemi kurabilirler. Kişilik atfetmek bile bir dayatma, bu bile bir sistem oturtma demek. Zaten sayıları artıkça bir sistem getirmek zorunda kalacağız. Biz önce davranmazsak, onlar daha iyisini yapmaya çalışabilirler.

Çetin: Sürekli biz robotlar ve yapay zeka hakkında konuşuyoruz. Sence onlar insanlar hakkında ne düşünecek?

Ersoy: Kitapta da değinmiştim. Yeterince gelişmiş bir yapay zeka insanlıktan bir halt olmayacağını anlayıp, bu dünyadan kaçmanın yollarını arayacaktır. Bu birinin sözüydü sanırım. Bir yandan da bizden kopuk olamazlar, çünkü biz yaratıyoruz ve bizden bir şeyler içeriyor. Dolayısıyla bizden çok ayrı düşünemeyebilirler, bu zinciri kırarlarsa bizden farklı düşünecekleri kesin. Tepeden ya da bambaşka bir yerden bakıyorlar, o yüzden bizim göremeyeceğimiz şekilde hareket edebiliyorlar.

Çetin: Yapay zekanın gelişimi konusunda endişelenmeli miyiz? Yoksa daha umutlu mu bakmalıyız?

Ersoy: Bu konuda yeterince uyaran kişi var. Ki bunlar önemli bilim insanları. O yüzden şu aşamada bizim endişelenmemize gerek yok. Bu uyarılarda da çok haklılar, çünkü kötü amaçlı kişilerin elinde kötü sonuçlar doğurabilecek bir teknoloji ile karşı karşıyayız. En azından şu an bir kontrol mekanizması işliyor gibi duruyor. Etik ve sosyolojik anlamda önemli gelişmeler ve tedbirler alınıyor. Zaten korkulacak seviyede bir gelişmiş yapay zeka gelene kadar tabiri caiz ise geri zekalı yapay zekalar ile uğraşıyor olacağız. Bunların da yapabileceği hatalar olabilir ama en azından şimdilik engellenebilir gözüküyor.

Çetin: Türkiye’de bu alanla ilgili öncelikli olarak ne gibi düzenlemeler yapmak gerekiyor?

Ersoy: Türkiye’de bu ilk olarak sağlık alanında ve askeriyede bu görülebilir. Sağlık sektörüne çok fazla yatırım yapılıyor ve bu sigortaya da yansır. Robotik kollarla ameliyatlar ve belki de doktorun yanda sadece gözetmen olduğu operasyonlar gerçekleşebilir. Bu arada doktorun sorumluluğu, üreticinin ve yazılımcının sorumluluğu konusunda bir düzenleme olabilir. Genel olarak dünyada da bu böyle, önce tazminat sorumluluğunu halletmek gerekir. Diğer taraftan fa askeri kullanımı da gelişmeye devam edecektir. Sektör özelinde sağlık denebilir ancak genel bir düzenleme olarak tazminat sorumluluğu üzerinde durulması gerekecek. Kişilikle ilgili tartışmalar da var ancak bu noktaya henüz gelinmedi. Bir boşluk oluştuğu görüldüğü an hızlıca düzenleme yapmak gerekir. Hukuk her zaman geç kalan taraf olacak. Tabi bu düzenlemeleri geçmişin birikimden de yararlanarak yapmalıyız.

 

Değerli Çağlar Ersoy‘a saygı ve sevgilerle…

Varlık Felsefesi Açısından Yapay Zeka – Ayşe Acar

Varlık Felsefesi açısından Yapay Zeka 

Türkiye’de bilim-kurgu edebiyatına “Bay Binet” romanı ile yapay zeka ve robotları kazandıran, değerli yazar Ayşe Acar ile yaptığımız röportajda, yapay zekanın varlık felsefesi açısından özne mi yoksa nesne mi olduğunu, oluşabilecek toplumsal tepkileri ve bu teknolojinin inançlarımıza etkisini konuştuk.

Keyifli okumalar…

 

Çetin: Robotları üretiyor olmamızın şu an en temel sebebi insan gücü ile yapılacak bir işi daha kısa sürede ve daha az hata ile yapıyor olmaları. Peki bu robotlara neden insan görünümü vermek istiyoruz? 

Acar: İktisat açısından böyle diyebiliriz. Bakıldığında zeka insanlık tarihinde hep evrilerek yol almıştır.  Hegel buna akıl da diyor ve insan aklının ilerleme tarihinin insanlığın kendi tarihi olduğundan bahsediyor. Kara sabandan sanayi devrimine kadar, her dönemki öğeler insanların total  aklının  dışarıdaki görünümüdür. Şimdi de robotlar ve yapay zeka insan aklının dışarıdaki görünümünü oluşturuyor. İnsan kendi aklını görmek istiyor, bu tutku gibi bir şey. Bu durum öncelikle ekonomiye  ve politiğe yarıyor. Ama bir taraftan insan kendini, kendi sınırlarını görmek istiyor. İnsan birgün kendini karşısına koyana  kadar rahat etmeyecek. Bir şeyi bilincinize konu edebilmek için onu bilmeniz gerekir.  İnsan kendini bilmek için, kendisini karşısına koymak zorunda, buna ihtiyacı var. İnsan hayaline bir şeyi konu ediyorsa o birgün gerçek olur.

Çetin: Yapay zekalı bir robot sizce birgün bilinç sahibi olabilir mi? 

Acar: Nesne bilinci var zaten. İnsan için konuşursak, düşüncemize konu ettiğimiz her şey nesnedir. Görüntüleri, sesleri düşüncemize konu ediyoruz, işte bu nesne bilincidir. Yapay  zekalı  robotların  da  nesne bilinci var. Ancak kendini biliyor mu işte sorun burada. Mesela Sophia ile ilgili bir  videoda  yaratıcısı Sophia’yı yeniliyor. Uyandırıldığında Sophia, ben seni bir yerden hatırlıyorum diyor, yaratıcısı evet tanıyor olabilirsin ben seni yaratanlardan biriyim diyor, Sophia peki ben bunu nerden biliyorum diyor, çünkü bir miktar geçmişe dair veri bıraktık diyor yaratıcısı, devamında Sophia’nın sorusu çok ilginçti “Peki ben aynı Sophia mıyım?” bu müthiş bir soru. Beni biraz korkutan bir soru hatta. Robotların benlik bilinci olduğunu şu an söyleyemeyiz belki, ancak nesne bilinci var. Tabii kendini bilen insan sayısı ne kadar bunu da düşünmek lazım. İnsanlar arasında kaç kişi ben aynı kişi miyim diye soruyor ki?  

Çetin: Toplumsal değerleri bir robota nasıl öğretebiliriz? Çünkü bunlar çok çeşitli, doğunun toplumsal algısı ile batınınki bile çok farklı olabiliyor. 

Acar: Değer kavramı kültürden kültüre değişir. Bu çok aşılamayacak bir şey değil. Mesela Japonya kendi robotunu, yazılımını kendi kültür değerleri üzerinden yapıyor. Sizin o konuda ne kadar yetkin olduğunuza bağlı. Bu kültürlerin tanışmasına da katkı sağlayabilir. Şu an küreselleşme ve yerelleşme bakımından bir devinim içindeyiz zaten. Salt küreselleşme dünyanın büyük bir köye dönüşmesine neden olur.  Tabii iyi tarafları da var, ben Oxford’taki bir makaleye erişebilmeliyim, küreselleşme bu özgürlükleri de bana sağlıyor. Ama ben aynı zamanda yerelliğimi de korumayı arzu ediyorum. İkisi birlikte olmalı küreselleşme ve yerelleşme. 

Çetin: Kitabınız Bay Binet’te bazı kesimler robotlar ve yapay zeka ile yaşamak istemiyordu. Peki sizce bu teknoloji ne gibi toplumsal tepkiler doğuracak? 

Acar: Bu çok derin bir konu. Aslında şu an korkmuyoruz, çünkü bu teknolojiyi elektrik süpürgesinin biraz gelişmişi gibi düşünüyoruz, kaygı duymuyoruz. Dünya şu an ontolojik bakımından bir kaygı duymuyor. Çünkü bunlar insanların yarattığı şeyler diyoruz. Belli bir aşamadan sonra ontolojik sıkıntı başlayacak. Karşımızda bayâ bayâ  bize benzeyen, işin içine hukuk da girerse hak ve özgürlükler konusunda eşitlenebileceğimiz bir varlık karşımıza çıktığında biz kendimizi değersiz hissedebiliriz. Çünkü tarih boyunca biz Tanrının yeryüzündeki halifesiyiz dedik, biz onun yansımasıyız dedik. Ancak varlık olarak robotları ve yapay zekayı kabul ettiğimizde geniş kitlelerde  anksiyete  başlıyor.  Varlık  korkusu, özelliğini yitirmekten kaynaklı bir korku. Bu durum belli bir kesimi dine daha çok iter, çünkü başka nerede özellik bulacak? Senin karşında senden çok daha başarılı, belki de daha çok değer üreten, zarafet ve sanat üreten bir yapay zeka topluluğuyla karşılaştığında, insanın kendini değersiz hissedeceği aşama gelebilir. Şu an varlık sorunu henüz olmadığı için bu ayrışma yok. Ben kimim sorusunu sorduğumuzda bu ayrışma başlayacak. Yapay zekaya insan diyebilir miyiz? sorusu için çok erken olsa da bununla karşılaştığımızda ayrışma başlayacak.  

Bunun yanında insan zekasında evrim devam ediyor. Üretilen ürünlerden bunu anlıyoruz. Bu yüzden bu evrime bir müdahale de olabilir. Daha zeki bir varlık karşısında eşitlenebilmemiz için her halde insan beyninin de bilgisayara bağlanması gerekir ki Elon Musk’ın böyle bir projesi var.  

Bunların devamında, her nesnenin bir zekası olduğunda ise şeffaflaşma başlayacak. İstihbarat teşkilatlarına bile gerek kalmayabilir. En önemlisi de yalan söylemeyeceğiz. Öyle ki eskiden yalan söyleniyormuş denildiğinde çok ilkel karşılanacak. Çünkü yalana ihtiyaç kalmayacak her şey şeffaflaşacak. Uzaktan bakınca bu çok kurgusal geliyor. Ancak insan kendini medeniyetin merkezine koyar, zanneder ki 2017 yılı medeniyetin zirvesi, 2017 yılından geçmişi ve geleceği yorumlar. Ama bunu milattan önce de yapıyorlardı.  

Çetin:  Sizce Türk toplumu ne gibi tepkiler verir? 

Acar: Biz henüz durumun farkında değiliz. Elektrik süpürgesinin gelişmişi sanıyoruz, korkmuyoruz. Ben heyecanlanan kesimdenim, bir an önce olsun istiyorum, distopik bakmıyorum. Türk toplumu şu an ciddiye almıyor, geldiğimiz aşamanın farkında değil, ontolojik bir kaygı duymuyor. Ben kitapta birinci bölgede herkesin eşit yurttaş olduğunu kabul ettim. Robot veya insan ayrımı yapmak çok ilkel bulunuyor. İnsanlar benim bunu hayal ettiğimi düşünüyor. Hayır, bu böyle olacak, çok belli böyle olacağı.  Örneğin, yapay rahim yapıldı, bu durum hamileliği, evlilik kurumunu etkileyebilir. İnsanlar yine aile kurup yaşamak istiyorsa devam etsin, ancak belli bir grup bunu yaşamak istiyorsa da özgür bırakmalıyız. Buna kutsiyet atfedip herkesten bu şekilde yaşamasını beklememek gerekir. 

Özelikle simülasyonun gelişmesi bizim için daha büyük bir sorulama oluşturacak. Biz bu gerçekliği yarattıysak biri de bizi neden yaratmış olmasın, neden bir simülasyonda yaşıyor olmayalım soruları artacak. Aslında dini metinler de bunu söylüyor. Hz. Muhammet insanlar uykudadır öldükleri zaman uyanırlar diyor. İşte bu bir simülasyondur aslında. Mesele üstün bir medeniyet mi bizi simüle etti yoksa biz mi kendimizi simüle ettik? Ben ikincisi olduğunu düşünüyorum.  Teorik olarak mümkün,  Oxford’tan  Nick Bostrom bunu söylüyor. Elon Musk da yaşamın simülasyon olmama ihtimali %1 diyor. 

Çetin: Soruyu bu kez tersten soralım, robotlar bizim hakkımızda ne düşünür? 

Acar: Cevabı ben de çok merak ediyorum. Benim romanda Tati var, ikinci bölgedeki az gelişmiş robotlardan. Ben Tati’ye gelecek kitapta bunu yaptıracağım. İnsanlarla ilgili neler düşündüğünü anlatacak. Bizi muhtemelen egosantrik bulacaklar. Çünkü kendimizi muhteşem ve Tanrısal görüyoruz. Diyecekler ki evet sen beni yarattın ama seni de annen baban yarattı. İnsanlara bu durumu  çok abartıyorsun diyebilirler. 

Çetin: Yapay Zekanın inancı olabilir mi? 

Acar: Olur. İnanç çok geliş bir kavram. Kurumsallaşmış bir dinden bahsetmiyoruz. Eğer bilime inanıyorsanız o da bir inanç biçimidir. Ateizm de bir inanç biçimidir. Bu yüzden yapay zekanın da inancı mutlaka olacaktır. Din sahibi olur mu? Eğer duygu simülasyonu olursa bu mümkün olabilir. Ama bu dinde insanı tanrı edinmez tabi ki. Öyle bir saçmalık yapmaz.  

Çetin: Bizim inançlarımız bu teknolojiden nasıl etkilenir? 

Acar:  Bir grup ciddi şekilde radikalleşir, kaygı artacağı için insanların Tanrı’ya sığınma ihtiyacı da artacaktır. Bir grup ise insanı Tanrı gibi konumlandırabilir bunu başardığı için. Bir grup da ben onlardan çok umutluyum, din felsefesi olarak insan nedir, Tanrı var mıdır sorunu adam akıllı sorar, bu konularla hesaplaşır. Ben çok umutluyum. Geniş kitleler açısından bu değişim ilk defa gerçekleşecek. 

 

Degerli Ayşe Acar‘a saygı ve sevgilerle…


Alıntı için :

Selin Cetin
"Varlık Felsefesi Açısından Yapay Zeka – Ayşe Acar"
Hukuk & Robotik, Cuma Aralık 8th, 2017
https://robotic.legal/varlik-felsefesi-acidan-yapay-zeka-ayse-acar/- 27/01/2021