Yapay Zekanın Ahlakı

Yapay Zekanın Ahlakı

 

Nick Bostrom
Eliezer Yudkowsky

Cambridge Üniversitesi Yayını, 2011

 

 

 

Özet

“Düşünen makineler yaratma olasılığı bir dizi etik sorun oluşturmaktadır.Bu sorunlar, hem bu gibi makinelerin insanlara ve diğer ahlaki açıdan ilgili varlıklara hem de makinelerin kendi ahlaki durumlarına zarar vermemesi sağlamak ile ilgilidir.Birinci bölüm, Yapay Zekanın yakın gelecekte ortaya çıkabilecek sorunlarını tartışmaktadır. İkinci bölüm, Yapay Zekanın insan zekasına yaklaşırken, güvenli bir şekilde işletilmesini sağlamak için zorlukların ana hatlarını çizmektedir. Üçüncü bölüm, Yapay Zekaların kendilerinin ahlaki statüye sahip olup olmadıkları ve onları hangi koşullarda değerlendirebileceğimizi özetlemektedir. Dördüncü bölümde, Yapay Zekaların etik değerlendirmemizle ilgili bazı temel açılarda, insandan nasıl farklılaşabileceğini inceliyoruz. Son bölüm, insandan daha zeki Yapay Zeka yaratma ve onların ilerlemiş zekalarını, kötülükten ziyade iyilik için kullanmalarını sağlama sorununu ele alıyor.”

 

Makaleye aşağıdaki bağlantıdan ulaşabilirsiniz:

https://nickbostrom.com/ethics/artificial-intelligence.pdf


Alıntı için :

Selin Cetin
"Yapay Zekanın Ahlakı"
Hukuk & Robotik, Friday October 13th, 2017
https://robotic.legal/the-ethics-of-artificial-intelligence/- 09/12/2021

 

Ölümcül Robotlar

 

ÖLÜMCÜL ROBOTLAR

Dronlar ve diğer uzaktan kumandalı araçlar gerçek özerk silahlardan farklı gözükebilir; ancak bu durum, askeri rekabet şartlarından dolayı, eski silahları hızla geliştirmeye zorluyor. Uluslararası Af Örgütü, bu ölümcül silahların savaş suçu olabileceğinden endişe ederken, dönemin Amerikan Başkanı Obama, 2013 yılında, dron savaşlarının sadece savaş teorisinin şartlarını yerine getirdiğini dile getirmişti.1

Dronlar hakkında farklı görüşler mevcut olmakla beraber, kısaca, otonom hareket edip öldürmeye yönelik kararlar alabilen robotik yapılardır, diyebiliriz. Şu an Amerikan ordusunun üstünlüğünün yanında, bu durumun diğer ülkelere de sıçramış olmasından dolayı, savaş alanında dronların kullanılması kimi çevrelerce tehlikeli kabul edilmektedir.

Öncelikle konuya dair uluslararası insancıl hukuka bakmak faydalı olabilir. Uluslararası zeminde konuya dair birçok sözleşme bulunmaktadır. Günümüzde savaşa girmede ve savaş biçiminde haklılık konusundaki değerlendirmelerde yetkili merci Birleşmiş Milletler olarak kabul ediliyor. 2 BM’nin de dayandığı “Jus ad Bellum” ve” Jus in Bello” ilkeleri dronların savaş alanlarında kullanılması noktasında ele alınması gereken ilkeler. Jus ad Bellum, savaşa girme gerekçelerinin haklı olması gerektiğini, Jus in Bello ise savaşma biçiminin haklı olması gerektiğini ifade eder.3

Bazı yazarlar, otonom silahların savaş alanında kullanılmasını, sorumluluğu belirlemede yaşanabilecek problemler gereği kabul etmemektedir. Yeteri derecede görsel algılama yeteneği olmayan robotların sivil-asker ayrımı yapması güçleşeceğinden, bunların orantılılık ve ayrımcılık ilkelerini uygulaması da yetersiz kalacaktır. Ayrıca ölümcül kuvvet uygulayıp uygulamama konusundaki değerlendirmenin otonom robotlar tarafından yapılamayacağı da dile getirilmektedir.4Duygulara sahip olmayan bir robot tarafında verilen karar daha objektif nitelikteymiş gibi düşünülse de insandaki içgüdüsel kontrol de unutulmamalıdır.

Savaş alanındaki bir robotun fiillerinden sorumluluk konusunda izlenecek yol tartışmalıdır. Şu anki durumda, robotları fiillerinden dolayı yargılamamız söz konusu olamaz. Komuta sorumluluğu ilkesi gereği, komutanlar kendi astları tarafından işlenen suçlar nedeniyle sorumlu tutulabilir. Ancak komutanlar da her durumda robotların eylemlerini öngöremeyebilir. Yazılımcılar bakımından ise otonom bir makinede tüm ihtimallerin belirlenebilmesi olası değildir. Üretici firma bakımından ise firmanın oluşabilecek tehlikeli durumlar için bildirimde bulunmuş olması gerekmektedir. Üretici sorumluluğu düşünülebilirse de savaş suçu mağdurlarının bulunduğu zor koşullar içinde üretici firmaya dava açması ihtimali çok zayıf olacaktır.

İlk bakışta savaş alanlarında daha az asker bulunmasından dolayı can kaybı azalacağı düşünülebilir. Ancak bu durum hükümetlerin savaşa girme kararlarını da kolaylaştırabileceğinden sivil kayıpların artmasına neden olması olasıdır. Ayrıca bu durum terörün yaygınlaşmasına da sebep olabilir. Dron operatörlerinin uzaktan kumanda etmesi, soğukkanlılıktan ziyade hedef vurulduğunda adrenalinin yükselmesine sebep olacağından sağlıklı karar alma mekanizmasını da etkileyebilecektir.5

1990 tarihli Birleşmiş Milletler Kolluk Güçleri Görevlileri Tarafından Kuvvet ve Ateşli Silah Kullanılması Hakkında Temel İlkeler6 ve 1979 tarihli Birleşmiş Milletler Kolluk Kuvvetleri Davranış İlkeleri7 kapsamında belirlenen “kuvvet kullanımının zorunlu olması, son çare olması ve orantılı olması” ilkelerinin ölümcül robotlar tarafından yerine getirilemeyeceği ifade ediliyor. Bunun sonucu olarak, diğer temel hakların ön şartı olan yaşam hakkının ihmal edilmesi de söz konusu olacaktır. 8 Ayrıca kimi yazarlar, ölüm kalım kararını verme yetkisinin robotlara devredilmesinin tek başına insan onuruna zarar verebileceğini ve dolayısıyla temel hakların bütününü ihlal edeceğini söylüyor. 9

Dronlar hakkındaki çekinceli görüşlerin yanında, sistemlere yerleştirilecek sensörlerin operatörün alacağı kararla alakalı, örneğin olası hedefin kimliği, niyeti, geçmişi, o andaki yeri ve aktiviteleri ile ilgili bilgileri verebileceğini ve bunun da savaşın etik niteliğini artırabileceğini ileri süren yazarlar da mevcut.10 Ronald Arkin’e göre robotun ateş etmeden önce geçmesi gereken iki aşamalı bir kontrol prosedürü olmalıdır. İlk olarak robot, bir saldırının uluslararası insancıl hukuk ve silahlı çatışma  ilkelerine aykırı olup olmadığını değerlendirecek, aykırılık yoksa ve saldırı operasyonel emirler çerçevesinde gerekliyse ikinci adıma geçebilecek. 11

Sonuç olarak, konuya dair farklı görüşler bulunmakta olup, başta insan ölümlerini azaltacağı olumlu bir etki olarak düşünülebilir; ancak doğacak zararlarda sorumluluk ile ilgili belirsizlik olmasından dolayı konuya daha mesafeli yaklaşılmalı ve hukuksal düzenlemeler yapılmadan robotların savaş alanlarındaki sayıları artırılmamalıdır.

 

Selin

(Yazı genelinde ayrıca “Robotlar, Yapay Zeka ve Hukuk” kitabından faydalanılmıştır.)


Alıntı için :

Selin Cetin
"Ölümcül Robotlar"
Hukuk & Robotik, Tuesday September 12th, 2017
https://robotic.legal/olumcul-robotlar/- 09/12/2021

 

Robotlar Hakkında Yasalar, Robotlar Tarafından Yasalar, Robotlarda Yasalar: Robot Davranışlarının Tasarım ile Düzenlenmesi

Robotlar Hakkında Yasalar, Robotlarca Oluşturulan Yasalar, Robotlarda Yasalar:

Robot Davranışlarının Tasarım ile Düzenlenmesi

Ronald E. Leenes Tilburg Hukuk, Teknoloji ve Toplum Enstitüsü; Tilburg Hukuk Fakültesi 

Federica Lucivero Londra Üniversitesi; Sosyal Bilimler, Sağlık ve Tıp Bölümü(SSHM)

28 Kasım 2014

 Özet

Robot ahlakı ile ilgili teoriler hemen hemen robot konusu kadar eskidir.Asimov’un üç robotik yasası, daha önceden iyi tartışılmış robotların uyması gereken ahlaksal kuralların örneğini sunuyor. Üç robotik yasasının yaygın etkisine ve geleceğin “robo-dense”(robo-yoğun) dünyasının rollerini şekillendirmedeki vizyonuna rağmen, bu yasalar robotların uzay yolculuğundaki davranışları, engel önleme, otomatik öğrenme ve benzer diğer daha az belirsiz soruları adres gösterilip, futuristik olarak robotikçiler eliyle meşgul edilerek ihmal ediliyor. Ahlak ve işlev arasında büyük bir  uçurum yer alıyor. Robotlar bizim günlük yaşamımıza girdiğinde, sosyal ve hukuksal normlara uyması gerecek.Örneğin,hastanedeki sosyal robotların sosyal kurallara uyması beklenir ( yas tutan ailenin arasına girmemeli) ve  otomatik arabalar gibi sokaklardaki çöpleri temizleyen robotik toz temizleyicilerin trafik kurallarına uyması gerekir. Bu makalede, robot davranışlarının düzenlendiği çeşitli yollar üzerinde duruyoruz. Robotlar hakkındaki düzenlemelerin etkisi ile robotlar tarafından düzenlemenin ve robotlardaki düzenlemenin etkisi arasında ayrım yapıyoruz. Bunu yaparken, insan davranışlarını etkilemeyi amaçlayan düzenlemeler ve robot davranışları konusundaki düzenlemeler arasında ayrım yapıyoruz. Robotların yapay aygılarının tasarımcıya ihtiyacı olduğunu ve düzenleyicilerin robot davranışlarını hukuksal normlara uyumlu kılmanın yolunu nasıl bulabilecekleri soruna bakacağını iddia ediyoruz. Tasarım gereği düzenleme bunu için bir vasıta sunar. Otomatik araç örneği ile bu fikri daha iyi tetkik ediyoruz.

 

 

Makaleye aşağıdaki bağlantıdan ulaşabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2546759


Alıntı için :

Selin Cetin
"Robotlar Hakkında Yasalar, Robotlar Tarafından Yasalar, Robotlarda Yasalar: Robot Davranışlarının Tasarım ile Düzenlenmesi"
Hukuk & Robotik, Tuesday August 8th, 2017
https://robotic.legal/english-laws-on-robots-laws-by-robots-laws-in-robots-regulating-robot-behavior-by-design/- 09/12/2021