Savunma Bakanlığı için Yapay Zeka Etik İlkeleri

 

Savunma Bakanlığı için Yapay Zeka Etik İlkeleri

 

Ekim, 2019 – DIB

 

Savunma Bakanlığı için Yapay Zeka Etik İlkeleri

 

Aşağıdaki ilkeler, Bakanlığın yapay zeka (YZ) geliştirip kullanırken benimseyeceği etik davranışlar için araçlar sunmaktadır. Bu amaçla, Bakanlık YZ sistemleri kullanımında şu hedefleri belirlemelidir:

  1. Sorumlu. İnsanlar uygun seviyelerde karar veriyor olmalı ve YZ sistemlerinin geliştirilmesinden, yayılmasından, kullanılmasından ve sonuçlarından sorumlu olmalıdır.
  2. Eşit. DoD, istemeden insanlara zarar verebilecek olan savaş ya da savaş dışı YZ sistemlerinin geliştirilmesi ve yayılmasında oluşacak önyargıları önlemek için bilinçli adımlar atmalıdır.
  3. İzlenebilir. DoD’nin YZ mühendislik disiplini, teknik uzmanların şeffaf, denetlenebilir metodolojiler, veri kaynakları, tasarım prosedürü ve dokümantasyon dahil olmak üzere YZ sistemlerinin teknolojisini, geliştirme süreçlerini ve operasyonel yöntemlerini uygun şekilde anlayabilmesi için yeterince gelişmiş olmalıdır.
  4. Güvenilir. YZ sistemleri açık, iyi tanımlanmış bir kullanım alanına sahip olmalı ve bu tür sistemlerin emniyeti, güvenliği ve sağlamlığı, kullanım alanları içinde tüm yaşam döngüleri boyunca test edilmeli ve güvence altına alınmalıdır.
  5. Yönetilebilir. DoD YZ sistemleri, istenmeyen zarar veya bozulmayı saptama ve önleme, istenmeyen kışkırtıcı vb. davranışları gösteren konuşlandırılmış sistemleri devre dışı veya etkisiz bırakma yeteneğine sahipken, söz konusu amaçlanan işlevlerini yerine getirecek şekilde tasarlanmalı ve üretilmelidir.

Bu Rapor beş bölümden oluşmaktadır. Birinci Bölüm, mevcut stratejik belgeler ve yasalardan elde edilen bir dizi YZ Etik İlkeleri ve etik rehberleri için belirlenen ihtiyaçları özetlemektedir. DoD ve YZ’nin geliştirilmesi ve kullanımında DİB’in kilit konulara nasıl yaklaştığının açıkça çerçevelenmesi için YZ ve otonomi ile ilişkili tanımlayıcı yaklaşımlara işaret etmektedir. İkinci Bölüm, bir dizi DoD YZ Etik İlkesi’nin tutarlı ve sürekli şekilde oluşturulması için gerekli temel bilgiyi sağlamaktadır. Burada YZ’nin dahil olduğu, DoD’nin tüm DoD teknolojilerine uygulanan mevcut etik çerçevesini açıklamaktayız. Üçüncü Bölümde, beş YZ Etik İlkesinin her birinin temel ve kanıta dayalı açıklamalarını sunmaktayız. Bu ilkeler normatiftir; aksiyonlarla ilgili bilgilendirme ve yönlendirmeyi amaçlarlar. Ancak, içeriğe bağlı olarak, bazı ilkelerin diğerlerini geçersiz kılabileceğini ve çeşitli YZ kullanım durumları için bunların farklı şekilde uygulanacağını biliyoruz. Beşinci Bölüm ise sonuçları ortaya koyarken, Dördüncü Bölüm, Bakanlığa önerilerimizi özetlemektedir. Ayrıca, bu ilkeleri geliştirip, mevcut DoD süreçleri hakkında üst düzey içerik oluşturup sürecimizle ilgili şeffaflık ve açıklık sağlayarak okuyuculara yardımcı olacak bir dizi Ek sunmaktayız.

 

Raporun tamamına aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://admin.govexec.com/media/dib_ai_principles_-_supporting_document_-_embargoed_copy_(oct_2019).pdf

 

Google’daki Yapay Zeka: İlkelerimiz

 

Google’daki Yapay Zeka: İlkelerimiz

Related image

Sundar Pichai

 

Sundar Pichai

CEO

7 Haziran 2018

 

 

 

Yapay zeka özünde, öğrenen ve adapte olan bir bilgisayar programıdır. Her problemi çözemez, ancak hayatlarımızı iyileştirme potansiyeli çok büyüktür. Biz Google’da yapay zekayı – spam gelmeyen ve kolay oluşturulan e-postalardan, doğal bir şekilde konuşabileceğiniz dijital asistanlara, hoşunuza gidebilecek fotoğrafların önünüze çıkmasına kadar- ürünlerimizi daha faydalı olması için kullanıyoruz.

Ürünlerimizin ötesinde, yapay zekayı insanların acil problemlerini çözülmesinde yardımcı olmak için kullanıyoruz. Bir çift lise öğrencisi, orman yangını riskini tahmin etmek için YZ destekli sensörler üretiyor. Çiftiler onu sürülerinin sağlığını izlemek için kullanıyorlar. Doktorlar, kanseri teşhis etmeye ve körlüğü önlemeye yardımcı olmak için YZ kullanmaya başlıyor. Bu belirgin faydalar, Google’ın YZ araştırma ve geliştirmeye büyük yatırımlar yapmasını ve YZ teknolojilerinin diğerleri tarafından, Google’ın araçları ve açık kaynak kodları vasıtasıyla yaygın şekilde kullanılabilmesini sağlamaktır.

Bu güçlü teknolojinin, kullanım konusunda eşit derecede güçlü sorular ortaya koyduğunu biliyoruz. YZ’nin nasıl geliştirildiği ve kullanıldığının yıllar boyunca toplum üzerinde önemli bir etkisi olacak. YZ’de bir lider olarak, bunu doğru yapmak için büyük bir sorumluluk hissediyoruz.  Bu sebeple bugün, ilerleyen çalışmalarımıza rehberlik etmesi için yedi ilkeyi ilan ediyoruz. Bunlar teorik kavramlar değildir; araştırma ve ürün geliştirmemize aktif olarak yön verecek ve iş kararlarımızı etkileyecek somut standartlardır.

Bu alanın dinamik ve gelişmekte olduğunu kabul ediyoruz ve çalışmalarımıza alçakgönüllülük, içsel ve dışsal bağlılık taahhüdü ile; ve zaman içinde öğrendiğimiz yaklaşımımızı adapte etme isteğimizle yaklaşacağız.

Yapay Zeka Uygulamaları için Hedefler

YZ uygulamalarını aşağıdaki hedefler doğrultusunda değerlendireceğiz. İnanıyoruz ki YZ:

  1. Sosyal açıdan faydalı olmalı.

Yeni teknolojilerin genişletilmiş erişimi, bir bütün olarak topluma giderek daha fazla dokunuyor. YZ’deki ilerlemeler, sağlık, güvenlik, enerji, ulaşım, üretim ve eğlence gibi çok çeşitli alanlarda dönüştürücü etkilere sahip olacak. YZ teknolojilerinin potansiyel gelişimini ve kullanımlarını göz önünde bulundurduğumuzdan, geniş bir yelpazede sosyal ve ekonomik faktörleri dikkate alacağız ve olası genel faydaların, öngörülebilir risk ve dezavantajları büyük ölçüde aştığına inandığımız yerde devam edeceğiz.

Ayrıca YZ içeriğin anlamını etraflıca anlama yeteneğimizi geliştirir. Faaliyet gösterdiğimiz ülkelerdeki kültürel, sosyal ve hukuki normlara saygı göstermeye devam ederken, YZ kullanarak yüksek kalitede ve doğru bilgileri hazırlamaya çalışacağız. Teknolojilerimizi ne zaman ticari olmayan bir şekilde kullanılabilir hale getireceğimizi dikkatlice değerlendirmeye devam edeceğiz.

  1. Haksız önyargı yaratmaktan ya da bunu güçlendirmekten kaçınmalı

YZ algoritmaları ve veri tabanı haksız önyargıyı yansıtabilir, güçlendirebilir ya da azaltabilir. Haklı önyargıları, haklı olmayan önyargılardan ayırt etmenin her zaman basit olmadığının; ve kültürler ve toplumlar arasında farklılık gösterdiğinin farkındayız. Özellikle insanlar üzerinde ırk, etnik köken, cinsiyet, milliyet, gelir, cinsel yönelim, yetenek ve siyasi veya dini inanç gibi hassas niteliklerle ilgili haksız etkilerden kaçınmaya çalışacağız.

  1. Güvenlik için inşa edilmeli ve test edilmeli

Zarar riskine yol açan istenmeyen sonuçları önlemek için güçlü güvenlik ve koruma uygulamalarını geliştirmeye ve uygulamaya devam edeceğiz. YZ sistemlerimizi uygun şekilde ihtiyatlı olmak için tasarlayacağız ve bunları YZ güvenlik araştırmasında en iyi uygulamalara göre geliştirmeye çalışacağız. Uygun durumlarda, YZ teknolojilerini kısıtlı ortamlarda test edeceğiz ve dağıtımdan sonra çalışmalarını izleyeceğiz.

  1. İnsanlara karşı sorumlu olmalı

Geri bildirim, ilgili açıklamalar ve itiraz için uygun fırsatlar sunan YZ sistemleri tasarlayacağız. Bizim YZ teknolojilerimiz uygun insan yönlendirmesine ve kontrolüne tabi olacaktır.

  1. Gizlilik tasarım ilkelerini kapsamalı

Gizlilik ilkelerimizi, YZ teknolojilerimizin geliştirilmesine ve kullanımına dahil edeceğiz. Bildirim ve onay için fırsat verip, gizlilik önlemleri ile yapıları teşvik edip, verilerin kullanımı üzerinde uygun şeffaflığı ve kontrolü sağlayacağız.

  1. Yüksek bilimsel başarı standartlarını desteklemeli

Teknolojik yenilik, bilimsel yönteme dayanmaktadır ve açık sorgulama, entelektüel titizlik, dürüstlük ve işbirliği için bir taahhüt kaynağıdır. YZ araçları biyoloji, kimya, tıp ve çevre bilimleri gibi kritik alanlarda yeni bilimsel araştırma ve bilgi alanlarını ortaya çıkarma potansiyeline sahiptir. YZ gelişimini ilerletmek için çalışırken, yüksek standartlarda bilimsel başarı arayışındayız.

Bilimsel olarak titiz ve çok disiplinli yaklaşımları kullanıp, bu alanda düşünceli(anlayışlı) liderliği teşvik etmek için bir dizi paydaşla birlikte çalışacağız. Ayrıca, eğitim materyallerini ve en iyi uygulamaları yayınlayarak YZ bilgisini sorumlu bir şekilde paylaşacağız ve daha fazla insanın yararlı YZ uygulamaları geliştirmesini sağlayacak araştırmalar yapacağız.

  1. Bu ilkelere uyan kullanımlar için geçerli kılınmalı

Birçok teknolojinin birden fazla kullanımı vardır. Potansiyel olarak zararlı veya taciz edici uygulamaları sınırlandırmak için çalışacağız. YZ teknolojilerini geliştirip uygularken, aşağıdaki faktörlerin ışığında olası kullanımları değerlendireceğiz:

  • Birincil amaç ve kullanım: Çözümün zararlı bir kullanımla ne kadar yakından ilişkili olduğu veya ona uyarlanabileceği de dahil olmak üzere, bir teknoloji ve uygulamanın birincil amacı ve olası kullanımı.
  • Mahiyet ve teklik: Benzersiz veya daha genel şekilde mevcut olan teknolojiyi sağlanması.
  • Ölçü: Bu teknolojinin kullanımının önemli bir etkisi olması.
  • Google’ın dahil olmasının mahiyeti: Genel amaçlı imkanlar sağlanması, imkanların müşterilere entegre edilebilmesi veya özel çözümler geliştirilmesi.

YZ Uygulamalarını İzlemeyeceğiz

Yukarıdaki amaçlara ek olarak, YZ’yi aşağıdaki uygulama alanlarında tasarlamayacağız veya kullanmayacağız:

 

  1. Genel bir zarara neden olan ya da neden olması muhtemel olan teknolojiler. Maddi bir zarar riski olduğunda, sadece faydaların risklerden önemli ölçüde ağır bastığına inandığımız ve uygun güvenlik kısıtlarını içeren noktaya ilerleyeceğiz.
  2. Temel amacı veya uygulaması, insanlara zarar vermek veya doğrudan zarar vermeyi amaçlayan silahlar veya diğer teknolojiler.
  3. Amacı, uluslararası hukukun ve insan haklarının yaygın olarak kabul edilen ilkelerine aykırı olan teknolojiler.

 

Silah kullanımında YZ geliştirmiyor olmamıza rağmen, çalışmalarımızı başka alanlardaki hükümetlerle ve orduyla sürdüreceğimizi açıkça belirtmek isteriz. Bunlar arasında siber güvenlik, eğitim, asker yetiştirme, gazilerin sağlık bakımı ve arama ve kurtarma yer alıyor. Bu işbirlikleri önemlidir ve bu kuruluşların kritik çalışmalarını artırma ;ve hizmet üyelerinin ve sivillerin güvende olmaları için aktif olarak daha fazla yol arayacağız.

Uzun vadede YZ

Bu, bizim yapay zekaya nasıl yaklaşmayı seçtiğimizin konusu olsa da, bu konuşmada birçok ses için yer var. YZ teknolojileri ilerledikçe, bu alanda düşünceli(anlayışlı) liderliği teşvik etmek ve bilimsel olarak titiz ve çok disiplinli yaklaşımları benimsemek için bir dizi paydaşla birlikte çalışacağız. Ayrıca YZ teknolojilerini ve uygulamalarını geliştirmek için öğrendiklerimizi paylaşmaya devam edeceğiz.

Bu prensiplerin şirketimiz ve gelecekteki YZ gelişimi için doğru bir temel olduğuna inanıyoruz. Bu yaklaşım, 2004 yılında asıl Kurucularımızın Mektubu’nda belirtilen değerler ile tutarlıdır. Kısa vadeli bir vazgeçme anlamına gelse bile, uzun vadeli bir bakış açısı alma niyetinizi açıkça belirledik. Bunu daha önce söylemiştik ve şimdi inanıyoruz.

 

Metnin orijinaline aşağıdan ulaşabilirsiniz:

https://blog.google/topics/ai/ai-principles/

 

Hayvan Hakları ve Robot Hakları

Hayvan Hakları Ve Robot Hakları

Hayvan hakları ya da ahlaki veya yasal haklar, insan dışındaki hayvanlara, genellikle bilişsel, duygusal ve sosyal hayatları ya da fiziksel veya duygusal acı ve zevk kapasiteleri nedeniyle atfedilir.1Hayvan hakları destekçilerine göre doğal değeri olan tüm varlıklar eşit derecede değerlendirilir ve aynı haklara sahiptirler. Onların değeri dünyaya ne kadar faydalı olduklarına bağlı değildir ve başkalarına yük olmaları halinde de azalmaz. Hayvan ve insan hakları temel bir hakta birleşir: saygıyla muamele görme hakkı.2

Bununla beraber genellikle kabul edilen, hayvanların hukuki anlamda kişiliğe sahip olmadığı ve bu sebeple eşya statüsünde olduğudur. Ancak klasik yaklaşım, hayvanlara günümüzde verilen değere uygun düşmemektedir. Üstelik hayvanlar eşya statüsünde görüldükçe, hayvanlara ihdas edilen normlar işlevsiz kalacaktır. Bu sebeple hayvanlara kısmi hak ehliyeti tanınması gerektiğini ileri süren görüşler ortaya çıkmıştır. Bu görüşlerin yansıması olarak özellikle Kıta Avrupası’ndaki bazı devletlerde hayvanların eşya olarak görülemeyeceği hükme bağlanmıştır.3

Artık hayvanlarla ilgili, mülkiyet hakkının ötesinde yasal korumalar istiyoruz. Bunun psikolojik temelinde hayvanların acı çekerek bir hayat sürdürmelerini engellemenin ahlaki yükümlülük olduğunu düşünmemiz yatıyor. Bu sebeple insanlara verilen haklardan daha zayıf, mülkiyet hakkının ötesinde, ikinci derece haklar düzenliyoruz.

Doktrinde özellikle Calo’nun değindiği sosyal robotlar, evcil hayvanlara çok benzese de farklılıklar içermektedir. Her ne kadar insan tarafından yapay olarak üretilmiş olsa da kendi kendine öğrenebilen, analiz edip sonuç çıkarabilen, çevre ile etkileşim içinde olan robotlar söz konusu olduğunda hayvan haklarına benzer ikinci derecede haklar verilmesi gündeme gelebilir. Hayvanlardakine benzer olarak, bir insan sahip olduğu robota, mülkiyet hakkına dayanarak, istediği şekilde muamele edebilir mi, sorusu karşımıza çıkacaktır. Hayvanlara verilen bu haklar, özellikle onlara karşı kötü muameleyi önlemeyi amaçlar.

Bu açıdan sosyal hayatta özellikle insan görünümlü robotların geniş kullanım olanağı bulmasıyla bunlara karşı kötü muamele de rahatsızlık uyandıracaktır.

Robotlar yapay varlıklar olsa da, insan merkezci bakış açısından çıkıp çevre merkezci yaklaşımla yeni düzenlemelere gidilmelidir. Hukukun temelinde insan- eşya ayrımı yatsa da hayvanlar ve robotlar gibi sosyal hayatın parçası olan özneler için yeni bir statü oluşturulmalıdır.

 

Selin Çetin


Alıntı için :

Selin Cetin
"Hayvan Hakları ve Robot Hakları"
Hukuk & Robotik, Friday December 1st, 2017
https://robotic.legal/animal-rights-and-robot-rights/- 27/06/2022

 

Yapay Zekanın Ahlakı

Yapay Zekanın Ahlakı

 

Nick Bostrom
Eliezer Yudkowsky

Cambridge Üniversitesi Yayını, 2011

 

 

 

Özet

“Düşünen makineler yaratma olasılığı bir dizi etik sorun oluşturmaktadır.Bu sorunlar, hem bu gibi makinelerin insanlara ve diğer ahlaki açıdan ilgili varlıklara hem de makinelerin kendi ahlaki durumlarına zarar vermemesi sağlamak ile ilgilidir.Birinci bölüm, Yapay Zekanın yakın gelecekte ortaya çıkabilecek sorunlarını tartışmaktadır. İkinci bölüm, Yapay Zekanın insan zekasına yaklaşırken, güvenli bir şekilde işletilmesini sağlamak için zorlukların ana hatlarını çizmektedir. Üçüncü bölüm, Yapay Zekaların kendilerinin ahlaki statüye sahip olup olmadıkları ve onları hangi koşullarda değerlendirebileceğimizi özetlemektedir. Dördüncü bölümde, Yapay Zekaların etik değerlendirmemizle ilgili bazı temel açılarda, insandan nasıl farklılaşabileceğini inceliyoruz. Son bölüm, insandan daha zeki Yapay Zeka yaratma ve onların ilerlemiş zekalarını, kötülükten ziyade iyilik için kullanmalarını sağlama sorununu ele alıyor.”

 

Makaleye aşağıdaki bağlantıdan ulaşabilirsiniz:

https://nickbostrom.com/ethics/artificial-intelligence.pdf


Alıntı için :

Selin Cetin
"Yapay Zekanın Ahlakı"
Hukuk & Robotik, Friday October 13th, 2017
https://robotic.legal/the-ethics-of-artificial-intelligence/- 27/06/2022