“Androidler Rüya Görür Mü?” Kişilik ve Zeki Varlıklar

 

“Androidler Rüya Görür Mü?” Kişilik ve Zeki Varlıklar

İlgili resim

 

 

 

F. Patrick Hubbard

Güney Carolina Üniversitesi Hukuk Fakültesi

22 Nisan 2010

 

 

 

 

Özet:

“Bu Makale, ayrıntılı hukuk analizlerini içermeyen önemli bir sorunun yanıtlanmasında kullanılacak bir test önermektedir: Büyük bir bilgisayar sistemi gibi bir insan yapıtı, eşya olarak değil insan olarak muamele görmeyi isterse ne olur?Makale, aşağıdaki özelliklere sahip olması halinde, bu varlığa, yasal bir kişilik hakkı tanınması gerektiğini savunuyor:(1)Çevresi ile etkileşime girme, karmaşık düşünme ve iletişim kurma becerisi, (2)Yaşam planını gerçekleştirme endişesi güden bir benlik duygusu, (3)En azından diğer kişilerle birlikte karşılıklı çıkarlar temelinde bir toplumda yaşama yeteneği. Makale, bu kişilik testini geliştirmek ve savunmak için, liberal kişilik kuramının doğasını ve temelini çizip, mevcut ve potansiyel teknoloji açısından, test kapsamında kişilik hakkı verilebilecek varlıklar kategorisini tartışmaktadır. Makalenin konusunun spekülatif doğası gereği, bilim kurgudaki akıllı varlıkların durumunun tartışmasıyla sona ermektedir.”

 

Makale ile ilgili bağlantı adresini ve makalenin orijinalini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=1725983

Yeşil Adam

 

Yeşil Adam

 

yeşil adam yüz yıl romanları ile ilgili görsel sonucu

 

 

Türü: Bilim-kurgu

Yazar: Ayşe Acar

Yayım tarihi: Mayıs 2018

Yayımevi: Siyah Kitap

 

 

 

 

 

Yüzyıl romanları geçmişten geleceğe uzanan bir bilim-kurgu serisi. Romanda evren üç bölgeye ayrılmış durumda. Birinci bölgede yapay zekalar, humacler ve seçilmiş doğal insanlar bulunuyor, ikinci bölgede robotlar üretim yapıyor ve üçüncü bölgede ise insan bedeninin değiştirilmesine karşı gelen, insan bedenini de ruhu kadar kutsal kabul eden insanlar yaşıyor.

Serinin ilk kitabı Bay Binet’te birinci ve üçüncü bölge arasında insan öldürme ve insan kaçırma operasyonlarıyla başlayan hikaye, ikinci kitap Yeşil Adam’da Evrensel Anayasa’nın değiştirilmesini isteyen seslerin yükselmesi ve yıllardır süren barış ortamının bozulması ile devam ediyor. Robotların greve başlaması ise olayları iyiden iyiye kızıştırıyor. 

Ayşe Acar, İstanbul ve Afganistan’ın da serüvene dahil olmasıyla bizleri tek solukta bitireceğimiz bir hikaye ile buluşturmuş. 

Türkiye’de bilim-kurgu alanında keyifle okuyacağınıza inandığım bir kitap!

 

Selin Çetin

 

Ayrıca bakınız: https://robotic.legal/bay-binet/

                        https://robotic.legal/varlik-felsefesi-acidan-yapay-zeka-ayse-acar/ 

 

Yapay Zeka ve 2030’daki Yaşam

 

Yapay Zeka ve 2030’daki Yaşam

 

Özet

Yapay Zeka (YZ), insanların sinir sistemlerini ve bedenlerini algılama, öğrenme, akıl yürütme ve eyleme geçme yöntemlerinden esinlenen, ancak tipik olarak oldukça farklı şekilde çalışan bir bilim ve bir dizi hesaplama teknolojisidir. YZ’deki ilerleme oranı düzensiz ve öngörülemez olsa da, altmış yıl önceki başlangıcından bu yana önemli ilerlemeler kaydedilmiştir. Çoğunlukla akademik bir çalışma alanı olan YZ, yirmi birinci yüzyılda günlük yaşamda önemli bir etkiye sahip ana akım teknolojilerinden biri olmayı başarmıştır. Örneğin, bilgisayar vizyonu ve YZ planlaması, Hollywood’dan daha büyük bir eğlence sektörü olan video oyunlarını yönlendirmektedir. Sinir ağları olarak adlandırılan değişkenlerin katmanlı temsillerine dayanan bir makine öğrenimi formu olan derin öğrenme, telefonlarımızda ve mutfaklarımızda konuşma-anlama becerisini pratik hale getirdi ve algoritmaları, desen tanımaya dayalı bir dizi uygulamaya büyük ölçüde uygulanabilmekte. Doğal Dil İşleme (NLP), bilgi temsili ve akıl yürütme, bir makinenin Jeopardy şampiyonunu yenmesini sağladı ve Web aramalarına yeni bir güç kazandırdı.

Etkileyici olmanın yanında, bu teknolojiler özel görevlere de çok uygundur. Her bir uygulama tipik olarak yıllarca süren özel araştırma ve dikkatli, benzersiz bir yapı gerektirir. Benzer şekilde hedeflenen uygulamalarda, daha fazla otonom araç, sağlık teşhisi, hedeflenmiş tedaviler ve yaşlı bakımı için fiziksel yardım da dahil olmak üzere, YZ teknolojilerinin gelecekteki kullanımlarında önemli artışlar beklenebilir. Tüm dünyada tarım ve gıda işleme, karşılama merkezleri ve fabrikalar gibi genç işçileri çekmek için mücadele eden endüstrilerde de YZ ve robotik uygulanacaktır. Uçan dronlar, otonom kamyonlar veya merdivenlerden çıkıp ön kapıya kadar gidebilen robotlar sayesinde çevrimiçi satın alma işlemleri kolaylaşacaktır.

Bu rapor, Yapay Zekaya İlişkin 100 Yıllık Çalışmanın (AI 100) bir parçası olarak düzenli aralıklarla düzenlenecek bir serinin ilkidir. AI100 Daimi Komitesinin 2030 yılına kadar tipik bir Kuzey Amerika kentindeki muhtemel etkilerini dikkate almak için verilen karardan başlayarak, YZ ve diğer ilgili alanlardaki uzmanlardan oluşan 2015 Çalışma Paneli, dikkatlerini en çok göze çarpan sekiz alan üzerinde yoğunlaştırmıştır: ulaşım; servis robotları; sağlık hizmeti; eğitim; düşük kaynak toplulukları; kamu güvenliği ve güvenlik; istihdam, işyeri; ve eğlence. Bu alanların her birinde, rapor, geçtiğimiz on beş yılda kaydedilen ilerlemeyi yansıtıyor ve önümüzdeki on beş yıldaki gelişmeleri tahmin ediyor. Ortak bir araştırma kaynağı oluşturulmasına rağmen, her alan, güvenli ve güvenilir donanım yaratma(ulaşım ve servis robotları); insan uzmanlarla sorunsuz bir şekilde etkileşim kurma(sağlık hizmeti ve eğitim); kamunun güvenini sağlama zorluğu(düşük kaynaklı topluluklar, kamu güvenliği ve güvenlik), insanları marjinalleştirme korkusunu(istihdam ve işyeri); ayrıca toplumsal ve kişilerarası etkileşimleri azaltma riskini aşmanın zorluğu(eğitim) gibi etkilerde ve zorluklarda farklı bir YZ yansıtıyor. Rapor, Yapay Zeka’yı neyin oluşturduğuna dair bir görüşle başlıyor ve YZ ile ilgili izlenecek politikaya ilişkin tavsiyeler ile sonuçlanıyor. Bu öneriler arasında, yönetimle ilgili YZ konusunda teknik uzmanlık geliştirmek ve YZ sistemlerinin adalet, güvenlik, mahremiyet ve toplumsal etkilerini araştırmak için daha fazla kaynak ayırmak ve engelleri kaldırmak yer almaktadır.

Popüler basındaki YZ ile ilgili fantastik öngörülerin aksine, Çalışma Paneli, YZ’nin insanlığa karşı yakın bir tehdit oluşturduğu endişesi ile ilgili bir sebep bulamadı.Kendi kendini devam ettirebilen, uzun vadeli hedefleri ve amaçları olan hiçbir makine geliştirilmemiştir ve yakın gelecekte geliştirilmeleri muhtemel değildir. Bunun yerine, YZ’nin toplum ve ekonomimiz üzerindeki potansiyel olarak derin olumlu etkileriyle birlikte, gittikçe artan yararlı uygulamaları, bu raporun göz önünde bulundurduğu süre ile 2030 arasında ortaya çıkacaktır.Aynı zamanda, bu gelişmelerin birçoğu, ekonomiye ve topluma daha geniş çaplı yeni zorluklar getirdiği için, insan emeğinin nasıl artırıldığına veya YZ tarafından nasıl yer değiştirildiğine yönelik karışıklıklara neden olacaktır. Yakın dönemde yapılan uygulama tasarımı ve politika kararlarının, bu tür gelişmelerin doğası ve yönleri üzerinde uzun süreli etkilere sahip olması muhtemeldir, bu da YZ araştırmacıları, geliştiriciler, sosyal bilimciler için konuyu önemli kılıyor; ayrıca politika yapıcıların, YZ’nin ekonomik ve sosyal faydalarının toplum genelinde geniş bir biçimde paylaşılmasını sağlamak için mekanizmalarla yenilik yapma zorunluluğunu dengelemesi gerekiyor.Toplum, bu teknolojilere öncelikle korku ve şüphe ile yaklaşırsa, YZ’nin gelişimini yavaşlatan ya da onu yeraltına süren yanlışlıklar, YZ teknolojilerinin güvenliğini ve güvenilirliğini sağlama konusunda önemli çalışmaları engeller. Öte yandan, eğer toplum YZ’ye daha açık bir zihinle yaklaşırsa, bu alandan çıkan teknolojiler gelecek yıllarda toplumun daha iyi bir şekilde dönüşmesini sağlayabilir.

 

Peter Stone,  Texas at Austin Üniversitesi
Rodney Brooks, Rethink Robotics
Erik Brynjolfsson, MIT
Ryan Calo, Washington Üniversitesi
Oren Etzioni, Allen Institute for AI
Greg Hager, Johns Hopkins Üniversitesi
Julia Hirschberg, Columbia University
Shivaram Kalyanakrishnan, Indian Institute of Technology Bombay
Ece Kamar, Microsoft 
Sarit Kraus, Bar Ilan Üniversitesi
Kevin Leyton-Brown, British Columbia Üniversitesi
David Parkes, Harvard Üniversitesi
William Press, Texas at Austin Üniversitesi
AnnaLee (Anno) Saxenian, Berkeley Üniversitesi
Julie Shah, MIT
Milind Tambe, Southern California Üniversitesi
Astro Teller, X

 

Rapor ile ilgili bağlantı adresini aşağıda bulabilirsiniz:

https://ai100.stanford.edu/2016-report

 

Otonom Araçlar ve Teknoloji Devrimi 

 

Otonom Araçlar ve Teknoloji Devrimi 

 

 

Nevada Üniversitesi otonom araç geliştirme ekibinin baş mühendisi Richard Kelley ile otonom araçlar üzerine harika bir röportaj yaptık. Kelley, ayrıca Intelligent Mobility Initiative‘de, ulaşım sorunlarına yapay zeka uygulanması üzerine çalışan bir araştırma projesinin de önde gelen araştırmacılarından biri. Halen, öğrencileri ile Lincoln MKZ Sedan programlamaya yönelik olan çalışmaları Reno ve Lake Tahoe çevresinde sürmekte.

 

Keyifli okumalar…

 

 

 

 

 

Çetin: Genel bir soru ile başlayalım. Otonom araçların bizim için potansiyel faydaları neler olacak? Onlara neden ihtiyacımız var?

Kelley: Bence, otonom araçlar üzerine çalışan herkes -en azından bir kısmı-otonom araçlarla daha güvenli bir gelecek olacağı için bunu yapıyor. Bugün çoğu trafik kazası insan hatasından dolayı oluyor ve otonom araçlar, bu kazaların kaynağını ortadan kaldırma potansiyeline sahip.Ancak güvenlik konusunun ötesinde, otonom araçlar yapay zeka bakımından ileriye yönelik önemli bir adımdır. Şu ana kadar, çoğu otonom robot, nispeten kısıtlı ortamlarda çok basit görevleri çözmek için konuşlandırılmıştır. (şöyle düşünün: bir evi temizleme gibi). Öyle görünmüyor olabilir, ama güvenilir temizlik robotları bakımından sahip olduğumuz noktaya ulaşmak aslında büyük bir teknik başarıdır – çünkü laboratuardan oturma odasına gitmek onlarca yıl aldı. Bir araba sürmenin bir ev temizlemeye göre ne kadar zor olduğunu kıyaslayın.Tamamen otonom arabalara – her türlü çılgınca şeyin olabileceği gerçek dünyada faaliyet gösterebilen otomobillere – ulaşmak için robotistlerin ve YZ uzmanlarının, YZ teknolojisinin sınırlarını zorlaması gerektiriyor ve bu teknolojinin günlük hayatımıza yayılma toplum için pek çok fayda da sağlayacak.

 

Çetin: Otonom araçlarla ilgili hacklenme, terörizm, gizlilik ve güvenlik ile ilgili riskler konusunda eleştiriler mevcut. Bu risklerle ilgili ne düşünüyorsunuz. Bunların üstesinden gelinebilir mi?

Kelley: Bunların hepsi kritik olarak önemli konulara işaret ediyor. İnternet ve World Wide Web’in üzücü taraflarından biri güvenliğe başından beri değil de, sonradan odaklanmaya başlamasıdır. Aynı hatayı otonom ve bağlantılı araçlarla yapmaktan kaçınmamız için bir şansımız var. Güvenlik sorunlarını (hack ve terörizm gibi) ele almak için muhtemelen arabaların nasıl geliştirildiğini yeniden düşünmek gerekecek. Bu günlerde bir araba, düzinelerce mikrodenetleyiciden ve ilk bilgisayar solucanı bile icat edilmeden birkaç yıl önce 1980’lerin ortasında tasarlanan bir ağ protokolü (CAN) ile bağlı bilgisayarlardan oluşuyor. Otomobilin tekerleklere sahip bir bilgisayar ağı olduğunu kabul etmeli ve bu gerçeğin farkında olan ve bunu ele alan yeni güvenlik sistemleri geliştirmeye çalışmalıyız.Ve bence mümkün, bu, sektörün kamunun riskler konusunda bilinçlenmesi üzerine çalıştığı bir şey.

Mahremiyet söz konusu olduğunda, toplumun ileri teknolojiden mahremiyete kadar modern tehditleri öğrenmesi ve buna dayalı olarak, öğrenmenin demokratik olarak nasıl ilerleyeceğine karar vermesi gerektiğini düşünüyorum.Bence bunu sosyal medya bağlamında görmeye başlıyoruz, umarım otonom arabalar daha yaygın olduğu zaman, insanlar mahremiyetlerine nasıl değer vermeleri  gerektiği konusunda daha iyi fikir sahibi olurlar. Bu zorlukların tamamı çok önemli, ancak ileriye doğru iyi bir yol seçebilmemiz için umutlu olalım.

 

Çetin: Bu teknolojinin geliştirilmesinde hükümet ve özel sektör ne gibi rollere sahip olmalı? Hangisi daha faydalı olabilir?

Kelley: Hem hükümet hem de özel sektör bu konuda rol oynuyor ve gelecekte otonom araç geliştirilmesinde de önemli rolleri olacak. Bence hükümetin temel rolü, kamuoyunun güvenlik kaygılarını, şirketlerin sistemlerini kapsamlı bir şekilde test etme gereksinimi ile dengeleyen yararlı bir düzenleyici ortam yaratmak olacaktır.Aynı zamanda, muhtemelen şirketlerin üzerinde çalışabilecekleri spekülatif araştırma konuları da var ve muhtemelen bu tür konularla ilgili araştırmaları finanse etmek için hükümetin olanaklarından yararlanılabilir. Örnek olarak, çok az sayıda otonom araç şirketi ağa bağlı şehirler konusunda bu teknolojiyle ilgilenmektedir, çünkü sistemlerinin kamu altyapısına bağlı olmadan çalışmasını istiyorlar. Ancak, böyle bir altyapının devletin araştırmaları destekleyebileceği başka faydaları olabilir.Ekibim şu anda Reno şehri ve Nevada Eyaleti ile akıllı lidar ağlarının şehirleri nasıl daha güvenli ve daha duyarlı hale getirdiğini araştırmak için çalışıyor.

Özel sektörün öncelikli işi ise, temel teknik gelişmeleri ileriye doğru taşımak olacaktır. Sonuç olarak, her iki rolün de eşit derecede önemli olduğuna inanıyorum.

 

Çetin: Otonom araç yazılımları gelişirken, bunun hukuka ve etik kurallara olan yansıması ne olacak?

Kelley: Bence otonom araç şirketlerinin odaklanması gereken temel şey, sağlam bir şekilde hukuku takip eden sistemler inşa etmektir. Eğer bunu yapabilirlerse, bence, “belli” etik kaygıların büyük çoğunluğu ele alınmış olacak.

“Trolley etiğine” duyulan ilginin yararlı olduğunu düşünmüyorum. Neyse ki bu ilgi azalıyor gibi gürünüyor.

 

Çetin: Sizce bu teknolojinin geliştirilmesinde hangi hukuk nosyonlarını öncelikli kabul etmeliyiz?

Kelley: Trafik yasaları ile ilgili zor şeylerden biri insanlar düşünülerek yazılmış olması. Yazılı trafik yasalarını sık sık kesin maddeler olarak düşünüyoruz, ancak bunları gerçekten dikkatlice okuyunca, yorumlanması geren çok yer var.Bu, bilgisayarların zorlandığı bir şey, bu yüzden otonom bir aracın eksiksiz özellikleri ile ilgili beklentilerimizi netleştirmemiz gerekecek. Örneğin, otonom araçlar okuyabilmeli mi? Bu kulağa komik gelebilir, ancak şaşırtıcı miktardaki trafik kontrolü, sadece ezberlenemeyen yazılı işaretler kullanılarak yapılır. Eğer biz otonom araçların okuyabilmesi gerektiğine karar verirsek, o zaman hangi okuduğunu anlama seviyesine ihtiyacımız olacak? Tipik bir sürücünün okuma seviyesinde mi okuyabilmeliler? Bu yüksek bir standart gibi görünüyor; ancak, yasayı anlamak söz konusu olduğunda otonom araçlara yönelik beklentilerimizin ne olduğuna karar vermemiz gerekiyor.

Aynı zamanda, hükümetler, otonom araçların ve diğer robotların yasal kısıtları yükleyip anlamasını kolaylaştıracak yasaları sunmanın standart bir yolunu oluşturmayı başlayabilirse, bu muhtemelen yararlı olacaktır.Kanunların tek tip olmaları gerekmiyor, ancak hem Nevada’nın (bulunduğum yer) hem de Kaliforniya’nın yasalarının standart olarak okunabilir bir formatı olsaydı, her iki eyalette de çalışabilecek robotlar yapmak çok daha kolay olurdu.

Temel olarak, robotlar için “sürücü testi” nin nasıl olacağına karar vermemiz gerektiğini düşünüyorum. Bu, hükümetlerin ve özel şirketlerin birlikte çalışabileceği başka bir alan.

 

Çetin: Otonom araç kazalarındaki sorumluluk popüler tartışmalardan biri. Siz sorumluluk konusunda ne düşünüyorsunuz? Örneğin, yazılımcının öngöremediği bir durum gerçekleştiğinde sorumluluk sorunu nasıl çözülmeli?

Kelley: Genel olarak, bence, otonom araçların mükemmelleştirilmesinden dolayı sorumluluk *daha az* ilgi çekecek alanlardan biri. ABD Ulusal Karayolu Trafik Güvenliği İdaresi (NHTSA), ABD’deki kazaların nedenlerini belirlemek için 2005’ten 2007’ye kadar kapsamlı bir analiz gerçekleştirdi. NHTSA, neredeyse tüm (% 94) kazaların insan hatasıyla oluştuğunu tespit etti. Temel olarak, insanlar kaçınılmaz olarak kötü kararlar veriyorlar. Otonom araçlar bu tür bir kazayı önledikten sonra, kalan sorunların (son% 6) belirlenmesi daha kolay olacaktır. Otonom araçlardaki gelişmiş sensörler ve YZ sayesinde, yolda bir lastiğin patlamasına neden olabilecek “aşınma ve yıpranma” gibi şeyler bile şimdi olduğundan daha erken tespit edilir.

Kazalar olsa bile, muhtemelen uçak kazalarında olduğu gibi ele alınacaktır. Her çarpışmayla ilgili her arabada olan “kara kutular”, söz konusu olay kapsamında alınacak, hükümet ve otonom araç üreticileri tarafından gelecekte benzer kazaların önlenmesini sağlayacak şekilde dikkatli bir şekilde analiz edilecektir.

 

Çetin: Otonom araçların 5 seviyeden oluştuğunu biliyoruz. Kamuya açık bir yolda 5. seviye bir araba ne gibi problemler yaratabilir? Bunların üstesinden nasıl gelebiliriz?

Kelley: -Direksiyon olmadan istediğiniz yere gidebileceğiniz- gerçek bir “seviye 5 otonomi”ye sahip araçların birkaç yıl (belki de onlarca yıl) uzakta olduğunu söylemek istiyorum. Ama bu teknolojiye sahip olduğumuzda, sanırım sorular “bu tür bir aracı konuşlandırabilir miyiz?” den, ”bu otonomluk seviyesinden en iyi şekilde nasıl faydalanırız?”a doğru değişecek. Otonom sistemlerin rolü neredeyse her zaman bazı faaliyetlerin maliyetini azaltmaktır. Seviye 5 otonom araçların durumunda, fiziksel ulaşım maliyeti azalacaktır.Bu ekonomik teşvikleri değiştirecek ve hatta yoldaki araç sayısını bile artırabilir. Buradaki zorluk, otonomluğun daha fazla yoğunluğa veya daha uzun seyahat süresine yol açmadığından emin olmaktır. Diğer önemli konu ise istihdam. Örneğin, ABD’de kamyon sürücüsü olarak çok sayıda insan istihdam edilmektedir. Seviye 5 teknolojisinin gelişiminin tüm bu insanları işsiz bırakmayacağından emin olmalıyız. Bu sebeple, başka türden işler yapmak için sürücüleri yeniden eğitmemiz gerekebilir.

 

Çetin: Trafiğin yoğun olduğu ve bazı araçların da otonom olmadığı büyük şehirlerde otonom araçlara karşı manuel sürücülerin önyargıları nasıl aşılabilir?

Kelley: İnsanlarla etkin bir şekilde başa çıkmak, bana göre, otonom araçların son ve en büyük teknik zorluklarından biridir. Otonom arabaları “sosyal olarak zeki” yapmak için hala çok fazla araştırma yapılması gerekiyor. Aslında bu, araştırmamın çoğunun şu anda odaklandığı nokta, ve bence cevap için oyun teorisine bakmamız gerekir. Geleneksel olarak, oyun teorisi sonlu sayıda sonuçlarla iyi tanımlanmış rekabetçi durumları analiz etmek için kullanılır. Fakat oyunun teorik analizini sürüş alanına genişletmenin yolları var ve şu anda öğrencilerimden birkaç tanesiyle birlikte çalışarak aramızda bu tür bir analiz yapabilmekteyiz. Şu anda otonom araçlar çok ölçülü davranıyorlar, çünkü çoğunlukla diğer sürücülerin niyetlerini modellemiyorlar, bu yüzden bu sürücülerin nasıl tepki vereceğini güvenilir bir şekilde tahmin edemiyorlar. Ekibim, insanların nasıl davranacağını tahmin etmede iyi olan “niyet tanıma” sistemleri oluşturuyor ve bu sistemleri, aracımızın karar verme yazılımına dahil ediyoruz, böylece saldırgan insan sürücüler tarafından zorbalığa uğrama olasılığı daha düşük oluyor.

 

Çetin: Fütüristik bir soru sormak istiyorum. Otonom araçların gelecekteki ilerlemesi nasıl olabilir? Otonom araçlar için 5. seviyenin üstünde bir yazılım öngörebiliyor musunuz?

Kelley: Seviye 5 otonomisi hala uzun bir yol olsa da, bence bu otonom araçlar için gerçekten sadece bir başlangıç. Otonom araçların üstüne inşa edilmiş büyük bir ekonomi olacağını umuyorum, aynı şekilde karmaşık bir ekonomi Internet ve Web çevresinde büyümüştü. Örneğin, ulaşım ağları ekonomisi yeniden değerlendirilmeli.Arabalar bağımsız olarak hareket edebildiğinde, bu araçların kabin içi kullanıcı deneyimini dikkatlice tasarlama ihtiyacı doğacaktır. Arabalarımız bizi gezdirirken, eğlenecek yeni yollar bulacağız(umarım bugün Web’de sahip olduğumuzdan daha az reklamla). Daha geniş anlamda, seviye 5 otonomisi sağlayacak teknolojinin normal otomobillerden daha faydalı olacağını düşünüyorum. Seviye 5 otonom arabalara sahip olduğumuzda, aynı teknoloji muhtemelen daha küçük otonom dağıtım araçları da kullanacak.

 

Çetin: Son olarak, çoklu veya tüm otonom araçları çalıştırabilecek kolektif ve merkezi bir yazılım olabilir mi? Bunun sonuçları ne olurdu?

Kelley: Bu gerçekten ilginç bir soru! İnsansız hava araçları (dronlar) alanında, esas olarak NASA’nın UAS Trafik Yönetimi (UTM) projesi ile merkezi trafik yönetim sistemleri üzerinde çok fazla araştırma yapılmıştır. Nevada Eyaleti’nde UTM araştırmasına katılarak birkaç yıl çalıştım ve NASA’nın yaptığı işin, robotiklerin yaygınlaştığı her alanda merkezi robot kontrol ağlarının nasıl gelişeceğinin bir şablonu olduğunu düşünüyorum.Bireysel şirketlerin filolarını yönetmek için kendi merkezi sistemlerine sahip olmalarını umuyorum. Dahası, yerel yönetimlerin burada bir rolü olması söz konusu olabilir.Birçok aracın merkezileştirilmiş kontrolünün, merkezi olmayan yaklaşımlardan daha verimli olabileceğine dair bazı kanıtlar var, bu yüzden önümüzdeki yıllarda bu tür bir soruna yönelik pek çok pratik araştırma ve deney görmeyi umuyorum.

 

Richard Kelley’e saygılarla…

Dijital Diplomasi-1

 

Dijital Diplomasi-1

 

facebook_diplomacy

 

Uluslararası ilişkiler, geçmişten günümüze gelişmeye devam etmektedir. Diplomasi, bu ilişkilerin yürütülmesinde önemli bir yere sahip olmuştur. Devletlerarası ilişkilerin gelişiminde, özellikle barışçıl çözüm yollarının belirlenmesinde diplomasiye ağırlık verilmeye başlanmıştır. Günümüzde diplomasi artık sadece siyasi nitelikte olmayıp ekonomik, ticari, askeri ve kültürel birçok alanı içinde barındırmaktadır.

Tarih boyunca diplomasinin farklı birçok tanımı yapılmıştır. Diplomasi kavramı uluslararası ilişkilerdeki süreçleri yürütme anlamında ilk olarak 1976 yılında Edmund Burke tarafından kullanılmıştır. Burke, diplomasiyi “devletlerarası ilişkilerin ve görüşmelerin yürütülmesinde uygulanan beceri ve taktik” olarak tanımlamıştır.1

Diplomasi, tarihsel süreçte çeşitli ayrımlara tabi olmuştur. Günümüzde teknolojide yaşanan ilerlemeler sonucu diplomasi de bu yönde gelişim göstermiştir. Bu bakımdan teknolojinin artan önemini ve gelişen veri ağını diplomasi açısından göz ardı etmemek gerekir.

Günümüz dünyasında dışişleri bakanlarından katiplere, politik ve diplomatik süreçlerde yer alan bütün taraflar, sosyal medya platformlarına eşit şekilde erişebilir ya da birer web sitesi oluşturabilir. The Guardian gazetesinin Kasım 2016’daki haberinde, diplomatik çevrelerde, ki buna BM ve AB genel merkezinde yapılan bazı önemli oylama ve müzakere süreçleri bile dahil, WhatsApp uygulamasının temel iletişim aracı haline geldiği belirtilmiştir.2

Kamusallığın yoğun olduğu, kapalı bir dünya olarak düşünülen diplomasi de gelişen iletişim teknolojileri sayesinde yeni bir boyut kazanmaya başlamıştır. Örneğin, Rusya Dışişleri Bakanlığı, çizdiği sıkıcı ve donuk imajı düzeltmek için özellikle Twitter kullanımını geliştirmiştir.CIA ve Rusya Dışişleri Bakanlığı arasında Twitter’da şöyle bir dialog yaşanmıştır:CIA’in Rusça konuşan, yeni üniversite mezunlarına yönelik iş ilanı tweetine Rusya Dışişleri Bakanlığı, “uzmanlar ve tavsiyelerle yardımcı olmaya hazırız” tweeti ile yanıt vermiştir.Buna benzer örnekler diplomasinin yeni ve dinamik bir hale evrilmeye başladığının göstergesidir.3

Bunun yanında sanal platformlarda yanlış bilgiler barındırarak yayılan dini, siyasi ve sosyolojik içeriklerin önlenmesi de artık dijital diplomasinin bir konusu haline gelmiştir. Çünkü bu içerikler ciddi toplumsal krizlere sebep olabilmekte ve diplomatik iletişimi sekteye uğratıp krizi daha da tırmandırabilmektedir. Bu yüzden otomasyon artık diplomasi için kritik bir önem taşımaktadır.

Botlar tarafından çıkarılan bir kriz kitlesel bir kaosa dönüşebileceğinden, bu durum özellikle büyükelçiler için büyük sorunlar yaratabilir.Bu olaylar karşısında hükümet çıkarlarına zarar vermemek adına elçiler sessiz kalmayı da tercih edebilir.Ancak unutmamak gerekir ki, etkileşimden uzak durmak, hesap gerçek kişiye ait ise bilişimsel diplomasi çabalarına zarar verebilecektir.

Diplomatların sosyal medyada yer almaları yaşanacak krizlere kısa sürede çözüm bulmak adına etkili bir yol olabilecekken bazı belirsiz durumlar da yaratabilmektedir. Örneğin, bir diplomatın dış politika konulu bir makaleyi beğenmesi ya da paylaşması, resmi hükümet görüşü olarak yorumlanmasına sebep olabilir. Bu durum tartışmalara da sebep olabilir ve tartışmaya sıradan vatandaşlar da dahil olabilir, dahası anonim hesaplardan gelen tepkiler karşısında ne yapılacağı temel bir sorun yaratabilir.4Bunu engellemenin yolu, yalnızca doğrulanmış ya da en azından gerçek bir isme sahip gibi görünen hesaplara yanıt vermektir. Bir diğer yol ise veri bilimciler ile iş birliği yaparak siyasi süreçlerin etki ağını haritalandırmak ve hangi hesapların siyasi tartışmalarda en etkili ve yönlendirici konuma sahip olduklarını anlamaya çalışmaktır.5

Belirsizlik ve tedirginlik yaratabilen dijitalleşme, izlenecek hükümet politikaları sayesinde daha verimli ve faydalı sonuçlar yakalamak için kullanılabilir. Günümüzde hızlı bir ivme yakalayan yapay zekadan diplomasi alanında da faydalanılabilir. Geliştirilecek yapay zekâlı diplomatlar sanal ortamda vatandaşların sorularını yanıtlayabilir ve hızlı çözümler üretmede daha aktif olabilir

Yapay zekânın daha etken ve verimli kullanılabilmesi için bunun devlet politikası haline getirilmesi ve hatta uluslararası iş birliği ile ilerletilmesi gerekir.Örneğin, Rusya Devlet Başkanı Vladimir Putin, yapay zekânın önemini vurgulayan açıklamalarda bulunmuştur Putin, yapay zekâda öne geçenlerin “dünyayı yöneteceğini” söyleyip, “gelecek yapay zekâya ait” diyerek bunun önemini vurgulamıştır. Bunun sadece Rusya için değil, tüm insanlık için böyle olduğunu belirtmiştir.Ayrıca yapay zekânın “tahmin edilmesi güç tehditler getirdiğini” de ekleyen Putin, buna karşın Rusya’nın yapay zekâda öne geçmek istediğini söylemiştir. Putin ayrıca, “Bu tekelin belli birilerinin elinde olmasını gerçekten istemezdim” sözleriyle bu gücün belli güçler tarafından ele geçirilmesinden duyduğu endişeyi de dile getirmiştir.6

Gelirinin büyük bir kısmını petrolden elde eden Birleşik Arap Emirlikleri’nin de geleceğe yönelik bu teknolojik yatırımları yapıyor olması dünyanın değiştiğinin bir kanıtıdır.Yapay zekâ teknolojisine yatırımların çekilmek istendiği bölgede bu durum bakanlık seviyesine taşımıştır.Birleşik Arap Emirlikleri, kabinesinde yeni bir pozisyon oluşturarak yapay zekâdan sorumlu olarak çalışacak bir bakan atamıştır. BAE Başbakanı Sheikh Mohammed bin Rashid, durumu Twitter üzerinden açıklayarak, yeni bakanı duyurmuştur7

Yaşanan bu gelişmeler dijital diplomasinin artık diplomasi kavramının temel taşlarından biri olduğunu gösteriyor. Devletler bu dijital ortama uyum sağlamak adına gerekli politikaları benimseyip ve iş birlikleri geliştiriyor.

Selin Çetin

 

 

 

 

Yapay Zeka ve ‘İyi Toplum’: ABD, AB ve İngiltere Yaklaşımı

 

Yapay Zeka ve ‘İyi Toplum’:

ABD, AB ve İngiltere Yaklaşımı

 

 

Corinne Cath,

Sandra Wachter,

Brent Mittelstadt,

Mariarosaria Taddeo ve

Luciano Floridi

 

Oxford Üniversitesi

 

 

 

Özet

 

“Ekim 2016’da Beyaz Saray, Avrupa Parlamentosu ve İngiltere Avam Kamarası, her biri, yaygınlaşan yapay zeka kullanımına toplumlarını nasıl hazırlayacakları konusundaki görüşlerini içeren raporlarını yayınlamıştı. Bu makalede, “iyi bir yapay zeka toplumu” nun geliştirilmesine elverişli politikaların tasarımını kolaylaştırmak için bu üç raporun karşılaştırmalı bir değerlendirmesini sunuyoruz. Bunun için, her bir raporun üzerinde durduğu üç konuyu inceliyoruz:  

(a”İyi bir yapay zeka toplumu”nun geliştirilmesi; 

(b) Bu gelişim karşısında hükümetlerin, özel sektörün, araştırma topluluklarının (akademi de dahil) sorumluluğu; 

(c) İyileştirilmeye ihtiyacı olan bu gibi gelişmeleri destekleyecek tavsiyeler.

 Analizlerimiz, raporların çeşitli etik, sosyal ve ekonomik konuları ele aldığı, ancak “iyi bir yapay zeka toplumu” nun gelişmesi için kapsamlı bir siyasi vizyon ve uzun vadeli bir strateji sağlamanın yetersiz kaldığı sonucuna varmıştır. Bu boşluğu doldurmaya katkıda bulunmak için, sonuçta iki yönlü bir yaklaşım öneriyoruz.”

 

Makale ile ilgili bağlantı adresini ve makalenin orijinalini aşağıda bulabilirsiniz:

https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2906249

 

Google’daki Yapay Zeka: İlkelerimiz

 

Google’daki Yapay Zeka: İlkelerimiz

Related image

Sundar Pichai

 

Sundar Pichai

CEO

7 Haziran 2018

 

 

 

Yapay zeka özünde, öğrenen ve adapte olan bir bilgisayar programıdır. Her problemi çözemez, ancak hayatlarımızı iyileştirme potansiyeli çok büyüktür. Biz Google’da yapay zekayı – spam gelmeyen ve kolay oluşturulan e-postalardan, doğal bir şekilde konuşabileceğiniz dijital asistanlara, hoşunuza gidebilecek fotoğrafların önünüze çıkmasına kadar- ürünlerimizi daha faydalı olması için kullanıyoruz.

Ürünlerimizin ötesinde, yapay zekayı insanların acil problemlerini çözülmesinde yardımcı olmak için kullanıyoruz. Bir çift lise öğrencisi, orman yangını riskini tahmin etmek için YZ destekli sensörler üretiyor. Çiftiler onu sürülerinin sağlığını izlemek için kullanıyorlar. Doktorlar, kanseri teşhis etmeye ve körlüğü önlemeye yardımcı olmak için YZ kullanmaya başlıyor. Bu belirgin faydalar, Google’ın YZ araştırma ve geliştirmeye büyük yatırımlar yapmasını ve YZ teknolojilerinin diğerleri tarafından, Google’ın araçları ve açık kaynak kodları vasıtasıyla yaygın şekilde kullanılabilmesini sağlamaktır.

Bu güçlü teknolojinin, kullanım konusunda eşit derecede güçlü sorular ortaya koyduğunu biliyoruz. YZ’nin nasıl geliştirildiği ve kullanıldığının yıllar boyunca toplum üzerinde önemli bir etkisi olacak. YZ’de bir lider olarak, bunu doğru yapmak için büyük bir sorumluluk hissediyoruz.  Bu sebeple bugün, ilerleyen çalışmalarımıza rehberlik etmesi için yedi ilkeyi ilan ediyoruz. Bunlar teorik kavramlar değildir; araştırma ve ürün geliştirmemize aktif olarak yön verecek ve iş kararlarımızı etkileyecek somut standartlardır.

Bu alanın dinamik ve gelişmekte olduğunu kabul ediyoruz ve çalışmalarımıza alçakgönüllülük, içsel ve dışsal bağlılık taahhüdü ile; ve zaman içinde öğrendiğimiz yaklaşımımızı adapte etme isteğimizle yaklaşacağız.

Yapay Zeka Uygulamaları için Hedefler

YZ uygulamalarını aşağıdaki hedefler doğrultusunda değerlendireceğiz. İnanıyoruz ki YZ:

  1. Sosyal açıdan faydalı olmalı.

Yeni teknolojilerin genişletilmiş erişimi, bir bütün olarak topluma giderek daha fazla dokunuyor. YZ’deki ilerlemeler, sağlık, güvenlik, enerji, ulaşım, üretim ve eğlence gibi çok çeşitli alanlarda dönüştürücü etkilere sahip olacak. YZ teknolojilerinin potansiyel gelişimini ve kullanımlarını göz önünde bulundurduğumuzdan, geniş bir yelpazede sosyal ve ekonomik faktörleri dikkate alacağız ve olası genel faydaların, öngörülebilir risk ve dezavantajları büyük ölçüde aştığına inandığımız yerde devam edeceğiz.

Ayrıca YZ içeriğin anlamını etraflıca anlama yeteneğimizi geliştirir. Faaliyet gösterdiğimiz ülkelerdeki kültürel, sosyal ve hukuki normlara saygı göstermeye devam ederken, YZ kullanarak yüksek kalitede ve doğru bilgileri hazırlamaya çalışacağız. Teknolojilerimizi ne zaman ticari olmayan bir şekilde kullanılabilir hale getireceğimizi dikkatlice değerlendirmeye devam edeceğiz.

  1. Haksız önyargı yaratmaktan ya da bunu güçlendirmekten kaçınmalı

YZ algoritmaları ve veri tabanı haksız önyargıyı yansıtabilir, güçlendirebilir ya da azaltabilir. Haklı önyargıları, haklı olmayan önyargılardan ayırt etmenin her zaman basit olmadığının; ve kültürler ve toplumlar arasında farklılık gösterdiğinin farkındayız. Özellikle insanlar üzerinde ırk, etnik köken, cinsiyet, milliyet, gelir, cinsel yönelim, yetenek ve siyasi veya dini inanç gibi hassas niteliklerle ilgili haksız etkilerden kaçınmaya çalışacağız.

  1. Güvenlik için inşa edilmeli ve test edilmeli

Zarar riskine yol açan istenmeyen sonuçları önlemek için güçlü güvenlik ve koruma uygulamalarını geliştirmeye ve uygulamaya devam edeceğiz. YZ sistemlerimizi uygun şekilde ihtiyatlı olmak için tasarlayacağız ve bunları YZ güvenlik araştırmasında en iyi uygulamalara göre geliştirmeye çalışacağız. Uygun durumlarda, YZ teknolojilerini kısıtlı ortamlarda test edeceğiz ve dağıtımdan sonra çalışmalarını izleyeceğiz.

  1. İnsanlara karşı sorumlu olmalı

Geri bildirim, ilgili açıklamalar ve itiraz için uygun fırsatlar sunan YZ sistemleri tasarlayacağız. Bizim YZ teknolojilerimiz uygun insan yönlendirmesine ve kontrolüne tabi olacaktır.

  1. Gizlilik tasarım ilkelerini kapsamalı

Gizlilik ilkelerimizi, YZ teknolojilerimizin geliştirilmesine ve kullanımına dahil edeceğiz. Bildirim ve onay için fırsat verip, gizlilik önlemleri ile yapıları teşvik edip, verilerin kullanımı üzerinde uygun şeffaflığı ve kontrolü sağlayacağız.

  1. Yüksek bilimsel başarı standartlarını desteklemeli

Teknolojik yenilik, bilimsel yönteme dayanmaktadır ve açık sorgulama, entelektüel titizlik, dürüstlük ve işbirliği için bir taahhüt kaynağıdır. YZ araçları biyoloji, kimya, tıp ve çevre bilimleri gibi kritik alanlarda yeni bilimsel araştırma ve bilgi alanlarını ortaya çıkarma potansiyeline sahiptir. YZ gelişimini ilerletmek için çalışırken, yüksek standartlarda bilimsel başarı arayışındayız.

Bilimsel olarak titiz ve çok disiplinli yaklaşımları kullanıp, bu alanda düşünceli(anlayışlı) liderliği teşvik etmek için bir dizi paydaşla birlikte çalışacağız. Ayrıca, eğitim materyallerini ve en iyi uygulamaları yayınlayarak YZ bilgisini sorumlu bir şekilde paylaşacağız ve daha fazla insanın yararlı YZ uygulamaları geliştirmesini sağlayacak araştırmalar yapacağız.

  1. Bu ilkelere uyan kullanımlar için geçerli kılınmalı

Birçok teknolojinin birden fazla kullanımı vardır. Potansiyel olarak zararlı veya taciz edici uygulamaları sınırlandırmak için çalışacağız. YZ teknolojilerini geliştirip uygularken, aşağıdaki faktörlerin ışığında olası kullanımları değerlendireceğiz:

  • Birincil amaç ve kullanım: Çözümün zararlı bir kullanımla ne kadar yakından ilişkili olduğu veya ona uyarlanabileceği de dahil olmak üzere, bir teknoloji ve uygulamanın birincil amacı ve olası kullanımı.
  • Mahiyet ve teklik: Benzersiz veya daha genel şekilde mevcut olan teknolojiyi sağlanması.
  • Ölçü: Bu teknolojinin kullanımının önemli bir etkisi olması.
  • Google’ın dahil olmasının mahiyeti: Genel amaçlı imkanlar sağlanması, imkanların müşterilere entegre edilebilmesi veya özel çözümler geliştirilmesi.

YZ Uygulamalarını İzlemeyeceğiz

Yukarıdaki amaçlara ek olarak, YZ’yi aşağıdaki uygulama alanlarında tasarlamayacağız veya kullanmayacağız:

 

  1. Genel bir zarara neden olan ya da neden olması muhtemel olan teknolojiler. Maddi bir zarar riski olduğunda, sadece faydaların risklerden önemli ölçüde ağır bastığına inandığımız ve uygun güvenlik kısıtlarını içeren noktaya ilerleyeceğiz.
  2. Temel amacı veya uygulaması, insanlara zarar vermek veya doğrudan zarar vermeyi amaçlayan silahlar veya diğer teknolojiler.
  3. Amacı, uluslararası hukukun ve insan haklarının yaygın olarak kabul edilen ilkelerine aykırı olan teknolojiler.

 

Silah kullanımında YZ geliştirmiyor olmamıza rağmen, çalışmalarımızı başka alanlardaki hükümetlerle ve orduyla sürdüreceğimizi açıkça belirtmek isteriz. Bunlar arasında siber güvenlik, eğitim, asker yetiştirme, gazilerin sağlık bakımı ve arama ve kurtarma yer alıyor. Bu işbirlikleri önemlidir ve bu kuruluşların kritik çalışmalarını artırma ;ve hizmet üyelerinin ve sivillerin güvende olmaları için aktif olarak daha fazla yol arayacağız.

Uzun vadede YZ

Bu, bizim yapay zekaya nasıl yaklaşmayı seçtiğimizin konusu olsa da, bu konuşmada birçok ses için yer var. YZ teknolojileri ilerledikçe, bu alanda düşünceli(anlayışlı) liderliği teşvik etmek ve bilimsel olarak titiz ve çok disiplinli yaklaşımları benimsemek için bir dizi paydaşla birlikte çalışacağız. Ayrıca YZ teknolojilerini ve uygulamalarını geliştirmek için öğrendiklerimizi paylaşmaya devam edeceğiz.

Bu prensiplerin şirketimiz ve gelecekteki YZ gelişimi için doğru bir temel olduğuna inanıyoruz. Bu yaklaşım, 2004 yılında asıl Kurucularımızın Mektubu’nda belirtilen değerler ile tutarlıdır. Kısa vadeli bir vazgeçme anlamına gelse bile, uzun vadeli bir bakış açısı alma niyetinizi açıkça belirledik. Bunu daha önce söylemiştik ve şimdi inanıyoruz.

 

Metnin orijinaline aşağıdan ulaşabilirsiniz:

https://blog.google/topics/ai/ai-principles/

 

Yapay Zekâ, Veri Güvenliği ve GDPR

Yapay Zekâ, Veri Güvenliği ve GDPR

 

 

Günümüzde pek çok sektörde kullanılmaya başlanana yapay zekâ ve makine öğreniminin öne çıkan özellikleri arasında, verileri programatik araçlardan ve insandan çok daha hızlı analiz edebilmesi ve verilerin nasıl işleneceğini kendi kendine öğrenebiliyor olması bulunuyor.

Özellikle son yıllarda hem kamu hem de özel sektörde sıklıkla kullanılan profilleme ve otomatik karar verme sistemleri, artan verimlilik ve kaynakların korunması bakımından bireylere ve kurumlara çeşitli faydalar sunarken aynı zamanda riskleri de beraberinde getiriyor. Bu sistemlerin aldığı kararlar bireyleri etkileyebiliyor ve karmaşık yapısı dolayısıyla kararlarının gerekçesini izlemek mümkün olamayabiliyor. Örneğin, yapay zekâ, bir kullanıcıyı belirli bir kategoriye kilitleyip, önerilen tercihlere göre kısıtlayabiliyor. Bu, dolayısıyla onların kitap, müzik veya haber yazısı gibi belirli ürün ve hizmetleri seçme özgürlüklerini de daraltabiliyor. (Article 29 Data Protection Working Party, WP251, sf.5)

Mayıs ayında Avrupa’da yürürlüğe girecek olan GDPR, profilleme ve otomatik karar vermenin bireylerin hakları üzerinde olumsuz bir etki doğuracak şekilde kullanılmaması için çeşitli hükümler barındırıyor. GDPR, profillemeyi madde 4’te şöyle tanımlıyor: “Profilleme, belirli bir şahısla ilgili onun kişisel yönlerini değerlendirmek için kişisel verilerinin kullanılması; özellikle bu kişinin işteki performansı, ekonomik durumu, sağlık bilgileri, ilgi alanları, güvenilirlik, davranış, konum veya hareketlerinin analiz edilmesi veya tahmin edilmesidir.” (WP251, sf.6) Profilleme, çeşitli kaynaklardan bireylerle ilgili elde edilen verilerin kullanılarak, kişilerle ilgili tahminlerde bulunmada kullanılır. Bu açıdan, yaş, cinsiyet, kilo gibi özelliklere dayanarak bireylerin değerlendirilmesi ya da sınıflandırılması olarak da düşünülebilir.

Otomatik karar verme ise insan müdahalesi olmaksızın teknolojik araçlarla (yapay zekâ gibi) karar verme özelliğidir. Otomatik karar verme herhangi bir veri türüne dayanabilir. Örneğin, kişiler tarafından doğrudan sağlanan veriler (ankete verilen cevaplar); kişilerden sağlanan veriler (uygulama aracılığıyla konum verisinin toplanması); önceden oluşturulmuş, türetme ya da sonuç çıkarmaya dayalı bireyin profili.

Potansiyel olarak bir profilleme için ise üç yol vardır:

-i. Genel profilleme,

-ii. Karar verme temelli profilleme,

-iii. Yalnızca otomatik karar verme içeren profilleme (madde 22)

(ii) ve (iii) arasındaki fark, (ii)’de tamamen otomatik araçlarla üretilen bir profile dayalı insan kararı vardır. (iii)’te ise kararı algoritma verir ve karar anlamlı insan girdisi olmaksızın bireye otomatik olarak teslim edilir. (WP251, sf.8)

Burada karşılaşılacak önemli sorular ise şunlardır:

-Algoritma bu verilere nasıl erişiyor?

-Verinin kaynağı doğru mu?

-Algoritmanın verdiği karar, kişi üzerinde yasal etkiler doğuruyor mu?

-Bireyler otomatik işlemeye dayalı verilen karar karşısında birtakım haklara sahip olabilir mi?

-Veri sorumluları bu durumda ne gibi önlemler almak zorunda?

Günümüzde çoğu şirket müşterilerinin davranışlarını onlardan topladıkları verilerle analiz edebiliyor. Örneğin, bir sigorta şirketi, sürücünün sürüş davranışlarını izleyerek sigorta primlerini otomatik karar verme yoluyla belirleyebilir. Bunun yanında özellikle reklam ve pazarlama uygulamalarında farklı kişilerin verilerinden yola çıkarak yapılan profilleme ve otomatik karar verme sistemleri, diğer bireyler üzerinde de etkili sonuçlar doğurabiliyor. Varsayımsal olarak, bir kredi kartı şirketi, bir müşterinin kart limitini, kendi ödeme geçmişine dayanmadan aynı bölgede yaşayan ve aynı mağazadan alışveriş yapan diğer müşterileri analiz ederek azaltabilir. Dolayısıyla bu, başkalarının eylemlerine dayalı olarak, bir fırsattan mahrum kalma anlamına gelir.

Hataların hesabı veri sorumlusundan sorulacak

Bu nokta dikkat edilmesi gereken husus, toplanan veya paylaşılan verilerdeki hatalar ya da önyargılar otomatik karar verme sürecinde yanlış sınıflandırmalara ve kesin olmayan sonuçlara dayalı değerlendirmelere neden olup bireyler açısından olumsuz etkiler doğurabilmesidir. Kararlar güncel olmayan verilere dayanabilir ya da dışarıdan alınan veriler sistem tarafından yanlış yorumlanabilir. Yani otomatik karar vermede kullanılan veri doğru değilse bu durumda sonuçtaki karar ya da profilleme de doğru olmayacaktır.

Yapay zekâ ve makine öğrenmesinin kullanıldığı bu gibi sistemlerde oluşabilecek benzeri muhtemel hatalar karşısında “veri sorumlusunun” birtakım yükümlülükleri doğacaktır. Veri sorumlusu, kullanılan ya da dolaylı olarak elde edilen verilerin doğru ve güncel olması için yeterli önlemleri almalıdır. Ayrıca verilerin saklanma süreleri de doğruluk ve güncelliğin sağlanması için sakıncalar yaratabileceği gibi, orantılılık ilkesi ile de çelişeceğinden uzun süreli veri saklanması konusunda da veri sorumlusu gerekli adımları atmalıdır.

Diğer önemli husus ise özel nitelikli kişisel verilerin bu sistemlerce işlenip kullanılmasıdır. GDPR, özel nitelikli kişisel verilerin işlenmesinde ilgili kişinin açık rızasını aramaktadır. Ancak, bu durumda veri sorumlusunun unutmaması gereken şey, profillemenin özel nitelikli kişisel veri olmayan verilerin birleşimi ile özel nitelikli kişisel veri oluşturabilir olmasıdır. Örneğin, bir kişinin sağlık durumu, gıda alışverişi kayıtlarından, gıdaların kalite ve enerji içeriği ile ilgili verilerinden elde edilmesi ile mümkün olabilir. (WP251, sf.22)

GDPR, verileri kullanılarak otomatik karar verme işlemlerinden etkilenen kişilerin bu durum karşısında bazı hakları olduğundan da bahseder. GDPR’ın temelini oluşturan şeffaflık ilkesi göz önüne alındığında, madde 13 ve 14’e göre, veri sorumlusu bireylere açık bir şekilde profilleme veya otomatik karar verme sürecinin nasıl işlediğini açıklamalıdır.

Profilleme, hata riskini artıran bir tahmin unsuru içerebilir. Girdi verileri yanlış veya alakasız olabilir ya da bağlam dışı kalabilir. Bireyler kullanılan verilerin ve gruplandırmanın doğruluğunu sorgulamak isteyebilir. Bu noktada, madde 16’ya göre, ilgili kişinin düzeltme hakkı da söz konusu olacaktır.

Benzer şekilde, madde 17’de belirtilen silme hakkı da bu çerçevede ilgili kişi tarafından talep edilebilir. Profillemenin temeli için rıza gösterilirse ve bu rıza sonradan geri çekilirse veri sorumlusu profilleme için başka yasal dayanak olmadığı sürece ilgili kişinin kişisel verilerini silmek zorundadır.

Çocukların kişisel verilerinin önemi

Profilleme ve otomatik karar vermede dikkat edilmesi gereken bir başka nokta ise çocukların kişisel verilerinin kullanılmasıdır. Çocuklar özellikle çevrimiçi ortamlarda daha duyarlı olabilir ve daha kolay etkilenebilir. Örneğin, çevrimiçi oyunlarda profilleme, algoritmanın daha fazla kişiselleştirilmiş reklam sunmasının yanı sıra, oyunda para harcamasının daha olası olduğunu düşündüğü oyuncuları hedeflemesi için de kullanılabilir. GDPR madde 22’de işlemenin çocuklar ve yetişkinler ile ilgili olup olmadığı konusunda ayrım yapmıyor. Ancak yine de çocuklar bu tür pazarlama çalışmalarından kolayca etkilenebileceği için, veri sorumlusu, çocuklar için uygun önlemleri almalı ve bu önemlerin çocukların haklarını, özgürlüklerini ve meşru çıkarlarını korumada etkili olduğundan emin olmalıdır.

Sonuç olarak, yapay zekâ ve makine öğrenimi gibi sistemlere dayanarak yapılan profilleme ve otomatik karar verme, birey hakkında önemli sonuçlar doğurabilir. Bu teknolojiyle bağlantılı olarak toplanan verilerin, kişilerin rızası alınarak toplanması ya da yasal bir zemine oturtulması gerekir. Akabinde kullanılacak olan bu verilerin toplandıkları amaçla bağlantılı olarak kullanılması da önemlidir. Sistemin aniden alışılmadık kararlar almaya başlaması halinde ne gibi yol haritaları izleneceği de dâhil olmak üzere, veri sorumlusu gereken önlemleri almalı ve ilgili kişilerin hak ve özgürlüklerini de gözetmelidir.

Ayrıca bakınız:

Yapay Zekâ, Veri Güvenliği ve GDPR

Yapay Zeka Çağında Mahremiyet ve İfade Özgürlüğü

 

Yapay Zeka Çağında Mahremiyet ve İfade Özgürlüğü

 

Related image

Article 19 & Privacy International

Nisan, 2018

 

Özet

“Yapay Zekâ(YZ) artık günlük hayatımızın bir parçası. Bu teknoloji, insanların bilgilere nasıl eriştiklerini, cihazlarla nasıl etkileşimde bulunduklarını, kişisel bilgileri paylaşımlarını şekillendiriyor ve hatta yabancı dilleri bile anlıyor. Ayrıca, bireylerin ve grupların nasıl izlenebileceğini ve tanımlanabileceğini dönüştürüyor ve veriden insanlar hakkında ne tür bilgilerin toplanabileceğini önemli ölçüde değiştiriyor.

YZ, toplumları olumlu yönde kökten değiştirme potansiyeline sahiptir. Ancak, herhangi bir bilimsel veya teknolojik ilerlemede olduğu gibi, devletler veya şirketler tarafından yeni araçların kullanımının insan hakları üzerinde olumsuz bir etki yaratacağına dair gerçek bir risk var.

YZ, çok sayıda haktan etkilenirken, ARTICLE 19 ve Privacy Internatinal, özellikle mahremiyet, ifade ve bilgi alma özgürlüğü üzerindeki etkilerinden endişe duymaktadır.

Bu kapsam belirleme yazısı, “yapay dar zekâ” uygulamalarına -özellikle makine öğrenimi ve bunların insan hakları üzerindeki etkilerine- odaklanmaktadır.

Bu yazının dört tane amacı bulunmakta:

  1. Tartışmayı açıklığa kavuşturmak için anahtar teknik tanımları sunma;
  2. Yapay Zekânın ifade özgürlüğü ve mahremiyet hakkını nasıl etkilediğini ve zorlukların ana hatlarıyla belirlendiği temel yolları inceleme;
  3. Mevcut hukuki, teknik ve kurumsal çerçeveler ile ifade özgürlüğü ve mahremiyet özgürlüğü ile ilgili endüstri liderliğindeki YZ girişimleri de dahil olmak üzere, mevcut YZ yönetişimini gözden geçirme; ve
  4. YZ savunuculuk faaliyetlerinde sivil toplum örgütleri ve diğer paydaşlar tarafından izlenebilecek, haklara dayalı çözümler için önerilerde bulunma.

Bu alandaki politika ve teknolojinin:

  • İnsan haklarının, özellikle ifade özgürlüğü ve mahremiyet hakkının korunmasını sağlama;
  • Yapay Zekanın hesap verebilirliğini ve şeffaflığını sağlama;
  • Hükümetleri, ifade özgürlüğünün ve mahremiyetin korunması ile ilgili yasal ve politik çerçevelerin ve YZ ile ilgili düzenlemelerin yeterliliğini gözden geçirme konusunda teşvik etme;
  • Teknolojinin etkisinden bütünsel bir anlayışla haberdar olma:- yapay zekanın insan hakları üzerindeki etkisi ile ilgili olay incelemesi ve ampirik araştırmalar toplanmalıdır-; ve
  • Sivil toplum ve uzmanlarla olan bağlantılar da dahil olmak üzere geniş bir paydaş grubuyla birlikte geliştirilmesi

konularına cevap vermesi gerektiğine inanıyoruz.”

 

Rapor ile ilgili bağlantı adresini ve raporun orijinalini aşağıda bulabilirsiniz:

https://privacyinternational.org/sites/default/files/2018-04/Privacy%20and%20Freedom%20of%20Expression%20%20In%20the%20Age%20of%20Artificial%20Intelligence.pdf

Dünya’nın Otonom Silahları Yasal Olarak Düzenlemesi Niçin Gerekli

 

Dünya’nın Otonom Silahları Yasal Olarak Düzenlemesi Niçin Gerekli

 

Image result for autonomous weapons

 

 

The School of Media Studies at the New School in New York City

27 Nisan 2018

 

 

 

 

 

Özet

“Birleşmiş Milletler Belirli Konvansiyonel Silahların Kullanımını Yasaklanması veya Sınırlandırılması Sözleşmesi (CCW) kapsamında Cenevre’de, Hükümet Uzmanları Grubu himayesinde, ölümcül otonom silah sistemleri üzerine ikinci toplantı gerçekleştirildi. Yapay zeka silahlanma yarışına dair endişeler ve dijital teknolojilerin demokratik süreçleri yıkmadaki kullanımı, bu forumdaki tartışmaların hem aciliyetini hem de önemini artırmaktadır. Bazı gözlemciler, CCW tartışmalarının umutsuz ya da yararsız olabileceği ve hiçbir fikir birliğinin ortaya çıkmayacağımyönündeki endişelerini dile getirdiler. Bu endişeler, daha önce gerçekleşmiş olan şeylerin önemini ve ileriye dönük fırsatları gözden kaçırıyor.

Bazı gözlemciler açısından, bir yapay zeka silahlanma konusundaki endişeler, otonom silahlarla ilgili endişeleri gölgede bıraktı. Bazıları “Campaign to Stop Killer Robots” ı yapay zekayı yasaklamayı amaçlıyor diye nitelendirdi. Ben bu görüşlere katılmıyorum ve yakında çıkacak olan B / T: Bilgi Toplumu için Hukuk ve Politika Dergisi ‘de de çeşitli bilim adamları ve medyanın “YZ silahlanma yarışı” terimini, ekonomik rekabetten, otomatik siber savaşa, silahlara gömülmüş yapay zekaya kadar uzanan çok farklı ve hatta uyumsuz şeyler anlamında kullandıklarını tartıştım. Sonuç olarak, “bir YZ silahlanma yarışı” hakkında tek bir politika ile ele alınacak tekil bir olguymuş gibi konuşmak gerçekten anlamlı değildir. Üstelik, BM’de gerçekleşen tartışmalar, silahlar konusunda otonomluk üzerine odaklanmış olup, -her ne kadar normlar anlamlı insan kontrolü gibi geleneksel silahların otomatik kontrolleri üzerine kurulmuş olsa da- bu da yapay zeka silahlanma yarışının daha büyük sorunlarıyla kısmen ilişkili olup, siber savaş ve yapay zeka etiği gibi diğer alanlardaki tartışmayı da kesinlikle ilerletebilir.

CCW’nin ölümcül otonom silahlara ilişkin tartışmalarındaki temel mesele, Uluslararası Kızılhaç Örgütü’nün hedeflemenin ve saldırılarda çatışmanın “kritik fonksiyonları” olarak adlandırdığı şeyin üzerinde insan kontrolünün gerekliliğidir. Yapay zeka, silah sistemleri de dahil olmak üzere, ordular tarafından ve hatta hedefleme ve çatışmanın kritik fonksiyonları da dahil çeşitli şekillerde kullanılabilir. Mesele, ne tür bir teknolojinin kullanıldığı ya da karmaşıklığının ne olduğu değil, hedefleme ve devreye alma yetkisinin otomatik süreçlere aktarılıp aktarılmadığı ve bunun insan hakları ve insan onuru gibi insani sorumluluk ve hesap verebilirlik açısından nasıl etkileri olduğudur.”

 

Makale ile ilgili bağlantı adresine aşağıdan erişebilirsiniz:

https://thebulletin.org/military-applications-artificial-intelligence/why-world-needs-regulate-autonomous-weapons-and-soon

1 2 3