Ya Yapay Zeka Kullanarak Koronavirüsle Mücadele Edebilirsek?

Ya Yapay Zeka Kullanarak Koronavirüsle Mücadele Edebilirsek?

Avrupa Parlamentosu Araştırma Servisi

2020

Analitik, salgınların izlenme ve yönetilme şeklini değiştirerek hayat kurtarmaktadır. Uluslararası camia şu anda 2019 sonu ile 2020 başında ilk kez Çin’in Wuhan şehrinde tanımlanan yeni tip  koronavirüs (COVID-19) salgını üzerine odaklanmıştır. Yayılışını sürdürürken ve dünya çapında pandemi korkusu artarken uluslararası kuruluşlar ve bilim insanları, salgını gerçek zamanlı olarak izlemek, virüsün bir sonraki adımda nerede görülebileceğini etkili bir şekilde tahmin etmek ve etkili bir çözüm geliştirmek için yapay zeka (YZ) kullanmaktadır.

31 Aralık 2019’da Dünya Sağlık Örgütü (WHO), Wuhan’da şüpheli yeni tip koronavirüse ilişkin (COVID-19) ilk raporunu kaleme almıştı. Küresel çözümün çatırdadığı ve koordine edilmediği yönündeki endişeler arasında, WHO 30 Ocak 2020’de Uluslararası Sağlık Düzenlemesi (IHR) uyarınca salgını uluslararası halk sağlığı acil durumu (PHEIC) olarak ilan etti. Çin’in ötesine yayılan yeni tip koronavirüs ile ilgili uyarılar, YZ sistemleri tarafından, salgın hakkında resmi bilgilerin uluslararası kuruluşlar tarafından yayınlanmasından bir haftadan fazla bir süre önce dile getirildi. Bir sağlık gözetimi girişimi (start-up’ı), doğal dil işleme ve makine öğrenmesi kullanarak COVID-19’un yayılışını doğru şekilde tahmin etti. Böyle bir salgın sırasındaki kararların acil olarak, genellikle bilimsel belirsizlik, korku, güvensizlik, sosyal ve kurumsal bozulma şartlarında alınması gerekmektedir. YZ teknolojileri, temel değerlerin ve insan haklarının korunmasına zarar vermeden bu tür küresel acil sağlık durumlarını yönetmek için nasıl kullanılabilir?

Potansiyel  etkiler ve gelişmeler

COVID-19 durumunda, YZ çoğunlukla akciğer CT taramalarından alınan görüntülerde COVID-19’un görsel belirtilerinin saptanması yoluyla insanların yeni tip koronavirüs olup olmadığını tespit etmeye yardımcı olmak; giyilebilir sensörlerin kullanımıyla vücut ısısındaki değişiklikleri gerçek zamanlı olarak izlemek; ve hastalığın yayılmasını izlemek için açık kaynaklı bir veri platformu sağlamak için kullanılmaktadır. YZ, bölgeye göre potansiyel yeni vakaların sayısını ve hangi toplum kesimlerinin en fazla risk altında olacağını tahmin etmek için çok sayıda yapılandırılmamış metin verisi işleyebilmekte ve aynı zamanda salgının yayılmasını kontrol etmek için stratejileri değerlendirebilmekte ve optimize edebilmektedir. Diğer YZ uygulamaları drone ile tıbbi malzeme sağlayabilmekte, hasta odalarını dezenfekte edebilmekte ve COVID-19’a karşı da işe yarayabilecek onaylı ilaç veritabanlarını (diğer hastalıklar için) tarayabilmektedir. YZ teknolojilerinin, potansiyel ilaç olarak işlev görebilen veya virüsün RNA diziliş yapısını tahmin etmek için harcanan zamanı hızlandırarak yeni moleküller bulmayı sağlanmıştır. Olası veya onaylanmış COVID-19 vakalarının temaslarını yönetmek için izlenmesi gereken ana eylemler dahil sağlık hizmetlerinde kullanılmak üzere Avrupa Hastalık Önleme ve Kontrol Merkezi tarafından COVID-19 için bir dizi risk değerlendirme algoritması geliştirilmiştir. Bazı YZ uygulamaları ise sosyal medya bilgi madenciliği için makine öğrenimi teknikleri uygulayarak, sansasyonel veya endişe verici kelimeleri takip ederek ve hangi çevrimiçi kaynakların infometik ile mücadelede yetkin olduğunu belirleyerek hastalık hakkında sahte haberleri tespit edebilmektedir. Facebook, Google, Twitter ve TikTok, COVID-19 hakkındaki yanlış bilgileri incelemek ve ortaya çıkarmak için WHO ile işbirliği yapmaktadır.

Halk sağlığı acil müdahale yönetiminde, bireyin mahremiyet, ayrımcılık yasağı ve durumun aciliyeti adına dolaşım serbestisi haklarından sapılması, gerekli süreçler olmadan yerel koruma stratejileri veya aydınlatılmış onam olmadan tıbbi muayeneyi içeren kısıtlayıcı önlemlerin alınması şeklinde olabilir. COVID-19 sürecinde, halka açık yerlerde maske takmayan insanları izlemek için yüz tanıma kullanımı veya YZ tabanlı vücut ısısı algılama sistemleri ve kişinin son yer değişikliği hareketini izlemek için dijital platformlarda ve mobil ağlarda toplanan verilerin işlenmesi gibi YZ uygulamaları, belirli olmayan sürelerde salgının sınırlandırılması adına kısıtlayıcı tedbirlerin acımasızca uygulanmasına yol açmaktadır. Çin arama devi Baidu, Pekin’deki Qinghe tren istasyonunda dakikada 200’den fazla kişinin fotoğrafını tarayan ve çeken kızılötesi ve yüz tanıma teknolojisini kullanan bir sistem geliştirmiştir. Moskova’da yetkililer, COVID-19 enfeksiyonu korkusundan dolayı, karantina altına alınan ve istasyona girmesi beklenmeyen Çin’den gelen kişileri tespit etmek için kamera görüntülerini tarayarak otomatik yüz tanıma teknolojisini kullanmaktadır. Son olarak, Çinli yetkililer halka açık yerlerde devriye gezmesi, termal görüntüleme yapması veya karantina kurallarını ihlal eden insanları izlemesi için dronlar kullanmaktadır.

 

Dokümanın orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:

https://www.europarl.europa.eu/RegData/etudes/ATAG/2020/641538/EPRS_ATA(2020)641538_EN.pdf

Kişisel Robotlar ve Kişisel Veriler

 

Kişisel Robotlar ve Kişisel Veriler

 

 

Gizem Gültekin Várkonyi

Araştırma Görevlisi, Doktora adayı

Szeged Üniversitesi

Hukuk Fakültesi

 

 

 

Baştan açıkça belirtmeliyim ki, bu yazımda ben Yapay Zeka ile robotları ayırt etmeyeceğim. Robotları pek mümkün insansı robotlar gibi düşünümek zorunda değiliz, ancak, mutfakta kullandığımız soğan parçalama makinesine mutfak robotu diyen insanlar olarak, konuya ilişkin bir ayrım ve yorum yapmak durumundayız. Bir de başına “akıllı” sıfatı getirildiğinde bir anda akıllanan makinelerden de bahsediyor olmayacağım bu yazıda. Hepimiz Yapay Zeka ve robot kelimlerini yan yana getirdiğimizde, hemen hemen bilimkurgu filmlerindeki gibi robotları düşünmüyor muyuz aslında?  Ve o robotların biriyle yakın gelecekte karşılaşma olasılığımızın çok yüksek olduğu en azından Hukuk&Robotik blogu okurlarının farkındalığındadır diye tahmin ediyorum. Benim bu yazıda bahsettiğim robotlar fiziki yapısı onların hareket etmelerine olanak sağlayan, kesintisiz bilgi toplamaları ve işleyebilmeleri için çeşitli donanımlara sahip, insanlarla fiziksel bir ortamda bulunabilen ve elbette ileri seviyede yapay zekalı robotlardan olacaktır. Zaten, neden olmasın?

Öncelikle bir durum analizi yaparak başlamak istiyorum. Robotların bugünlerdeki en popüler konulardan biri olmakla beraber araştırmalarım esnasında bu teknolojiye yaklaşımları bakımından üç türlü grubun varlığını saptadım[1]: karşıtlar, çekingenler ve cesaretliler. Aslında hemen hemen her konuda bu gruplaşmayı görürüz; görürüz de, konu robotlar olunca grupların sınırları en azından bugün için çok net çizilmiş durumda. Hep beraber inceleyelim.

Birinci grup, yapay zekanın işlerimizi elimizden alacağını; ilgili teknolojiyi elinde tutanların bizleri sürekli gözlem altında tutacağını; mahremiyet, özgür seçim gibi değer ve hakların ortadan kalkacağını düşünen şüpheci ve reddedici bir grup. Bu grubun aynı zamanda yapay zekanın hiçbir zaman insan zekası ve yeteneklerini geçemeyeceğini iddia eden grup olması, grubun filozofisini anlamam açısından bana biraz garip gelmektedir. Hiçbir zaman var olamayacağını düşündükleri bir şeyden neden korkarlar, anlayabilmiş değilim ama, toplumu korkaklığa yönlendirmeleri bakımından kendilerini zararlı buluyorum.

İkinci grup konuyla ilgili bilimsel veya akademik araştırma yapmamış ancak temel bir bilgisi ve fikri olan, robotlardan hem korkan hem de konuya meraklı kişiler. Bunlar şu anda Avrupa toplumunun büyük bir kısmını oluşturuyor[2]. Bu kişilerin en büyük korku kaynağı ise konunun yasal ve etik açıdan yeteri kadar değerlendirilerek ortaya net çözümler koyabilecek kapasiteye gelinmemiş olduğunu bilmeleri. Ancak belki de bu topluluktaki insanların bazıları, 2007’de ilk Facebook hesabını açan insanlarla aynıydı. Hesabı 2007’de açan ancak 2018’de tamamen kaldırabildi bildiğiniz üzere.

Üçüncü grupta ise robotlarla ilgili her türlü gelişmeyi merakla bekleyen, deneyen, daha fazlasını isteyen ve her gelişmeyi deneyimlemeye hazır kişler bulunuyor. Bu kişiler teknolojinin insanın daha iyi bir hayat yaşayabilmesi için insan hizmetinde olmasını savunan, bunun ise ancak teknoloji bilinci yüksek, bilgi okur-yazarı bireylerle mümkün olduğunu düşünen; teknolojiye aç ama teknolojinin kötülere de hizmet ettiğini bilen, bu yüzden çekingenlere de hak veren ama bir türlü kendini tutamayıp cesaretle geliştirmeye ve denemeye devam edenler.

Yapay zeka ile ilgili bilimsel camiaya baktığımızda birbirinin dilini bu zamana kadar anlamaya pek yanaşmamış hukukçu-yazılımcılar gibi gruplar karşımıza çıkıyor. Yapay Zekanın ilk patlama dönemi olan 1950’lerde konuyla ilgili bir veya iki hukukçu dışında pek fazla bir çalışmaya rastlamadım. İkinci dönem olan 1980’lerde tek tük yazılara rastlasam da konunun tam anlamıyla iki disiplin arasına girmesi 2000’leri buluyor. Hukuk&Robotik gibi her iki alanı direkt olarak buluşturan ve insanların sıkıcı akademik platformlarda yaptıkları çalışmaları hala bilimsel ama serbest biçimde anlatabildikleri platformlar ise en azından ülkemizde yok denecek kadar az.

İnsanlar hangi gruptan olursa olsun bugün, IBM ve Google gibi teknoloji devlerinin, Çin ve Japonya gibi teknolojiyi devlet politikalarından ayırt etmeyen ülkelerin ortaya koyduğu ürün ve gelecek planlarının farkında. Eldeki teknolojinin tam anlamıyla kullanmasına engel olan şeylerden biri kuşkusuz, kanunlar (veya topyekun insanları ortadan kaldırmayı henüz düşünmüyor da olabilirler). Ancak, laboratuvarlardaki araştırmalar dünyanın herhangi bir yerinde yürürlükteki kanunlara göre değil de Moore’un kanunlarına göre ilerliyor.

Haliyle, koskoca hukuk bilimi, teknolojinin peşinden koşan ama “maç eksiği nedeniyle” teknolojinin hep gerisinde kalan bir hale gelmiş bulunuyor. Yaşama hakkının tüm uluslararası sözleşmelerde yer alabilmesi için birçok insanın ölmesi gerekmesi gibi, teknolojinin başımıza açacağı işleri önce bekleyip sonra adım atmayı planlıyoruz, ama yanılıyoruz. Yazımın devamında sizlere, robotlarla ilgili öngörebildiğim bazı konuları Kişisel Verilerin Korunması Hukuku kapsamında nasıl düzenlenebileceğini göstermeye çalışacağım.

Herkes uzun, sağlıklı ve rahat bir yaşamı olsun ister. Şahsen ev işi yapmak yerine yapacak daha farklı şeyler bulabilirim. Makale yazabilir, spor yapabilir veya maç izleyebilirim. Hayatımı sağlıklı bir şekilde devam ettirebilmek için istediğim zaman sağlık durumumu gözlemlyebileceğim bir asistanım olsun, bu asistanım bana sağlıklı yaşamla ilgili kişiselleştirilmiş bilgi versin ve endişe uyandıran bir durumda sağlığımla ilgili bilgilerim doktorum tarafından zahmetsizce ulaşılabilsin isterim. Hatta doktorumu her basit durumda rahatsız etmeyeyim, yapay zekalı robotum bana teşhisimi koyup tedavimi versin isterim (Yaşasın! Grip oldum diye doktora gidilen günler yakında geride mi kalacak?). Hasta, yalnız, yaşlı veya engelli kişilerin yanlarında onlara arkadaşlık edebilecek, onlara hayatı kolaylaştıracak robotları sadece ben mi isterim bu dünyada?

İstediğimiz şeyler aslında bugün teknik olarak hemen hemen mümkün, ancak kanımca hem toplumun kendisi hem de toplum düzenini sağlamakla görevli gerçek veya tüzel kişiler buna henüz hazır değiller. Çünkü, örneğin, bence gayet açık ki,  tüm bu kişisel hizmetlerin  gerçekleşebilmesi için yapay zekanın ihtiyaç duyduğu şeylerden belki de ilki ve en önemlisi, kişisel veri. Konunun etik kısmının boyumu aşacağı endişesiyle konuyu profesyonellerine bırakıp, bir robotun yaşam kaynağının kişisel bilgi olduğuna işaret etmek istiyorum. Ve hatta, dünyadaki herhangi bir Kişisel Verileri Koruma Hukukunun robotların veri toplama ve işleme özelliklerini durduramayacağını iddia ediyorum. Bu kapsamda AB’nin meşhur Kişisel Verileri Koruma Tüzüğü’nden (KVKT) yola çıkarak bu savımı açıklamaya çalışacağım.

Bir veri koruma yasasının en temel görevi, kişisel verilerin yasal çerçeveler içerisinde veya kişilerin rızası doğrultusunda sınırlandırılarak toplanması ve işlenmesine olanak sağlamaktır. Cümlemin içerisindeki zıtlığı sizin de fark etmiş olduğunuzu tahmin ederek, veri koruma yasalarının sınırlandırıcı özelliğine tekrar dikkatiniz çekmek isterim. Bu açıdan aslında, kişisel verileri koruma hukuku, teknolojinin sınırsızca gelişebilmesinin önündeki en büyük engellerden biri (iyi ki de öyle). Sınırsızlığı sınırlayabildiği için de temel bir hak olan kişisel verilerin korunması hakkını sağlayan yasal temel.

İlk ulusal Kişisel Verileri Koruma (KVK) kanunu 1973 yılında İsveç’te kabul edilmiş ve birçok Avrupa ülkesi tarafından kısa zamanda örnek alınarak yasalara dahil edilmiştir. Avrupa Konseyi’nin 1981’de ülkemizin de içinde bulunduğu Konsey üyesi ülkelerin onayına sunduğu 108 no’lu Sözleşme ile KVK hakkının Avrupa için ne kadar önemli olduğu vurgulanmıştır. KVK hakkı konusunda Almanya gibi hassas bir geçmişe sahip üyeleri bulunan AB ise1995’te kabul ettiği Direktif sayesinde KVK hakkını hukuksal genel bir çerçevede belirlenmiş, uygulamayı ise üye ülkelerin kendi hukuk sistemine bırakmıştır. Bu durum her ülkenin kendi KVK rejimini geliştirmesine sebep olmuş ve bu durumun Birlik ruhunu aykırı olduğu hem Üye Ülkelerce hem de AB’ce kabul edilmiştir. Siyasi, ekonomik, güvenlik gibi mümkün olan her alanda diğer ülkelere karşı tek bir duruş sergileyen AB, KVK konusunda da üye ülkelerin tümünde aynı şekilde uygulanmasını öngören KVKT’yi 25 Mayıs 2018 günü yürürlüğe koymuştur. Burada AB hukuk sistemi gereği, KVKT’nin 27 ülkede de aynı şekilde uygulanması gerektiğini tekrar vurgulamak isterim; çünkü örneğin İsveç gibi ifade özgürlüğünün KVK hakkından daha üstün tutulduğu veya İrlanda gibi KVK rejiminin oldukça zayıf olduğu (Facebook, Google falan neden İrlanda’ya kurdu Avrupa temsilciliklerini, değil mi?) gibi ülkelerde mutlaka farklı yorumlamalar ortaya çıkacaktır. Konumuzun bu olmadığını hatırlayarak, KVKT’nin getirdiği bazı yeniliklere dikkatinizi çekmek isterim. KVKT, ilgili kişilere Unutulma Hakkı, kişilerin verilerini bir sistemden başka bir veri sorumlusunun sistemine taşıma hakkı gibi yeni haklar tanırken; ilgili kişilerin (yani verinin asıl sahibi olan kişilerin) vereceği rızanın hangi şartlar altında geçerli olacağı hususunu da kapsamlı biçimde açıklayarak geliştirmiştir.

KVKT’ye göre geçerli rıza, kişisel verilerin ancak açık ve belli amaçlar çerçeçesinde; ilgili kişinin bu amaçlar hakkında bilgilendirilerek seçimi kendisine bırakması biçiminde tanımlanabilir. Kişi, seçimini yaparken alacağı hizmeti eksik alacağı veya hiç almayacağı konusunda edişelenmeden seçimini özgürce yapabilmelidir. Ayrıca, birbirine benzese bile tamamen birbirinde bağımsız birden fazla amaca yönelik rızalarını tek tek her konu için verebilmelidir.  Veri sorumluları, kişinin yaptığı seçimi açıkça belirtecek biçimde gösterebileceği platformlar hazırlamalı ve rızanın geçerliliğini her zaman kanıtlayabilmelidir. Kişiler için rızalarını çekmek, rıza vermeleri gibi kolay olmalıdır.

İşte şimdi aklınızın bulandığını tahmin ediyorum.

Bir robot düşünün, bu robot Hizmet Robotu grubundan[3] kişisel bir Sosyal Robot, diğer bir deyişle, kişisel asistan robotu olsun. Sizinle her konuda iletişime girebilen, size gündelik hayatınızın her anında asistanlık edebilen bir robot. Onunla duygularınızı paylaşabilirsiniz, ondan finansal konularda yardımlar alabilirsiniz. Onu evinizde ailenizle birlkteyken bir eğlence aracı olarak da kullanabilirsiniz. Sağlık durumunuz onun tarafından kontrol edilmekte, üzgün olduğunuz anlar onun tarafından fark edilmekte ve o önünüze hemen sizi mutlu edecek çözümleri getirmekte.

Bu robot Doğal Dil İşleme ile Yüz ve Ses Tanıma teknikleri konusunda ileri seviyede, Nesnelerin Interneti araçlarından bilgi toplayabilen ve bu bilgiyi anlamlı hale getirebilen bir robot. Bu robot aslında, gelişmiş donanımı sayesinde çevresindekileri algılayabilen bir kişisel asistan, bir makina-sapienden[4] başka bir şey değil.

Kişisel asistanlar gibi çok amaçlı robotlar henüz laboratuvarlarda geliştirilmekte olsa da, çeşitli formlarda gündelik hayatın belli alanlarında önemli görevler almaya yavaş yavaş başladılar. Pepper gibi Sosyal Robotlar[5] (ki bu kategorideki robotlar sosyal zekaya sahip ve insanlarla sosyal ilişki kurabiliyor demek[6]), eğitim ve sağlık alanlarında yavaş yavaş insanlarla yaşamaya başladı.

Öncelikle bir durum analizi yapalım. Yukarıdaki gibi bir robot çok açıkça hem genel anlamdaki kişisel verileri hem de hassas kişisel verileri toplayabilecek ve işleyebilecek kapasitededir. Robotumuz gelişmiş Makine Öğrenme yetenekleri sayesinde normalde gereksiz[7] gibi görünen bilgiler de dahil her türlü bilgiyi anlamlandırabilmekte, hatta, kişisel verileri ustalıkla hassas verilere çevirebilmektedir. Robotun donanımı aracılığıyla ve Nesnelerin İnterneti cihazlarından topladğı veriler dışında, asistanı olduğu kişi ile ilgili (izin verildiği sürece) internetten, örneğin sosyal medya veya elektronik bankacılık hesaplarından bilgi toplayabilmesi çok kolaydır. Tüm bunların yanı sıra, fiziki görüntüsü özellikle insan veya hayvan formunda tasarlanmış robotlarla insanların duygusal bir bağ kurması, onlara gerçek bir insana güveniyor gibi güvenmesi, kişilerin kendisini başlı başına robotun bilgi kaynağı yapmaktadır.

Böyle bir robotun örneğin evde kişisel kullanıma açıldığını düşündüğümüzde öncelikle arada bir satış sözleşmesi bulunacağını ve bundan dolayı tüketici-satıcı ilişkisi kurulacağını düşünmekteyim. Haliyle, verilerin işlenmesi için gerekli yasal temelin kullanıcının kendi rızasından başka yasal bir dayanağı olamayacağı ortada. Ancak günümüzde Gizlilik Sözleşmelerinin neredeyse hiç okunmadığı, okunsa da anlaşılamadığı; kullanıcıların birçok teknolojik ürünün kendi kendine ses veya görüntü kaydetme özelliğinden haberi olmadan bu ürünleri evine getirdiği; daha üreticisinin bile öngöremediği amaçlar için veri topladığını bilmediği[8] gibi durumlarda, rızası sizce ne kadar geçerli olabilir? Heleki daha fazla kişisel verinin daha fazla kişisel hizmet ve mutluluğa giden yol olduğunu

Amaçların gayet açık, rızanın tamamen bilinçli bir kullanıcı tarafından verildiğini varsayalım. Veri, bizim robotun Sinir Ağı’nın bir parçası olmuş durumdayken bu veriyi silebilmek, robota “unutturabilmek” teknik olarak mümkün mü? Bu durumda verilmiş rızayı nasıl geri alacağız? Verdiğimiz bunca kişisel bilginin robot üreticileri tarafından tamamen göz ardı edileceğinden nasıl emin olabiliriz, hele ki bugün Skype, ki benim bildiğim kadarıyla Skype internet tabanlı bir iletişim aracından başka bir şey değildi, kullanıcılarına “arkadaşlarıyla sohbet eder gibi sohbet edebilecekleri” sosyal bir bot [9]önerebiliyorken.

Gelecek her gün daha da yakın ve teknoloji bugün çok hızlıymış gibi görünüyor olsa da, yarın bugünkü kadar yavaş olmayacak. Bu yazıda sorduğum soruların cevabının bugün verilmesi gerek robot hukuku gerekse etik konusunda ileride yapılacak çalışmalara ışık tutabilir. Özellikle, dünyanın en güncel ve en gelmiş KVK hukukuna sabip AB’nin bile KVKT’yi hazırlarken kişisel robotları görmezden geldiğini KVKT’nin yürürülüğe girmesina kadar ve yürürlüğe girdikten sonra yayımladığı birçok raporda tespit edebilmek mümkün. Bir teknoloji “cesaretlisi” olarak “çekindiğim” tek konu, kişisel verilerin kendi yaşam kaynağı olan robotların değil, hayatını daha iyi şartlarda yaşamak için bu robotlardan faydalanan kullanıcın haberi bile olmadan onların hayatını gözetleyen başka mekanizmaların varlığı. Bu yüzden iş sadece hukuka bırakılmamalı, hem bireylerin hem de robotikle ilgili diğer disiplinlerin farkındalığı artırılarak iyi senaryolara önayak olunmalıdır.

Vakit ayırıp yazımı sonuna kadar ilgiyle okuduğunuz için teşekkür ederim.

 

Yazar hakkında ayrıca bakınız: 

https://robotic.legal/author/ggvarkonyi/

 

[1] İkincil referans: Umberto Eco, Apocalittici e integrati, Bompiani, 1964 https://ia.italia.it/assets/whitepaper.pdf

[2] Special Eurobarometer 460-March 2017: Attitudes towards the impact of digitisation and automation on daily life Eurobarometer special survey

[3] International Federation of Robotics https://ifr.org/service-robots

[4] Hallevy, G., (2010) The Criminal Liabiliıty of Artificial Intelligence Entities-From Science Fiction To Legal Social Control. Akron Intellectual Property Journal, 4(2), p5. Available at: http://ssrn.com/abstract=1564096 

[5] ICub: https://www.iit.it/research/lines/icub ; Furhat: https://www.furhatrobotics.com

[6] Breazeal, C.: Designing Sociable Robots. The MIT Press, Cambridge, MA (2002)

[7] Robert van den Hoven van Genderen (2017), Privacy and Data Protection in the Age of Pervasive Technologies in AI and Robotics, EDPL, 3,  p12.

[8] Millar, Jason and Kerr, Ian R. (2013) Delegation, Relinquishment and Responsibility: The Prospect of Expert Robots  https://ssrn.com/abstract=2234645, p107.

[9] https://support.skype.com/en/faq/FA34646/what-are-skype-bots-and-how-do-i-add-them-as-contacts


Alıntı için :

Gizem Gültekin Várkonyi
"Kişisel Robotlar ve Kişisel Veriler"
Hukuk & Robotik, Monday December 10th, 2018
https://robotic.legal/kisisel-robotlar-ve-kisisel-veriler/- 09/12/2021

Yapay Zeka: Doğru Bir Geçiş Sağlamak İçin Meslekler Üzerindeki Etkisini Öngörmek

 

Yapay Zeka: Doğru Bir Geçiş Sağlamak İçin Meslekler Üzerindeki Etkisini Öngörmek 

avrupa birliği ile ilgili görsel sonucu

Avrupa Ekonomi ve Sosyal Komitesi (AESK)

Raportör: Franca SALIS-MADINIER 

19/09/2018

 

1.Sonuçlar ve Öneriler

1.1. Yapay zeka (YZ) ve robotik, dijitalleşen ekonominin işgücü piyasaları üzerindeki etkisini artıracak ve çoğaltacaktır. Teknolojik ilerleme, her zaman sosyal ve toplumsal yönetimin yeni biçimlerini gerektirerek, çalışmayı ve istihdamı etkilemiştir. AESK, teknolojik gelişmenin ekonomik ve sosyal ilerlemeye katkıda bulunabileceğine inanmakta; bununla birlikte, toplum üzerindeki genel etkisini gözden kaçırmanın bir hata olacağını düşünmektedir. YZ, iş dünyasında, iş otomasyonunun kapsamını genişletecek ve büyütecektir. Bu nedenle AESK, Avrupa sosyal modelini güçlendirerek ve yenileyerek, YZ ve robotiğin yükselişi ile paralel gidecek olan toplumsal dönüşümlerin temelini atma çabalarına katkı sağlamayı istemektedir.

1.2. AESK, özellikle sağlık hizmetleri, ulaştırma ve enerji sektörlerinde güvenlik, iklim değişikliği ile mücadele ve siber güvenlik alanındaki tehditleri öngörebilme konusunda YZ ve onun uygulama potansiyelini ortaya çıkarmaktadır. Avrupa Birliği, hükümetler ve sivil toplum örgütleri, özellikle engelli veya hareketleri kısıtlı bireyler, yaşlılar ve kronik sağlık sorunları olan kişiler için YZ’nin potansiyel faydalarına tam olarak erişme hususunda önemli bir role sahiptir.

1.3. Bununla birlikte, AB dijital ekonomi ve bunun sonucunda ortaya çıkan toplumsal dönüşüm hakkında yeterli veriye sahip değildir. AESK, özellikle YZ üzerinde, sanayi ve hizmet robotlarının, nesnelerin interneti ve yeni ekonomik modellerin (platform tabanlı ekonomi ve yeni istihdam ve iş biçimleri) kullanımıyla ilgili istatistiksel araç ve araştırmaların geliştirilmesini önermektedir.

1.4. AESK, Avrupa Komisyonu’na, Avrupa sektör düzeyindeki sosyal diyalog komitelerinin YZ ve robotiğin sektöre özel etkisi ve daha geniş anlamda ekonominin dijitalleştirilmesi üzerine yürüttüğü çalışmalarına ön ayak olma ve onları destekleme çağrısında bulunmaktadır.

1.5. Mesleklerin bazılarını eleyerek ve başkalarını yaratarak, YZ ve robotiğin onları değiştireceği ve dönüştüreceği kabul edilmektedir. Sonuç ne olursa olsun, AB, Avrupa Sosyal Haklar Sütunu ile uyumlu olarak, tüm çalışanlar, işçiler ve serbest meslek sahipleri veya serbest çalışanlar için sosyal korumaya erişimi garanti etmelidir.

 

Görüşün tamamı ile ilgili bağlatı adresini aşağıda bulabilirsiniz:

https://www.eesc.europa.eu/en/our-work/opinions-information-reports/opinions/artificial-intelligence-anticipating-its-impact-jobs-ensure-fair-transition-own-initiative-opinion

Yapay Zeka

 

İlgili resim

GÖRÜŞ

Avrupa Ekonomi ve Sosyal Komitesi 

Yapay Zeka- Yapay zekanın (dijital) tek pazar, üretim, tüketim, istihdam ve toplum üzerindeki sonuçları

31/05/2017

 

  1. Yapay zeka (YZ) şu anda bazı önemli gelişmeler yaratmakta ve hızlı bir şekilde toplumda uygulama kazanmaktadır. YZ pazarı yaklaşık 664 milyon ABD Doları tutarındadır ve 2025 yılına kadar 38,8 milyar dolara çıkması beklenmektedir. YZ’nin topluma hem olumlu hem de olumsuz bir etkisi olabileceği için, Avrupa Ekonomi ve Sosyal Komitesi (AESK), sadece teknik açıdan değil, aynı zamanda özellikle etik, güvenlik ve toplumsal açıdan da YZ’yi çevreleyen gelişmeleri yakından izlemeyi üstlenmiştir.
  2. Avrupa sivil toplumunun temsilcisi olarak, AESK önümüzdeki dönemde tüm ilgili paydaşların dahil olduğu: politika yapıcılar, endüstri, sosyal işbirlikçiler, tüketiciler, STK’lar, eğitim ve bakım kurumları, ve çeşitli disiplinlerden uzmanlar ve akademisyenler (YZ, güvenlik, etik, ekonomi, meslek bilimi, hukuk, davranış bilimi, psikoloji ve felsefe dahil)YZ konusunda kamuoyunda oluşan tartışmayı şekillendirecek, odaklayacak ve geliştirecektir. 
  3. Önemli olsa da, süper zeka ile ilgili tartışmalar şu anda baskındır ve bu, mevcut YZ uygulamalarının etkisi konusundaki tartışmayı gölgelemektedir. Bu nedenle, bu sürecin görevi ve amacı, diğer şeylerin yanı sıra, YZ’nin bilgisini arttırmak ve genişletmek ve böylelikle, en kötü durum senaryoları ve aşırı rölativizmden uzak, bilinçli ve dengeli bir tartışmaya girmektir. Bu bağlamda, AESK, insanlığın yararı için YZ’nin gelişimini teşvik etmeyi taahhüt edecektir. Bununla birlikte, bu sürecin önemli bir görevi ve amacı da, YZ’nin gelişimindeki ve çevresindeki yıkıcı etkileri iyi bir şekilde ve zamanında karşılayabilmek için bunların fark edilmesi, tanımlanması ve izlenmesidir. Bu, artan sürdürülebilir kalkınma ve YZ kullanımı ile ilgili olarak sosyal katılımın, güvenin ve desteğin artmasına yol açacaktır. (…)

 

Orijinal dokümana aşağıdaki bağlantıdan ulaşabilirsiniz:

https://www.eesc.europa.eu/en/our-work/opinions-information-reports/opinions/artificial-intelligence

Yapay Zekâ, Veri Güvenliği ve GDPR

Yapay Zekâ, Veri Güvenliği ve GDPR

 

 

Günümüzde pek çok sektörde kullanılmaya başlanana yapay zekâ ve makine öğreniminin öne çıkan özellikleri arasında, verileri programatik araçlardan ve insandan çok daha hızlı analiz edebilmesi ve verilerin nasıl işleneceğini kendi kendine öğrenebiliyor olması bulunuyor.

Özellikle son yıllarda hem kamu hem de özel sektörde sıklıkla kullanılan profilleme ve otomatik karar verme sistemleri, artan verimlilik ve kaynakların korunması bakımından bireylere ve kurumlara çeşitli faydalar sunarken aynı zamanda riskleri de beraberinde getiriyor. Bu sistemlerin aldığı kararlar bireyleri etkileyebiliyor ve karmaşık yapısı dolayısıyla kararlarının gerekçesini izlemek mümkün olamayabiliyor. Örneğin, yapay zekâ, bir kullanıcıyı belirli bir kategoriye kilitleyip, önerilen tercihlere göre kısıtlayabiliyor. Bu, dolayısıyla onların kitap, müzik veya haber yazısı gibi belirli ürün ve hizmetleri seçme özgürlüklerini de daraltabiliyor. (Article 29 Data Protection Working Party, WP251, sf.5)

Mayıs ayında Avrupa’da yürürlüğe girecek olan GDPR, profilleme ve otomatik karar vermenin bireylerin hakları üzerinde olumsuz bir etki doğuracak şekilde kullanılmaması için çeşitli hükümler barındırıyor. GDPR, profillemeyi madde 4’te şöyle tanımlıyor: “Profilleme, belirli bir şahısla ilgili onun kişisel yönlerini değerlendirmek için kişisel verilerinin kullanılması; özellikle bu kişinin işteki performansı, ekonomik durumu, sağlık bilgileri, ilgi alanları, güvenilirlik, davranış, konum veya hareketlerinin analiz edilmesi veya tahmin edilmesidir.” (WP251, sf.6) Profilleme, çeşitli kaynaklardan bireylerle ilgili elde edilen verilerin kullanılarak, kişilerle ilgili tahminlerde bulunmada kullanılır. Bu açıdan, yaş, cinsiyet, kilo gibi özelliklere dayanarak bireylerin değerlendirilmesi ya da sınıflandırılması olarak da düşünülebilir.

Otomatik karar verme ise insan müdahalesi olmaksızın teknolojik araçlarla (yapay zekâ gibi) karar verme özelliğidir. Otomatik karar verme herhangi bir veri türüne dayanabilir. Örneğin, kişiler tarafından doğrudan sağlanan veriler (ankete verilen cevaplar); kişilerden sağlanan veriler (uygulama aracılığıyla konum verisinin toplanması); önceden oluşturulmuş, türetme ya da sonuç çıkarmaya dayalı bireyin profili.

Potansiyel olarak bir profilleme için ise üç yol vardır:

-i. Genel profilleme,

-ii. Karar verme temelli profilleme,

-iii. Yalnızca otomatik karar verme içeren profilleme (madde 22)

(ii) ve (iii) arasındaki fark, (ii)’de tamamen otomatik araçlarla üretilen bir profile dayalı insan kararı vardır. (iii)’te ise kararı algoritma verir ve karar anlamlı insan girdisi olmaksızın bireye otomatik olarak teslim edilir. (WP251, sf.8)

Burada karşılaşılacak önemli sorular ise şunlardır:

-Algoritma bu verilere nasıl erişiyor?

-Verinin kaynağı doğru mu?

-Algoritmanın verdiği karar, kişi üzerinde yasal etkiler doğuruyor mu?

-Bireyler otomatik işlemeye dayalı verilen karar karşısında birtakım haklara sahip olabilir mi?

-Veri sorumluları bu durumda ne gibi önlemler almak zorunda?

Günümüzde çoğu şirket müşterilerinin davranışlarını onlardan topladıkları verilerle analiz edebiliyor. Örneğin, bir sigorta şirketi, sürücünün sürüş davranışlarını izleyerek sigorta primlerini otomatik karar verme yoluyla belirleyebilir. Bunun yanında özellikle reklam ve pazarlama uygulamalarında farklı kişilerin verilerinden yola çıkarak yapılan profilleme ve otomatik karar verme sistemleri, diğer bireyler üzerinde de etkili sonuçlar doğurabiliyor. Varsayımsal olarak, bir kredi kartı şirketi, bir müşterinin kart limitini, kendi ödeme geçmişine dayanmadan aynı bölgede yaşayan ve aynı mağazadan alışveriş yapan diğer müşterileri analiz ederek azaltabilir. Dolayısıyla bu, başkalarının eylemlerine dayalı olarak, bir fırsattan mahrum kalma anlamına gelir.

Hataların hesabı veri sorumlusundan sorulacak

Bu nokta dikkat edilmesi gereken husus, toplanan veya paylaşılan verilerdeki hatalar ya da önyargılar otomatik karar verme sürecinde yanlış sınıflandırmalara ve kesin olmayan sonuçlara dayalı değerlendirmelere neden olup bireyler açısından olumsuz etkiler doğurabilmesidir. Kararlar güncel olmayan verilere dayanabilir ya da dışarıdan alınan veriler sistem tarafından yanlış yorumlanabilir. Yani otomatik karar vermede kullanılan veri doğru değilse bu durumda sonuçtaki karar ya da profilleme de doğru olmayacaktır.

Yapay zekâ ve makine öğrenmesinin kullanıldığı bu gibi sistemlerde oluşabilecek benzeri muhtemel hatalar karşısında “veri sorumlusunun” birtakım yükümlülükleri doğacaktır. Veri sorumlusu, kullanılan ya da dolaylı olarak elde edilen verilerin doğru ve güncel olması için yeterli önlemleri almalıdır. Ayrıca verilerin saklanma süreleri de doğruluk ve güncelliğin sağlanması için sakıncalar yaratabileceği gibi, orantılılık ilkesi ile de çelişeceğinden uzun süreli veri saklanması konusunda da veri sorumlusu gerekli adımları atmalıdır.

Diğer önemli husus ise özel nitelikli kişisel verilerin bu sistemlerce işlenip kullanılmasıdır. GDPR, özel nitelikli kişisel verilerin işlenmesinde ilgili kişinin açık rızasını aramaktadır. Ancak, bu durumda veri sorumlusunun unutmaması gereken şey, profillemenin özel nitelikli kişisel veri olmayan verilerin birleşimi ile özel nitelikli kişisel veri oluşturabilir olmasıdır. Örneğin, bir kişinin sağlık durumu, gıda alışverişi kayıtlarından, gıdaların kalite ve enerji içeriği ile ilgili verilerinden elde edilmesi ile mümkün olabilir. (WP251, sf.22)

GDPR, verileri kullanılarak otomatik karar verme işlemlerinden etkilenen kişilerin bu durum karşısında bazı hakları olduğundan da bahseder. GDPR’ın temelini oluşturan şeffaflık ilkesi göz önüne alındığında, madde 13 ve 14’e göre, veri sorumlusu bireylere açık bir şekilde profilleme veya otomatik karar verme sürecinin nasıl işlediğini açıklamalıdır.

Profilleme, hata riskini artıran bir tahmin unsuru içerebilir. Girdi verileri yanlış veya alakasız olabilir ya da bağlam dışı kalabilir. Bireyler kullanılan verilerin ve gruplandırmanın doğruluğunu sorgulamak isteyebilir. Bu noktada, madde 16’ya göre, ilgili kişinin düzeltme hakkı da söz konusu olacaktır.

Benzer şekilde, madde 17’de belirtilen silme hakkı da bu çerçevede ilgili kişi tarafından talep edilebilir. Profillemenin temeli için rıza gösterilirse ve bu rıza sonradan geri çekilirse veri sorumlusu profilleme için başka yasal dayanak olmadığı sürece ilgili kişinin kişisel verilerini silmek zorundadır.

Çocukların kişisel verilerinin önemi

Profilleme ve otomatik karar vermede dikkat edilmesi gereken bir başka nokta ise çocukların kişisel verilerinin kullanılmasıdır. Çocuklar özellikle çevrimiçi ortamlarda daha duyarlı olabilir ve daha kolay etkilenebilir. Örneğin, çevrimiçi oyunlarda profilleme, algoritmanın daha fazla kişiselleştirilmiş reklam sunmasının yanı sıra, oyunda para harcamasının daha olası olduğunu düşündüğü oyuncuları hedeflemesi için de kullanılabilir. GDPR madde 22’de işlemenin çocuklar ve yetişkinler ile ilgili olup olmadığı konusunda ayrım yapmıyor. Ancak yine de çocuklar bu tür pazarlama çalışmalarından kolayca etkilenebileceği için, veri sorumlusu, çocuklar için uygun önlemleri almalı ve bu önemlerin çocukların haklarını, özgürlüklerini ve meşru çıkarlarını korumada etkili olduğundan emin olmalıdır.

Sonuç olarak, yapay zekâ ve makine öğrenimi gibi sistemlere dayanarak yapılan profilleme ve otomatik karar verme, birey hakkında önemli sonuçlar doğurabilir. Bu teknolojiyle bağlantılı olarak toplanan verilerin, kişilerin rızası alınarak toplanması ya da yasal bir zemine oturtulması gerekir. Akabinde kullanılacak olan bu verilerin toplandıkları amaçla bağlantılı olarak kullanılması da önemlidir. Sistemin aniden alışılmadık kararlar almaya başlaması halinde ne gibi yol haritaları izleneceği de dâhil olmak üzere, veri sorumlusu gereken önlemleri almalı ve ilgili kişilerin hak ve özgürlüklerini de gözetmelidir.

Ayrıca bakınız:

Yapay Zekâ, Veri Güvenliği ve GDPR