Yapay Zeka İçin Yeni Kurallar – Sorular ve Cevaplar

 

Yapay Zeka İçin Yeni Kurallar 

-Sorular ve Cevaplar-

Avrupa Birliği Komisyonu

2021

 

  1. Yapay zeka teknolojisinin kullanımını neden hukuki olarak düzenlememiz gerekiyor?

Yapay zekanın toplumlarımız için potansiyel faydaları, gelişmiş tıbbi tedaviden daha iyi eğitime kadar çok çeşitlidir. Yapay zekanın hızlı teknolojik gelişimi ile karşı karşıya kalan AB, bu fırsatlardan yararlanmak için tek vücut halinde hareket etmelidir. Çoğu yapay zeka sistemi düşük veya sıfır risk barındırırken, bazı yapay zeka sistemleri istenmeyen sonuçlardan kaçınmak için ele alınması gereken riskler oluşturmaktadır. Örneğin, birçok algoritmanın şeffaf olmaması, belirsizlik yaratabilir, ayrıca güvenlik ve temel haklarla ilgili mevcut mevzuatın etkili bir şekilde uygulanmasını engelleyebilir. Bu zorluklara karşılık, hem faydaların hem de risklerin layıkiyle ele alındığı yapay zeka sistemleri için iyi işleyen bir iç pazar sağlamak üzere yasama faaliyetinin yürütülmesi gerekmektedir. Bu, biyometrik tanımlama sistemleri gibi uygulamaları veya işe alım, eğitim, sağlık hizmetleri veya yargı hususlarında olduğu gibi önemli kişisel alanlara değinen yapay zeka kararlarını içermektedir. Komisyon’un yapay zeka ile ilgili düzenleme önerisi, temel hakların korunması ve kullanıcı güvenliğinin sağlanması ile yapay zekanın geliştirilmesi ve benimsenmesine olan güvenin sağlanmasını amaçlamaktadır.

 

  1. Yeni yapay zeka kuralları hangi riskleri ele alacak?

Yapay zeka sistemlerinin kavranması toplumsal fayda ve ekonomik büyümeyi sağlama ile AB inovasyonunu ve küresel rekabet gücünü artırma konusunda güçlü bir potansiyele sahiptir. Bununla birlikte, belirli durumlarda, belirli yapay zeka sistemlerinin kendine özgü özellikleri, kullanıcı güvenliği ve temel haklarla ilgili yeni riskler oluşturabilmektedir. Bu, şirketler için hukuki belirsizliğe ve güven eksikliği nedeniyle işletmeler ve vatandaşlar tarafından yapay zeka teknolojilerinin potansiyel olarak daha yavaş kavranmasına yol açmaktadır. Ulusal makamların birbirinden tamamen farklı düzenleyici müdahaleleri, iç pazarın parçalanma riskini doğuracaktır.

 

  1. Risk kategorileri nelerdir?

Komisyon, dört risk seviyesi ile risk temelli bir yaklaşım önermektedir:

Kabul edilemez risk: Temel hakları ihlal ettikleri için AB değerlerine aykırı olan çok sınırlı sayıda, özellikle zararlı yapay zeka kullanımı yasaklanacaktır. (ör. hükümetler tarafından yapılan sosyal puanlama, çocukların kırılganlıklarının istismar edilmesi, bilinçaltı tekniklerinin kullanımı ve – dar istisnalara tabi olarak – kolluk kuvvetlerince kullanılan halka açık alanlarda canlı uzaktan biyometrik tanımlama sistemleri)

Yüksek risk: Öneride tanımlanan sınırlı sayıda yapay zeka sistemi, insanların güvenliği veya (AB Temel Haklar Şartı tarafından korunan) temel hakları üzerinde olumsuz bir etki yaratarak yüksek riskli olarak kabul edilmektedir. Önerinin ekinde, yapay zeka kullanım durumlarının evrimiyle uyumlu olacak şekilde (geleceğe dönük) gözden geçirilebilecek yüksek riskli yapay zeka sistemlerinin listesi yer almaktadır. Bunlar, sektörel Birlik mevzuatı tarafından kapsanan ürünlerin güvenlik unsurlarını da içermektedir. Sektörel mevzuat kapsamında üçüncü taraf uygunluk değerlendirmesine tabi olduklarında her zaman yüksek riskli olacaktır. Güveni ve aynı zamanda güvenliğin ve temel hakların yüksek düzeyde ve istikrarlı bir şekilde korunmasını sağlamak için tüm yüksek riskli yapay zeka sistemlerine yönelik zorunlu gereklilikler önerilmiştir. Bu gereklilikler kullanılan veri setlerinin kalitesi; teknik dokümantasyon ve kayıt tutma; şeffaflık ve kullanıcılara bilgi sağlanması; insan gözetimi; ve sağlamlık, doğruluk ve siber güvenlik konularını kapsamaktadır. İhlal durumunda, ulusal makamların yapay zeka sisteminin kullanımının hukuka uygun olup olmadığını araştırmak için gereken bilgilere erişmesine izin verilecektir. Öneri, Avrupa Birliği Temel Haklar Şartı ile tutarlı ve AB’nin uluslararası ticaret taahhütleriyle uyumludur.

Sınırlı risk: Belirli yapay zeka sistemleri için, örneğin açık bir manipülasyon riskinin olduğu durumlarda (örneğin, sohbet robotlarının kullanılması yoluyla) belirli şeffaflık gereksinimleri dayatılmaktadır. Kullanıcılar, bir makine ile etkileşimde bulunduklarının farkında olmalıdır.

Asgari risk: Diğer tüm yapay zeka sistemleri, ek hukuki yükümlülükler olmaksızın mevcut mevzuata tabi olarak geliştirilebilir ve kullanılabilir. Şu anda AB’de kullanılan yapay zeka sistemlerinin büyük çoğunluğu bu kategoriye girmektedir. Gönüllü olarak, bu sistemlerin sağlayıcıları güvenilir yapay zeka için gereklilikleri uygulamayı ve gönüllü davranış kurallarına uymayı seçebilir.

 

  1. Yüksek riskli yapay zeka sistemlerinin sağlayıcılarının yükümlülükleri nelerdir?

Yüksek riskli bir yapay zeka sistemini AB pazarında bulundurmadan veya başka bir şekilde hizmete sunmadan önce, sağlayıcılar bunu bir uygunluk değerlendirmesine tabi tutmalıdır. Sistemlerinin, güvenilir yapay zeka için zorunlu gerekliliklere uygun olduğunu (örneğin veri kalitesi, dokümantasyon ve izlenebilirlik, şeffaflık, insan gözetimi, doğruluk ve sağlamlık) göstermesi gerekecektir. Sistemin kendisinin veya amacının büyük ölçüde değiştirilmesi durumunda, değerlendirmenin yinelenmesi gerekecektir. Belirli yapay zeka sistemleri için, bağımsız bir onaylı kuruluşun da bu sürece dahil olması gerekecektir. Sektörel Birlik mevzuatı kapsamındaki ürünlerin güvenlik unsurları olan yapay zeka sistemleri, söz konusu sektör mevzuatı kapsamında üçüncü taraf uygunluk değerlendirmesine tabi tutulduğunda her zaman yüksek riskli olarak kabul edilecektir. Ayrıca biyometrik tanımlama sistemleri için üçüncü taraf uygunluk değerlendirmesi her zaman gereklidir.

Yüksek riskli yapay zeka sistemlerinin sağlayıcıları, bir ürün piyasaya sürüldükten sonra bile yeni gerekliliklere uymalarını sağlamak ve ayrıca kullanıcılar ve etkilenen kişiler için riskleri en aza indirmek için kalite ve risk yönetimi sistemlerini uygulamak zorunda kalacaktır. Piyasa gözetim otoriteleri, sağlayıcılara, farkına vardıkları temel hak yükümlülüklerinin ihlallerini veya ciddi olayları raporlama imkanı sunarak denetimler yoluyla piyasa sonrası izlemeyi destekleyecektir.

 

  1. Uyum nasıl tatbik edilecek?

Üye Devletler, bu düzenlemenin uygulanmasında ve yürütülmesinde kilit bir role sahiptir. Bu bağlamda, her Üye Devlet, uygulamayı ve yürütmeyi denetlemek ve piyasa gözetim faaliyetlerini gerçekleştirmek üzere bir veya daha fazla ulusal yetkili makam belirlemelidir. Verimliliği artırmak ayrıca halkla ve diğer muhataplarla resmi bir temas noktası oluşturmak için, her Üye Devlet, ülkesini Avrupa Yapay Zeka Kurulu’nda da temsil edecek bir ulusal denetim makamı oluşturmalıdır.

 

  1. Avrupa Yapay Zeka Kurulu nedir?

Avrupa Yapay Zeka Kurulu, yetkili ulusal denetim makamları, Avrupa Veri Koruma Denetçisi ve Komisyonun üst düzey temsilcilerinden oluşacaktır. Rolü, yeni yapay zeka düzenlemesinin sorunsuz, etkili ve uyumlu bir şekilde uygulanmasını kolaylaştırmak olacaktır. Kurul, yüksek riskli yapay zeka sistemlerine ve yeni kuralların etkili ve tekdüze uygulanmasına ilişkin diğer hususlara ile ilgili olarak Komisyona tavsiyelerde bulunacak ve görüş bildirecektir. Ayrıca, uzmanlığın geliştirilmesine yardımcı olacak ve ulusal makamların danışabileceği bir yetkinlik merkezi olarak hareket edecektir. Son olarak, bölgedeki standardizasyon faaliyetlerini de destekleyecektir.

 

  1. Yapay zeka sistemlerinin ve uygulamalarının ithal edilmesinde düzenlemeye uyulması gerekecek mi?

Evet. Yapay zeka sistemlerinin ithalatçıları, yabancı sağlayıcının gerekli uygunluk değerlendirme prosedürünü halihazırda yürüttüğünden ve düzenleme tarafından gerekli görülen teknik dokümantasyona sahip olduğundan emin olmalıdır. Ek olarak, ithalatçılar, sistemlerinin Avrupa Uygunluk (CE) işareti taşıdığından ve gerekli dokümantasyon ile kullanım talimatlarının bulunduğundan emin olmalıdır.

 

  1. Makine Emniyet Düzenlemesi yapay zeka ile nasıl ilişkilidir?

Makine Emniyet Düzenlemesi, yeni nesil makine ürünlerinin kullanıcıların ve tüketicilerin güvenliğini garanti altına almayı sağlamakta ve inovasyonu teşvik etmektedir. Makine ürünleri, robotlardan (temizlik robotları, kişisel bakım robotları, işbirliğine dayalı robotlar, endüstriyel robotlar) çim biçme makinelerine, üç boyutlu yazıcılara, inşaat makinelerine, endüstriyel üretim hatlarına kadar geniş bir tüketici ve profesyonel ürün yelpazesini kapsamaktadır.

 

  1. Yapay zeka ile ilgili düzenlemeye nasıl uyuyor?

Her ikisi de tamamlayıcıdır. Makine Emniyet Düzenlemesi, uygulanabilir olduğunda, bir bütün olarak makinenin güvenliğini tehlikeye atmamak için yapay zeka sisteminin tüm makineye güvenli bir şekilde entegre edilmesini sağlarken, yapay zeka düzenlemesi, makinelerde güvenlik işlevlerini sağlayan yapay zeka sistemlerinin güvenlik risklerini ele alacaktır.

 

 

Soruların tamamına ve orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:

https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683#3

2012 yılında Japonca eğitimim sonrasında hukuk fakültesine başladı. Jürging-Örkün-Putzar Rechtsanwalte (Almanya), Güler Hukuk Bürosu ve Ünsal & Gündüz Attorneys at Law' da staj yaptı. Japon dili sertifikası aldı. Ayrıca arabuluculuk- tahkim ve ceza hukuku gibi alanlarda sertifika programlarına katıldı.Bunların akabinde Bilişim ve Teknoloji Hukuku alanında yüksek lisans yapmaya başladı. Köksal & Partners hukuk bürosunda avukat olarak çalışmakta. Büyük bir merakla, robotlar, yapay zeka ve onların hukuksal durumları ve problemler ile ilgili çalışmalar yürütmekte. She studied law following herJapanese education on 2012. She fulfilled her internships in Jurging-Orkun-Putzar Rechtsanwalte(Germany), Guler Law Office and Unsal&Gunduz Attorney at Law . Also she has certificate of Japanese language and she has mediation and arbitration certificates and criminal law certificates from law workshops. Afterwards, she started the master program on information and technology law, at Istanbul Bilgi University. She works as a lawyer at Koksal & Partners law office. Her goal and ambition is the working in the field of Robotics, AI and their legal statutes and problems and exploring the relevant necessities where no women has ever gone before... Yazarın diğer yazıları için ayrıca bakınız: For further works of the author: https://bilgi.academia.edu/Selin%C3%87etin https://siberbulten.com/author/selin-cetin/

Bir cevap yazın

*