robotic.legal
Selin Çetin

AI Now 2018 Raporu

0 455

AI Now 2018 Raporu

 

Aralık 2018

 

TAVSİYELER

  1. Hükümetler, bu teknolojilerin bulundukları alanlar yoluyla gözetmek, denetlemek ve izlemek için sektöre özgü kurumların yetkilerini genişletmek suretiyle yapay zekayı düzenlemelidir. Yapay zeka (YZ) sistemlerinin uygulanması, yeterli yönetim, gözetim veya hesap verebilirlik rejimleri olmaksızın hızla genişlemektedir. Sağlık, eğitim, adalet ve refah gibi alanların hepsinin kendi tarihleri, düzenleyici çerçeveleri ve tehlikeleri bulunmaktadır. Bununla birlikte, ulusal bir yapay zeka güvenlik kuruluşu veya genel yapay zeka standartları ve sertifikasyon modeli, nüanslı düzenleme için gerekli olan sektörel uzmanlık gereksinimlerini karşılama konusunda çaba sarf edecektir. Sadece teknolojiye öncelik vermeyen, belirli bir alandaki uygulamasına da odaklanan sektöre özgü bir yaklaşıma ihtiyacımız var. Sektöre özgü yaklaşımların yararlı örnekleri arasında ABD Federal Havacılık İdaresi ve Ulusal Karayolu Trafik Güvenliği İdaresi bulunmaktadır.
  1. Yüz tanıma ve duygu tanıma, kamu yararını korumak için sıkı düzenlemeye ihtiyaç duymaktadır. Bu düzenleme, güçlü denetim, açık sınırlamalar ve kamusal şeffaflığı gerektiren ulusal yasaları içermelidir. Topluluklar, bu teknolojilerin uygulanmasını hem kamu hem de özel bağlamda reddetme hakkına sahip olmalıdır. Kullanımlarının kamuya açık bir şekilde bildirilmesi yeterli değildir ve baskıcı ve sürekli kitlesel gözetimin tehlikeleri göz önüne alındığında, herhangi bir onay için yüksek bir eşik olmalıdır. Duygu tanıma, özellikle dikkat etmeyi gerektirir. Duygu tanıma, yüz görüntülerine veya videolarına dayanan, kişilik, içsel duygular, zihinsel sağlık ve “çalışanların katılımı” gibi şeyleri saptadığını iddia eden yüz tanımanın bir alt sınıfıdır. Bu iddialar, sağlam bilimsel kanıtlarla desteklenmez ve sıklıkla, frenoloji ve fizyonominin yalanlarını hatırlatan etik olmayan ve sorumsuz yollarla uygulanmaktadır. Duygu tanımayla bağlantılı işe alım, sigortaya erişim, eğitim ve güvenliği sağlama, hem bireysel hem de toplumsal düzeyde riskleri derinden etkiler.
  1. YZ endüstrisi, yönetişim için acilen yeni yaklaşımlara ihtiyaç duymaktadır. Bu raporun gösterdiği gibi, çoğu teknoloji şirketindeki iç yönetim yapısı, YZ sistemleri için hesap verebilirliği sağlamada başarısız oluyor. Hükümet düzenlemesi önemli bir bileşen olmakla birlikte, YZ endüstrisindeki önde gelen şirketler de etik kurallarının ötesine geçen iç hesap verebilirlik yapılarına ihtiyaç duymaktadır.  Bu, yönetim kurullarında, dış etik danışma kurullarında ve bağımsız izleme ve şeffaflık çabalarının uygulanması konusunda aşağı tabakadaki çalışanların temsilciliğini içermelidir. Üçüncü taraf uzmanlar, kilit sistemler hakkında denetim ve yayın yapabilmeli ve şirketler, YZ altyapılarının nihai uygulama ve kullanımları dahil olmak üzere “birbirinin peşine sıra” olduğunun anlaşılmasını sağlamalıdır.
  1. YZ şirketleri, ticaret sektöründe hesap verme sorumluluğu altında duran ticari gizlilik ve diğer yasal iddialardan vazgeçmelidir. Yönetimde kullanılmak üzere YZ ve otomatik karar sistemleri oluşturan satıcılar ve geliştiriciler, yazılımlarının tam denetimini ve anlaşılmasını engelleyen ticari bir gizlilik veya diğer yasal iddialardan feragat etmeyi kabul etmelidir. Kurumsal gizlilik yasaları, sürecin önündeki engeldir: “kara kutu etkisi” sistemi öngörülmez ve anlaşılmaz hale getirerek önyargıları, çekişen kararları veya hataları düzeltmeyi zorlaştırır. Bu teknolojileri kamu sektöründe kullanılmak üzere temin eden herhangi bir kişi, satıcıların herhangi bir anlaşmaya girmeden önce bu iddialardan vazgeçmesini talep etmelidir.
  1. Teknoloji şirketleri, vicdani retçiler, çalışan organizasyonu ve etik ihbarcılar için koruma sağlamalıdır. Teknoloji çalışanları tarafından yapılan örgütlenme ve direniş, hesap verebilirlik ve etik karar verme için bir güç olarak ortaya çıkmıştır. Teknoloji şirketleri, çalışanların örgütlenme, ihbar etme ve çalıştıkları projeler hakkında etik seçimler yapma imkanlarını korumaları gerekmektedir. Bu açık politikalar, vicdani retçileri barındıran ve koruyan, işçilerin ne üzerinde çalıştığını bilme haklarını  sağlayan ve misilleme veya intikam olmaksızın böyle bir işten kaçınma imkanını içermelidir. Etik açıdan endişe uyandıran işçiler de, kamu yararı nezaretinde olduğu gibi korunmalıdır. Etik açıdan endişe uyandıran işçiler de, kamu yararı içinde ihbarcılarda olduğu gibi korunmalıdır.
  1. Tüketici koruma kurumları, YZ ürün ve hizmetleri için “gerçekteki reklamlar” ilkelerini uygulamalıdır. YZ ile ilgili aldatmaca sadece büyümekte ve bu, pazarlama vaatleri ile gerçek ürün performansı arasındaki uçuruma yol açmaktadır. Bu uçurum dolayısıyla, hem kişisel hem de ticari müşteriler için, genellikle ağır sonuçlarla birlikte artan riskler ortaya çıkmaktadır. Toplumları ciddi şekilde etkileme ya da sömürme potansiyeline sahip olan diğer ürün ve hizmetler gibi, YZ satıcıları, özellikle bunları destekleyen bilimsel kanıtların yetersiz olduğu ve uzun vadeli sonuçların bilinmediği durumlarda, söz verebilecekleri yüksek standartlarda tutulmalıdır.
  1. Teknoloji şirketleri “boru hattı modeli” nin ötesine geçmeli ve işyerlerinde dışlama ve ayrımcılık uygulamalarını ele almayı taahhüt etmelidir. Teknoloji şirketleri ve bir bütün olarak YZ konusunda, daha çeşitli çalışanları eğitmek ve işe almak isteyen “boru hattı modeli” ne odaklandı. Bu önemli olmakla birlikte, insanlar toplumsal cinsiyet, ırk, cinsellik veya engellilik temelinde insanları dışarıda bırakan, taciz eden veya sistematik olarak haksızlığa uğratan işyerlerinde işe alındığında neler olduğuna bakmaktadır. Şirketler, işyerlerindeki daha derin konuları ve çeşitli kültürler ile önyargı ve ayrımcılığı sürdüren araçlar üretebilen ürünler arasındaki ilişkiyi incelemelidirler. Odaktaki bu değişikliğin, işe alım ve istihdam ile ilgili şeffaflık önlemleri ile birlikte, nihai ücrete ve fırsat eşitsizliğine yönelik bir taahhüt de dahil olmak üzere, pratik eylemle birlikte sunulması gerekmektedir.
  1. YZ’deki adalet, hesap verebilirlik ve şeffaflık, “tam tedarik zinciri” nin ayrıntılı bir hesabını gerektirir. Anlamlı bir hesap verebilirlik için, bir YZ sisteminin ve ona bağlı olduğu tüm tedarik zincirinin bileşen parçalarını daha iyi anlamamız ve takip etmemiz gerekir: bu, eğitim verilerinin, test verilerinin, modellerin, uygulama programı arayüzlerinin (API’ların) kökenleri, kullanımı ve ürün yaşam döngüsü üzerindeki diğer altyapı bileşenleri için hesap verme anlamına gelir. Bu hesap vermeyi, YZ sistemlerinin “tam tedarik zinciri” olarak adlandırıyoruz ve bu, daha sorumlu bir denetim biçimi için şarttır. Tam tedarik zinciri ayrıca, YZ sistemlerinin gerçek çevresel ve işgücü maliyetlerini anlamayı da içerir. Bu, enerji kullanımını, içerik yönetimi ve eğitim verilerinin oluşturulması için gelişmekte olan ülkelerde emeğin kullanılmasını ve YZ sistemlerini geliştirmek ve sürdürmek için bilişim hamallarına güvenmeyi birleştirir.
  1. YZ hesap verebilirlik konularında dava takibi, işgücü organizasyonu ve toplum katılımı için daha fazla finansman ve desteğe ihtiyaç vardır. YZ sistemlerinden zarar görme riski en fazla olan kişiler, çoğunlukla sonuçlara en az itiraz edebilecek olanlardır. Yasal çözüm ve sivil katılımın sağlam mekanizmaları için daha fazla desteğe ihtiyacımız var. Bu, sosyal hizmetlerden kesilenleri, algoritmik karar verme, sivil toplum örgütleri ve iş kaybı ve sömürü riski taşıyan grupları destekleyen işgücü organizatörleri ve halkın katılımını sağlayan toplum temelli altyapılardan kaynaklanan kamu destekçilerini desteklemeyi içermektedir.
  1. Üniversite YZ programları, bilgisayar bilimleri ve mühendislik disiplinlerinin ötesine yayılmalıdır. YZ disiplinler arası bir alan olarak başladı, ancak yıllar boyunca teknik bir disiplin haline geldi. YZ sistemlerinin sosyal alanlara giderek artan bir şekilde uygulanmasıyla, disiplin yönelimini genişletmesi gerekmektedir. Bu, uzmanlık biçimlerinin sosyal ve hümanistik disiplinlerde merkezileştirilmesi anlamına gelir. Gerçek anlamda sosyal sonuçları ele almak isteyen çabalar, yalnızca öğretim üyeleri ve öğrencilerin sosyal dünyayı araştırmak için eğitilmediği bilgisayar bilimleri ve mühendislik bölümlerinde kalamaz. Yapay zeka araştırmalarının disiplinel yönelimini genişletmek, toplumsal bağlamda daha fazla dikkat çekilmesini ve bu sistemlerin insan topluluklarına uygulandığında potansiyel tehlikelere daha fazla odaklanılmasını sağlayacaktır.

 

Raporun tamamını aşağıdaki bağlantıda bulabilirsiniz:

https://ainowinstitute.org/AI_Now_2018_Report.pdf

 

Bunları da beğenebilirsin
Haber Bülenimize Abone Olun
Eklenmiş yazılardan ilk siz haberdar olmak istiyorsanız bültenimize abone olun.
İstediğiniz zaman abonelikten çıkabilirsiniz.