Uzmanlara göre, AB Yapay Zeka Destekli Vatandaş Puanlamasını ve Kitlesel Gözetimi Yasaklamalı

AB tarafından toplanan bir grup politika uzmanı kitlesel gözetim ve kitlesel “bireylerin puanlanması” için Yapay Zeka (AI) kullanımını yasaklamasını tavsiye etti.

Uzmanlara göre, AB Yapay Zeka Destekli Vatandaş Puanlamasını ve Kitlesel Gözetimi Yasaklamalı
Uzmanlara göre, AB Yapay Zeka Destekli Vatandaş Puanlamasını ve Kitlesel Gözetimi Yasaklamalı

AB tarafından toplanan bir grup politika uzmanı kitlesel gözetim ve kitlesel “bireylerin puanlanması” için AI kullanımını yasaklamasını tavsiye etti; Vatandaşlarla ilgili çeşitli verilerin toplanmasını içeren bir uygulama - sabıka kayıtlarından sosyal medyadaki davranışlarına kadar - ahlaki veya etik bütünlüklerini değerlendirmek için bunları kullanma.

Öneriler, AB'nin “etik AI” olarak adlandırılan bir lider olma yolunda devam eden çabalarının bir parçası. Bu yılın başlarında , AB'deki AI'nın güvenilir bir şekilde dağıtılması gerektiğini belirten, konuyla ilgili ilk kılavuzlarını yayınladı. “İnsan merkezli” tarz.

 

AB, Yapay Zeka Eğitimini Okullara ve Üniversiteleri Dahil Etmeye Teşvik Ediyor

Yeni rapor daha spesifik öneriler sunmaktadır. Bunlar finansman gerektiren AI araştırma alanlarının tanımlanmasını; AB'yi AI eğitimini okullara ve üniversitelere dahil etmeye teşvik etmek; ve AI'nın etkisini izlemek için yeni yöntemler önermek. Ancak, makale bu noktada yalnızca bir dizi öneridir ve mevzuatın bir taslağı değildir.

Özellikle AB'nin AI etkin kitlesel puanlamayı yasaklaması ve kitlesel gözetimi sınırlandırması önerileri raporun nispeten az somut önerilerinden bazıları. (Genellikle, raporun yazarları bu alanda veya bu alanda daha fazla araştırmaya ihtiyaç duyulduğunu önermektedir.)

 

Çin'in Sosyal Kredi Puanlamasından Kaynaklı Bir Endişe

AI destekli kitlesel puanlama korkusu büyük ölçüde Çin'in yeni ortaya çıkan sosyal kredi sistemi hakkındaki raporlardan kaynaklanmaktadır. Bu program genellikle Çin hükümetine vatandaşların davranışları üzerinde büyük kontrol sağlayacak bir distopya aracı olarak sunulur ; ideolojik ihlallere yanıt olarak (birisinin yüksek hızlı demiryolu ile seyahat etmesini yasaklamak gibi) (sosyal medyadaki Komünist partiyi eleştirmek gibi) cezalarını almalarını sağlamak.

Bununla birlikte, daha yeni ve ayrıntılı raporlar, bu sistemin göründüğünden daha az Orwellian (i̇nsanların hayatına her yönden hükmeden, baskıcı, kontrolcü) olduğunu göstermektedir. Düşünce suçu olmaktan ziyade Çin toplumunda gündelik yolsuzlukları bastırmaya odaklanan onlarca pilot program arasında bölünmüştür.

 

Batıda Gözetleme ve Ceza Puanlaması Sistemi Zaten Var

Uzmanlar, Batı'da benzer gözetleme ve ceza sistemlerinin zaten mevcut olduğunu, ancak hükümetler tarafından denetlenmesi yerine, özel şirketler tarafından yönetildiklerini belirtti. Bu ek bağlamda, AB çapında “kitlesel puanlama” yasağının ne olacağı açık değildir. Örneğin, sigorta şirketlerinin, alacaklıların veya sosyal medya platformlarının faaliyetlerini de kapsıyor mu?

 

Yapay Zeka Teknolojisinin Kişisel Çıkarlar İçin Kullanılması Tehlikesi Var

Bugünün raporunun diğer yerlerinde, AB uzmanları vatandaşların AI kullanarak “haksız kişisel, fiziksel veya zihinsel izleme veya kimliklendirmeye maruz kalmaması” gerektiğini öne sürüyor. Bu, birisinin sesindeki duyguları tanımlamak veya yüz ifadelerini izlemek için AI kullanımını içerebilir. Fakat yine de, bunlar çalışanların üretkenliğini izlemek gibi görevler için bunları kullanarak şirketleri zaten dağıtıyorlar . Bu faaliyet AB’de yasaklanmalı mı?

Raporun önerilerinin kapsamına ilişkin belirsizlik, bu tür politika belgelerinin bu noktada dişsiz olduğu yönündeki eleştiriyle eşleşiyor.

 

Uzmanlar; Belirsizlikler Çok Fazla ve Sistemin Kırmızı Çizgileri Bilinmiyor

Raporu yazan ve kar amacı gütmeyen Access Now’ın politika analizcisi olan uzman grubun bir üyesi olan Fanny Hidvegi, belgenin “belirsizlikler, kırmızı çizgiler ve uygulama mekanizmalarına açıklıktan yoksun” olduğunu belirterek fazlasıyla belirsiz olduğunu söyledi . kurumsal çıkarlar tarafından yönlendirildiği için . Filozof AI uzman grubunun bir diğer üyesi olan Thomas Metzinger, AI'nın nasıl kullanılmaması gerektiği konusundaki ilk “kırmızı çizgilerin” sadece “kritik kaygılar ” için nasıl kullanılmayacağına dikkat çekti .

Dolayısıyla, AB AI kitlesel gözetim ve puanlamayı yasaklamalarını söyleyen uzmanları görevlendirirken, bu zararlara karşı önleyici mevzuatın çıkarılacağını garanti etmemektedir.