2019 yılında bir Fransız lojistik şirketinin soyulmasının ardından, failleri tespit etmek amacıyla olayın güvenlik kamerası görüntülerinde yüz tanıma teknolojisi (FRT) kullanıldı.
FRT, örneğin kapalı devre televizyon (CCTV) kameralarından alınan görüntüleri, çoğu durumda bilgi ve izin alınmadan toplanan milyonlarca yüz görüntüsünden oluşan veritabanlarıyla eşleştirmeye çalışarak çalışır.
Bu durumda, FRT sistemi iki yüz kişiyi potansiyel şüpheli olarak listeledi.
Polis, bu listeden ‘Bay H’yi seçti ve onu suçla ilişkilendirecek fiziksel kanıt olmamasına rağmen onu hırsızlıkla suçladı.
Duruşmasında mahkeme, Bay H’nin avukatının, Bay H.’yi suçlama kararının merkezinde yer alan, sistemin listeyi nasıl derlediği hakkında bilgi paylaşma talebini reddetti.
Yargıç, bu kötü şöhretli ayrımcı teknolojiye güvenmeye karar vererek Bay H’yi 18 ay hapis cezasına çarptırdı.
Yüz tanıma ile suçlandı
Teknoloji bireyleri gerçek zamanlı olarak izlemek ve izlemek için kullanıldığından, “Canlı” FRT genellikle (haklı) eleştirilerin hedefidir.
Bununla birlikte, bir olay gerçekleştikten sonra yüz tanıma teknolojisinin geriye dönük olarak kullanılması, Bay H’ninki gibi vakalarda kullanılmasına rağmen daha az incelenmektedir.
Geriye dönük FRT, güvenlik kamerası görüntülerinin yaygın olarak bulunabilmesi ve teknik için hali hazırda mevcut olan altyapılar sayesinde daha kolay ve daha yaygın hale getirilmiştir.
Şimdi, yapay zekayı (AI) düzenleyen yeni bir yasa olan AI Yasası için yapılan müzakerelerin bir parçası olarak, AB hükümetleri geçmişe dönük yüz tanımanın polis, yerel yönetimler ve hatta özel şirketler tarafından genel halka karşı rutin kullanımına izin vermeyi teklif ediyor. .
AB’nin önerdiği AI Yasası, geriye dönük FRT’nin “canlı” yinelemesinden daha az zararlı olduğu önermesine dayanmaktadır.
AB yöneticisi, geçmişe dönük işlemenin sağladığı ekstra zamanla risklerin ve zararların hafifletilebileceğini savundu.
Bu argüman yanlış. Fazladan zaman, yalnızca kilit meseleleri – anonimliğin yok edilmesi ve hak ve özgürlüklerin bastırılması – ele almakta başarısız olmakla kalmaz, aynı zamanda ek sorunları da beraberinde getirir.
‘Post’ RBI: Hiç duymadığınız en tehlikeli gözetim önlemi mi?
Uzaktan Biyometrik Tanımlama veya RBI, yüzlerini veya diğer vücut kısımlarını kullanarak belirli bir mesafeden insanları tarayan ve tanımlayan FRT gibi sistemler için kullanılan genel bir terimdir.
Geriye dönük olarak kullanıldığında, AB’nin önerilen AI Yasası bundan “RBI Sonrası” olarak söz eder. RBI sonrası, yazılımın, halka açık alanlardaki bir akıştaki kişileri, yakalandıktan saatler, haftalar ve hatta aylar sonra tanımlamak için kullanılabileceği anlamına gelir.
Örneğin, konumlandırılan CCTV kameralarında yakalanan protestocular üzerinde FRT çalıştırılması. Ya da, Bay H’nin durumunda olduğu gibi, CCTV görüntülerini, 8 milyon şaşırtıcı yüz görüntüsünden oluşan bir devlet veritabanında çalıştırmak.
Bu sistemlerin kullanılması toplumda caydırıcı bir etki yaratır; bir protestoya katılmak, sağlık hizmeti aramak (örneğin kürtajın suç sayıldığı yerlerde kürtaj yapmak) veya bir gazeteciyle konuşmak konusunda ne kadar rahat hissettiğimize.
Geriye dönük FRT’nin kullanımda olabileceğini bilmek bile, kişisel yaşamlarımız hakkındaki bilgilerin gelecekte bize karşı nasıl kullanılabileceğinden korkmamıza neden olabilir.
FRT ırkçılığı da besleyebilir
Araştırmalar, FRT uygulamasının orantısız bir şekilde ırkçı toplulukları etkilediğini gösteriyor.
Uluslararası Af Örgütü, ırkçı dur-ve-arama polisliği riski daha yüksek olan bölgelerde yaşayan bireylerin – ezici bir çoğunlukla beyaz olmayan insanları etkilediğini – daha fazla veri toplama ve istilacı yüz tanıma teknolojisine daha fazla maruz kalacağını göstermiştir.
Örneğin, New York’tan bir Black Lives Matter protesto organizatörü olan Dwreck Ingram, sadece bir Black Lives’a katılmasının ardından RBI sonrası tarafından teşhis edildiği için, herhangi bir arama emri veya meşru suçlama olmaksızın polis güçleri tarafından dairesinde dört saat boyunca taciz edildi. Madde protestosu.
Ingram, polisin bu deneysel teknolojiyi onun üzerinde kullandığı netleştikten sonra, aleyhindeki asılsız suçlamaların düşürülmesi için uzun bir hukuk savaşına girdi.
Liste devam ediyor. Detroit’te ikamet eden Robert Williams, başka biri tarafından işlenen hırsızlıktan haksız yere tutuklandı.
Randall Reid, polisin yanlışlıkla onu FRT ile bir soygunda şüpheli olarak teşhis etmesi nedeniyle hiç ziyaret etmediği bir eyalet olan Louisiana’da hapse gönderildi.
Özellikle ırksallaştırılmış topluluklar için yüz tanımanın normalleştirilmesi, sürekli sanal dizilişlerinin normalleştirilmesidir.
Çevrimiçi varlığınız varsa, muhtemelen zaten FRT veritabanlarındasınız demektir.
Bu distopik teknoloji, Hollanda’daki futbol kulüpleri tarafından yasaklı taraftarları taramak ve söz konusu maça katılmayan bir taraftara yanlış bir şekilde para cezası vermek için de kullanıldı.
Bildirildiğine göre, Avusturya’da polis tarafından protestoculara karşı ve Fransa’da şehirleri “daha güvenli” ve daha verimli hale getirme kisvesi altında kullanıldı, ancak aslında kitlesel gözetimi artırdı.
Bu teknolojiler genellikle düşük veya sıfır maliyetle sunulur.
Bu tür hizmetler sunan şirketlerden biri Clearview AI’dır. Şirket, Avrupa, ABD ve diğer bölgelerdeki binlerce kolluk görevlisine ve kurumuna son derece invaziv yüz tanıma aramaları sundu.
Avrupa’da, ulusal veri koruma makamları bu uygulamalara karşı güçlü bir tavır aldı; İtalyan ve Yunan düzenleyiciler, AB vatandaşlarının yüzlerini yasal dayanak olmaksızın kazıdığı için Clearview AI’ye milyonlarca avro para cezası verdi.
İsveçli düzenleyiciler, kişileri tanımlamak için Clearview AI kullanırken kişisel verileri yasa dışı bir şekilde işlediği için ulusal polisi para cezasına çarptırdı.
AI Yasası, kitlesel gözetimin kötüye kullanılmasını sona erdirmek için bir şans olabilir
İnsan haklarımızı veri koruma yetkilileri tarafından geriye dönük yüz tanımadan korumaya yönelik bu umut verici adımlara rağmen, AB hükümetleri artık bu tehlikeli uygulamaları ne olursa olsun uygulamaya çalışıyor.
Dünyanın dört bir yanındaki ülkelerdeki biyometrik tanımlama deneyleri, bu teknolojilerin ve bunun gerektirdiği toplu veri toplamanın, ırksallaştırılmış topluluklar, mülteciler, göçmenler ve sığınmacılar da dahil olmak üzere en marjinalize edilmiş insanların haklarını aşındırdığını bize defalarca göstermiştir.
Avrupa ülkeleri, bir dizi biyometrik toplu gözetim uygulamasını yasallaştırmaya başladı ve bu müdahaleci sistemlerin AB genelinde kullanımını normalleştirme tehdidinde bulundu.
Bu nedenle, Post RBI’yi durdurmak da dahil olmak üzere, topluluklarımızda ve AB sınırlarında her türlü canlı ve geriye dönük biyometrik toplu gözetimi yakalayan güçlü AB düzenlemelerine her zamankinden daha fazla ihtiyacımız var.
Yapay Zeka Yasası ile AB, kitlesel gözetleme teknolojilerinin kolaylaştırdığı yaygın suiistimali sona erdirmek için benzersiz bir fırsata sahip.
Özellikle bu teknolojiler toplumdaki mevcut eşitsizlikleri büyüttüğünde, ortaya çıkan teknolojilerin kullanımına yönelik insan hakları güvenceleri için yüksek bir standart belirlemelidir.
Ella Jakubowska, kıta çapında dijital hakları savunmak ve ilerletmek için çalışan kar amacı gütmeyen kuruluşlar, uzmanlar, savunucular ve akademisyenlerden oluşan bir ağ topluluğu olan European Digital Rights’ta (EDRI) Kıdemli Politika Danışmanıdır.
Hajira Maryam bir Medya Yöneticisidir ve Matt Mahmoudi, dijital çağda insan haklarını savunan küresel bir savunucular, kampanyacılar, bilgisayar korsanları, araştırmacılar ve teknoloji uzmanları topluluğu olan Amnesty Tech’te Yapay Zeka ve İnsan Hakları Araştırmacısıdır.
_Euronews olarak, tüm görüşlerin önemli olduğuna inanıyoruz. Satış konuşması veya sunum göndermek ve sohbetin bir parçası olmak için [email protected] adresinden bize ulaşın.
_
