Yaygın olarak AI Yasası olarak bilinen AB Yapay Zeka Yasası, türünün ilk örneğidir.
Bu, dünyada yapay zekaya ilişkin ilk bağlayıcı yasa olarak bir dönüm noktası olmakla kalmayacak, aynı zamanda teknolojilerin yapısal ırkçılığı nasıl sürdürdüğünü anlamlı bir şekilde ele alan ilk teknoloji odaklı yasalardan biri olacak.
Tahmine dayalı polislik sistemlerinin ırksal ayrımcı etkisinden, yardım talebinde bulunurken insanları sahtekar olarak (çoğunlukla ırksallaştırılmış) sahtekar olarak etiketlemek için yapay zeka sistemlerinin kullanımına kadar, bu mevzuat, teknolojinin nasıl zarar verebileceğine dair artan farkındalıktan derinlemesine bilgi almaktadır.
Milletvekilleri, “temel haklarla bağdaşmadığı” durumlarda yapay zekanın belirli kullanımlarını yasaklayacak adımlar attı. Bu, halka açık yerlerdeki insanları tanımlamak için yüz tanımanın bazı kullanımları ve suçların nerede ve kim tarafından meydana gelebileceğini tahmin etmek için kullanılan yapay zeka sistemleri için geçerlidir.
Ancak Avrupa Parlamentosu’ndaki müzakereciler, yapay zeka sistemlerinin göç bağlamında kullanılması durumunda ortaya çıkan spesifik zararları kabul etmekte yetersiz kalıyor.
Bir göçmen acentesi olarak yapay zeka
Çok sayıda göçmenlik prosedüründe kullanılan yapay zeka yalan dedektörleri ve yapay zeka “risk profili oluşturma”dan, Avrupa sınırlarında hızla genişleyen teknolojik gözetime kadar, yapay zeka sistemleri giderek AB’nin göç yaklaşımının bir özelliği haline geliyor.
Yapay zeka, bilinmesi zor ve sorgulanması daha zor olan şeffaf olmayan kriterlere dayanarak göç taleplerinde bulunan kişiler hakkında tahminlerde bulunmak ve değerlendirmeler yapmak için kullanılıyor.
Avrupa’da, vize kararlarının sömürgecilikten kaynaklanan ayrımcılık geçmişini yansıttığına dair kanıtların olduğu bir bağlamda, tüm ziyaretçilerin “risk profillerini” değerlendirmek için algoritmaların kullanılmasına yönelik planlar zaten mevcut.
Yapay zeka sistemleri aynı zamanda sürekli genişleyen, genelleştirilmiş bir gözetim aygıtının da parçasıdır. Buna, sınırda gözetim için yapay zeka ve göç eğilimlerini tahmin etmeye yönelik tahmine dayalı analitik sistemler de dahildir.
Sınırda Şiddet İzleme Ağı’na göre, halihazırda zorla kaybetmelere varan geri itmelerde yapay zeka teknolojilerinin kullanıldığı vakaları görüyoruz.
Bu bağlamda, göç kalıplarıyla ilgili görünüşte zararsız tahminlerin, geri itme, geri çekme ve insanların sığınma hakkını kullanmasını engellemek için diğer yolları kolaylaştırmak amacıyla kullanılması yönünde gerçek bir tehlike var.
Etnik köken ve ten rengi göçmenlik statüsünün bir göstergesi haline geliyor
Halihazırda Avrupa’da bulunan insanlar için teknoloji, yerel polis tarafından, polis durdurmaları yoluyla belgesiz olarak tanımlanan kişilerin sayısını artırmayı amaçlayan şekillerde kullanılıyor ve bu da ırksal profillemeyi sürdürüyor.
Fransa, Almanya, Hollanda ve İsveç’te polise, göçmenlik durumlarını kontrol etmek için sokakta durdurdukları kişilerin parmak izlerini alma yetkisi verildi.
Yerel insan hakları örgütleri, polise, belgesiz kişileri tespit etmek amacıyla insanların yüzlerini tarayacak akıllı cihazlarla donatan bir Yunan programına karşı çıktı.
Irk, etnik köken ve ten renginin yetkililer tarafından sıklıkla göçmenlik statüsünün bir göstergesi olarak kullanıldığı göz önüne alındığında, bu eğilimler topluluklarımızda hem vatandaşlar hem de vatandaş olmayanlar olmak üzere ırk ayrımcılığına tabi tutulan kişilerin daha fazla durmasına (ve buna bağlı taciz ve kötü muamele fırsatlarına) yol açacaktır.
Yapay zekanın göç bağlamında giderek artan kullanımı, farklı ırklardan insanları daha fazla gözetime, göçmenlik taleplerinde daha fazla ayrımcı karar almaya ve daha zararlı profil oluşturmaya (yazılım ve insanlar tarafından) maruz bırakarak AB göç politikasında kriminalizasyon ve insanlık dışılaştırmaya yönelik eğilimleri şiddetlendiriyor.
Göçmenler hariç herkes için dijital haklar
Yapay zeka dağıtımlarındaki bu eğilimler, Avrupa sınırları içinde ve içinde geliştirilen daha geniş ve büyüyen bir gözetim ekosisteminin parçasıdır.
Örneğin, önerilen Eurodac reformunda AB, sığınma başvurusunda bulunan veya sınırda yakalanan kişilere ilişkin verileri içeren gözetim veritabanlarını, yüz görüntülerini ve 6 yaşından küçük çocukların verilerini de içerecek şekilde büyük ölçüde genişletmeyi amaçlıyor.
Bu, AB’nin Genel Veri Koruma Yönetmeliği’nde belirlenen standartlara tamamen aykırıdır.
Bu, bir eğilimin simgesi: AB, temel hakları koruyan mevzuat oluşturuyor ve daha sonra sınırlarını kapatma arayışında bu mevzuatı göz ardı ediyor.
Bu istisnacılık hayatlara mal oluyor ve AB’nin kendi standartlarının ve değerlerinin aşınmasına yol açıyor. Adının ırkçılık olması gereken bir çifte standarttır bu.
Geçişte zararlı yapay zekayı yasaklayın
Birleşmiş Milletler’in çağdaş ırkçılık biçimleriyle ilgili eski raportörü Profesör E Tendayi Achiume ve güçlü sivil toplum koalisyonu #ProtectNotSurveil’in de vurguladığı gibi, zarara neden olan teknolojileri ortadan kaldırma konusunda kararlılığa ihtiyacımız var.
Bu, yapay zekanın en zararlı kullanımlarından bazılarını, yani göç bağlamlarında kullanılanları yasaklamak da dahil olmak üzere cesur adımlar atmak anlamına geliyor.
Uygulamada bu, AB Yapay Zeka Yasasının, göç prosedürlerinde kullanılan ayrımcı Yapay Zeka profil oluşturma araçlarını ve uluslararası mülteci yasasını ihlal eden geri itmeler için kullanılan Yapay Zeka tabanlı tahminleri yasaklaması ve önlemesi gerektiği anlamına gelir. Polisin elde taşınan cihazları gibi biyometrik tanımlama araçlarının (Yasanın şu anda sessiz kaldığı) kullanımının “yüksek riskli” olarak düzenlenmesini sağlamalıdır.
Yapay Zeka Yasası, Avrupa’nın derinden kusurlu göç politikalarını düzeltmeyecektir. Ancak yapay zeka teknolojilerinin daha fazla zararı önleyecek ve çifte standart yerine eşit korumayı seçecek şekilde düzenlenmesini sağlayabilir.
Sarah Chander, Avrupa Dijital Hakları’nın (EDRi) Kıdemli Politika Danışmanıdır. Alyna Smith, Belgesiz Göçmenlere İlişkin Uluslararası İşbirliği Platformu’nun (PICUM) Direktör Yardımcısı olarak görev yapmaktadır.
Euronews olarak tüm görüşlerin önemli olduğuna inanıyoruz. Önerilerinizi veya sunumlarınızı göndermek ve sohbetin bir parçası olmak için [email protected] adresinden bizimle iletişime geçin.
