Noelle Martin, pornografik fotoğraflarının internette dolaştığını keşfettiğinde henüz 18 yaşındaydı. Bırakın paylaşmayı, samimi fotoğraflar çektiğini hiç hatırlamıyordu. Ancak bu görüntülerdeki onun yüzüydü; ancak vücut ona ait değildi.
Daha sonra “deepfake” olarak anılacak olan şeyin kurbanı oldu. Kişisel sosyal medya hesaplarında paylaştığı görüntüler kullanılarak pornografik resimler ona benzeyecek şekilde değiştirildi.
Martin Euronews Next’e “Bu ömür boyu sürecek bir cezadır” dedi. “İnsanların hayatlarını, geçim kaynaklarını, istihdam edilebilirliklerini, kişilerarası ilişkilerini, romantik ilişkilerini mahvedebilir. Ve birisi hedef alındığında yapılabilecek çok ama çok az şey var.”
Deepfakes, birini sahte senaryolarda tasvir etmek için oluşturulan, dijital olarak değiştirilmiş video veya resimlerdir. Deepfake teknolojisi teorik olarak daha neşeli, hicivli veya iyi niyetli amaçlar için kullanılabilirken, 2019 Deeptrace Labs raporu, çevrimiçi deepfake içeriğinin yüzde 96’sının rıza dışı pornografi olduğunu ortaya çıkardı.
Daha bu hafta, New York’ta 22 yaşındaki bir adam, eski okul arkadaşlarının sosyal medya hesaplarından alınan ergenlik fotoğraflarını kullanarak derin sahte porno fotoğraflarını yayınladığı için altı ay hapis cezasına çarptırıldı.
Adalet için mücadele
2013 yılında aynı durum onun başına geldiğinde Martin polise giderek ve görüntülerin kaldırılmasını isteyerek zararı sınırlamaya çalıştı. Ancak yaşadığı Avustralya’da o dönemde mahrem görüntülerin yayılmasına karşı herhangi bir yasa bulunmadığı göz önüne alındığında yapabilecekleri hiçbir şey yoktu.
“Bir şeyleri kaldırmayı deneseniz bile, eğer bunun kurbanıysanız, yine de sorumlulardan hesap sormakla ilgili sorunlarınız var. Çünkü halka açık sitelerden, bu web sitelerinden veya herhangi bir yerden bir şeyleri kaldırmak Martin, “Barındırılmaları bunun yalnızca bir unsuru” dedi.
“Eğer bir faili veya sorumluyu sorumlu tutmazsanız, bunu yapmaya devam edebilirler” diye ekledi.
Martin hukuk alanında kariyerine devam etti ve Avustralya’da mahrem görüntülerin rıza dışı paylaşılmasına karşı yasa çıkarmak için yıllarını harcadı. Onun çabaları, 2018’de ülkesinde rıza dışı mahrem görüntülerin veya “intikam pornosunun” dağıtımını suç sayan yeni yasaların çıkarılmasına yardımcı oldu.
Kendi travmatik deneyiminden on yıl sonra, şu anda 28 yaşında bir avukat ve Batı Avustralya Üniversitesi’nde hukuk araştırmacısı olan Martin, hâlâ rıza dışı cinsel içeriklerin, özellikle de deepfake teknolojisi kullanılarak oluşturulanların paylaşılmasına karşı çıkıyor.
“Nihayetinde hayatta kalanlar topluluğu olarak yapmaya çalıştığımız şey, yasaların oluşturulması için baskı yapmak, dünyanın dört bir yanındaki ülkeleri bu konuyu suç saymaya zorlamak, mağdurların yardım arayabilmesini sağlamak için altyapının geliştirilmesi için baskı yapmak” dedi. .
Porno deepfake’lerinin yükselişi
Porno deepfake’leri yıllardır çevrimiçi olarak bulunabiliyor, ancak yapay zekadaki (AI) son zamanlardaki büyük ilerlemeler ve bu teknolojinin artan erişilebilirliği, rahatsız edici derecede gerçekçi ve aldatıcı cinsel materyaller yaratmayı kolaylaştırdı.
Deepfake’ler ilk ortaya çıktığında arkasındaki temel amaç, ünlülerin yüzlerinin yer aldığı pornografik videolar yapmaktı.
Deepfakes terimi, 2017 yılında sosyal platform Reddit’te bu takma adı taşıyan bir kullanıcının, Scarlett Johansson ve Taylor Swift gibi kadın ünlülerin üzerinde oynanmış pornografik videolar yapması ve paylaşmasıyla tanındığında ortaya çıktı.
Daha yakın zamanlarda, porno deepfake’ler, Ocak ayında popüler bir Twitch yayıncısı olan ve çevrimiçi olarak “Atrioc”u kullanan Brandon Ewing’in, platformdaki bir canlı yayın sırasında tarayıcısında deepfake bir porno web sitesi açıkken yakalanmasıyla manşetlere çıktı. Sitede Twitch yayıncılarının ve arkadaşlarının üzerinde oynanmış görüntüleri yer alıyordu.
Ewing daha sonra ağlamaklı bir özür diledi ve yayın faaliyetini birkaç hafta boyunca durdurdu. Twitch ise topluluk kurallarını platformda deepfake pornoyu yasaklayacak şekilde güncelledi.
Ewing, özür yazısında, popüler bir porno sitesinde deepfake pornografi reklamı gördükten sonra “hastalıklı derecede meraklandığını”, bu yüzden tıklayıp videolara erişmek için para ödediğini söyledi.
Kadın Twitch yayıncıları, isimlerinin tartışmaya sürüklendiğini gördü ve birçoğu bu tür içeriğin çevrimiçi ortamda varlığından bile habersiz olduklarını söyledi.
Google Trends verilerine göre, Twitch’teki skandal aslında “deepfake porn”, “porn deepfake” ve “deepfake” ifadeleriyle yapılan çevrimiçi aramalarda artışa neden oldu.
Mahrem görüntülerin kötüye kullanılmasına karşı kampanya yürüten My Image My Choice koalisyonunun kurucu ortağı Sophie Compton, tartışmanın deepfake web sitelerinin kullanıcılarının da sorunun bir parçası olduğunu ve sorumlu tutulması gerektiğini gösterdiğini söyledi.
“Bu sadece yaratıcılar değil, tüm kullanıcılar. Ve bunlar sıradan çocuklar. Bunlar okullarımızdaki insanlar ve muhtemelen bazı kadınlar da. Ama çoğunlukla erkekler. Ve bunlar sınıf arkadaşları, arkadaşlar, erkek kardeşler, erkek arkadaşlar, ” Compton Euronews Next’e söyledi.
“Katılımlarının da sorunun bir parçası olduğunun farkında olmayabilirler. Ve kadınlara aşırı derecede zarar veren bir şeyin doğrulanmasına yardımcı oluyor”.
Kurbanlarına karşı deepfake nasıl kullanılıyor?
Ünlülerin derin sahte porno içerikleri yıllardır mevcut olsa da yapay zekadaki son gelişmeler, bugün neredeyse herkesin bu tür içeriklerin kurbanı olabileceği anlamına geliyor.
Teknoloji aynı zamanda insanları susturmak veya zayıflatmak amacıyla onları itibarsızlaştırmak veya şantaj yapmak için de kullanılabilir.
Compton, “Görünüşe göre her ay yeni bir deepfake porno web sitesi açılıyor ve bunlar ticarileştirilmiş işletmelere dönüşüyor” dedi ve bu sitelerin bariz bir cezasızlıkla açıldığını ekledi.
“İnsanlar bir nevi deepfaker olarak markalaşıyorlar ve Bitcoin’i kabul ediyorlar, PayPal’ı da kabul ediyorlar ve bir sloganı, bir kayış çizgisi ve bir logoları var”.
Deepfake porno içerikleri oluşturmanın ve paylaşmanın ardındaki motivasyon, mağdurları utandırmak, karalamak veya taciz etmek ya da sadece para kazanmak olsun, içerik genellikle bazı erkeklerin gerçek veya sahte açık görüntüler kullanarak kadınları aşağılama ve nesneleştirme fantezilerini yansıtıyor.
Euronews Next’e konuşan Martin, “Bunun hedefi olan bir kişinin bakış açısına göre, bir şeyin sahte olduğunu anlasanız veya tamamen gerçekçi olmasa bile, hasar hala onarılamaz.” dedi.
“Sizden bir deepfake yaratıldıysa ve bunu bir şekilde anlasanız bile, insanlar yine de sizin hakkınızda tasvir edilen her şeyi sizinle ilişkilendirecektir. Yine de kötüye kullanılabilirsiniz. İtibarınızın, adınızın ve imajınızın çamura sürüklenmesine hâlâ izin verebilirsiniz “.
Hintli araştırmacı gazeteci ve Washington Post yazarı Rana Ayyub, kendisini susturmak amacıyla derin sahte porno görüntülerinin kullanıldığı bir karalama kampanyasının kurbanı oldu.
Müslüman bir kadın olmasına rağmen açık sözlü olmanın ve “düzen karşıtı” olarak görülmenin kendisini sosyal medyada nasıl nefret hedefi haline getirdiğini anlattığı bir köşe yazısında yürek parçalayıcı deneyimini ayrıntılarıyla anlattı.
Ancak, sahte bir porno videosu viral hale gelip onu ailesini görmeye bile cesaret edemeyecek kadar şoke ettiğinde, alışık olduğu çevrimiçi taciz birdenbire çok gerçekmiş gibi geldi.
“Bütün ülke benim olduğumu iddia eden bir porno videoyu izliyordu ve ben hiçbir şey yapmaya cesaret edemedim” diye anlattı.
“Videonun yayınlandığı günden beri aynı kişi değildim. Eskiden çok sabit fikirliydim, şimdi internette paylaştığım şeyler konusunda çok daha dikkatli davranıyorum. İhtiyaçtan dolayı epeyce otosansür yaptım, ” yazdı.
“Bu çok ama çok tehlikeli bir araç ve onunla nereye gittiğimizi bilmiyorum”.
Bizi deepfake pornolardan koruyan herhangi bir yasa ve düzenleme var mı?
Kampanyacılar, şu anda bir kişinin derin sahtelerini yaratarak alenen aşağılamanın çok kolay olduğunu ve bu düzenleme ve sorumluluk eksikliğinin mağdurları başarısızlığa uğrattığını söylüyor.
Compton, “Bu formları hazırlayan insanlara verilen mesaj, kimsenin sizin için gelmeyeceği yönünde. Yaptığınız şey yasa dışı değil ve hiçbir sonucu da yok” dedi.
Avrupa Birliği, zararlı çevrimiçi içerikle mücadele için yeni düzenlemeler önerdi ancak bunların, insanları rıza dışı derin sahte porno içeriklerden tam olarak koruyabildiği henüz kanıtlanmadı.
Örneğin, şu anda Avrupa Parlamentosu’nda tartışılmakta olan Yapay Zeka Yasası, içerik oluşturucuların, içeriğin yapay olarak oluşturulduğu veya değiştirildiği zamanları açıkça açıklamasını gerektiriyor. Ancak kampanyacılar, içerik ortaya çıktığında ve sonsuza kadar onlarla bağlantılı olduğunda sorumluluk reddi beyanlarının deepfake yaratıcılarını pek caydıramayacağını veya kurbanlara adalet getirmeyeceğini söylüyor.
Ancak üzerinde çalışılan bir diğer AB mevzuatı da 2022’de önerilen Cinsiyete Dayalı Şiddet Direktifi. Bu yasa tasarısı, mahrem görüntülerin rıza dışı paylaşılmasını suç sayacak ve failler hapis cezasıyla karşı karşıya kalabilir. Hatta Madde 7b, özellikle deepfake’lere atıfta bulunuyor.
Teknoloji şirketlerinin ve çevrimiçi platformların rolü
Bu arada kurbanlar, derin sahte pornografik içeriğe karşı önlem almak için politikalarını güncelleyen çevrimiçi platformlara umut bağlıyor.
Görüntü oluşturma aracı DALL-E’nin arkasındaki şirket olan OpenAI, müstehcen içeriği verilerinden kaldırmış ve ünlülerin ve politikacıların görüntülerinin oluşturulmasını engellemek için talepleri filtrelemiştir.
Bir başka popüler AI modeli olan Midjourney, belirli anahtar kelimeleri engelliyor ve kullanıcıları sorunlu görselleri moderatörlere işaretlemeye teşvik ediyor.
TikTok ayrıca derin sahtekarlıkların veya manipüle edilmiş içeriklerin sahte veya değiştirilmiş olarak etiketlenmesi gerektiğini zorunlu kıldı ve özel kişilerin ve gençlerin derin sahtekarlıklarını yasakladı.
Twitch, topluluk kurallarını güncellediğinde, deepfake pornonun kasıtlı olarak tanıtılması, oluşturulması veya paylaşılmasının anında yasaklanmaya yol açacağı konusunda uyardı. Şirket, bir blog yazısında, bu tür içeriğin bir anlık gösteriminin bile – öfkeyi ifade etme amacını taşısa bile – “kaldırılacağını ve yaptırımla sonuçlanacağını” yazdı.
Bu arada Meta, OnlyFans ve Pornhub, gençlerin internetten kendilerine ait müstehcen resim ve videoları bildirmelerine olanak tanıyan yeni bir “Take It Down” aracına katılmaya başladı.
“Kolluk kuvvetlerinin, hükümetlerin ve düzenleyicilerin bu sorunla başa çıkmak için bir araya gelmesi gerekiyor çünkü dünya genelinde bu sorunla bağımsız olarak ilgilenen yerel ülkeler varsa ancak bu kadarını yapabilirler. Bu, küresel bir çözüm gerektiren küresel bir sorun, ” dedi Martin.
“Ayrıca mağdurların ve hayatta kalanların bu konuyla ilgili kararlar alındığında masada olmaları gerektiğini söyleyebilirim, çünkü onlar çoğu zaman bizim hakkımızda, bizim için ama biz olmadan alınan kararlardan dışlanıyorlar” diye ekledi.
