Yapay zeka tarafından oluşturulan görseller, sanat üretimine katkıda bulunmak, sanal deneme odalarında kıyafet denemek veya reklam kampanyaları tasarlamak gibi alanlarda kullanılabilmektedir. Ancak uzmanlar, bu kolayca erişilebilir araçların potansiyel karanlık tarafından, özellikle kadınlara yönelik zarar veren bir konuyu daha da kötüleştirebileceğinden endişe etmektedirler. Bu konu, rıza dışı "deepfake" pornografi olarak bilinmektedir.
“Deepfake” teknolojisi, yüz fotoğrafı ya da tablodan, yüksek gerçekçiliğe sahip, konuşan, gülen ya da yüz ifadelerini kullanan sahte videolar üretilmesine olanak sağlıyor, bunun yanı sıra herhangi bir videodaki konuşmayı değiştirip düzenleyebiliyor.
Bu teknolojinin kullanılmasıyla yaratılan pornografik görüntüler, birkaç yıl önce Reddit adlı sosyal medya platformunda bir kullanıcının kadın ünlülerin yüzlerini yetişkin film oyuncularının bedenlerine yerleştirerek paylaştığı videolarla başlayarak internet üzerinde yayılmaya başladı.
O tarihten bu yana, "deepfake" yaratıcıları benzer videoları ve görüntüleri, internet fenomenlerini, gazetecileri ve diğer halk figürlerini hedef alarak yaymaya devam etti.
Uzmanlar, gelişmiş ve görsel olarak çekici "deepfake"lerin yapılmasının giderek kolaylaşmasıyla birlikte sorunun büyüdüğünü ifade etmektedir. Dahası, yapay zeka araçlarının geliştirilmesiyle birlikte, internet üzerinde milyarlarca görüntüye dayanarak eğitilen ve mevcut verileri kullanarak yeni içerikler üreten bu araçlarla ilgili sorunlar daha da artabilir.
VOA Türkçe’ye konuşan EndTAB'ın kurucusu Adam Dodge, "Gerçek şu ki, teknoloji yaygınlaşmaya, gelişmeye devam edecek ve bir düğmeye basmak kadar kolay hale gelmeyi sürdürecek. Bu gerçekleştiği sürece, insanlar da şüphesiz bu teknolojiyi başkalarına zarar vermek için kötüye kullanacak; bunu da özellikle çevrimiçi cinsel şiddet, deepfake pornografi ve sahte çıplak görüntüler yoluyla yapacaklar" dedi.
Avustralya'nın Perth kentinden Noelle Martin bu gerçeği deneyimleyenlerden. 28 yaşındaki kadın 10 yıl önce bir gün meraktan Google'da kendi görüntüsünü arattığında deepfake pornosunu bulmuş.
Martin, sahte görüntüleri ya da daha sonra bulduğu cinsel ilişkiye girdiği videoları kimin yarattığını hala bilmediğini söylüyor. Birinin muhtemelen sosyal medya sayfasında ya da başka bir yerde yayınlanmış bir fotoğrafı alıp üzerinde oynayarak pornoya dönüştürdüğünden şüpheleniyor.
