Emma Watson ve Scarlett Johansson’un seksi deepfake videoları

Yapay zeka günlük hayatımızda giderek daha büyük bir rol almaya devam ederken, beraberinde kendi kendine çalışmaya da getiriyor. Bu hafta, tamamında Emma Watson ve Scarlett Johansson’a benzeyen yüzlerin yer aldığı şekilde deepfake videosu, FaceMega adlı bir AI deepfake uygulaması için yapılan bir reklam kampanyasının parçası olarak Facebook ve Instagram’da yayınlandı.

İlk olarak NBC News tarafından duyurulan haberde, Facebook ve Instagram’da 200’den fazla videonun yayınlandığını bildirdi. 127’sinde Watson, 74’ünde ise Johansson’un yer aldığı reklam videolarının tamamında oyuncular “kışkırtıcı” müstehcen temalar içeren biçimlendirilmiş komutlar.

Maçı görerek kampanya bir FaceMega reklamıydı ve kullanıcılar, haftada 8 dolar yorum, bir videodaki kişilerin yüzlerini çalıştırma yüklenen fotoğraflarla değiştirmesine olanak tanıyor. FaceMega bir süredir Apple App Store’dan kaldırılmış gibi görünüyor, Ancak yazı yayına ayırmaken Google Play Store’da hala mevcuttu.

Videolardan yararlanan ekran koruması Twitter’a yükleyen Lauren Barton, NBC News ile yaptığı görüşmede bu çıkışın zorbalık barındırdığı öğrenciler gibi gördükleri üzerinde kullanılabileceğini ve durumu çok daha fazlasını götürebileceğini belirtti: “Birinin hayatı mahvedebilir. İşlerinde sorun yaşayanlar. Ve bunu son derece kolay ve ücretsiz. Tek yapmam gereken yüzümün bir yüklemesini ve 50 ücretsiz şablona erişebiliyordum.”

dün bu reklamı gördüm ve vay canına pic.twitter.com/smGiR3MfMb

Lauren (@laurenbarton03) 6 Mart 2023

Uygulamanın kendi Şartlar ve Koşulları Kullanıcıları “Aldatıcı davranışlara veya herhangi bir kişi veya mahkumiyete bürünmesine” İzin verilmediği söylese de, yayınlanan reklamlar bu şartlara aykırı görünüyor.

NBC News, kampanyanın Çinli ana şirketi Harika paylaşım‘in sahibi olduğu uygulama geliştiricisi Ufoto Sınırlı‘den geldiğini söylüyor.