Wednesday yıldızı sosyal medyada olay oldu… Görüntüler sahte çıktı

Yapay zekâ teknolojisi gelişmeye devam ederken beraberinde yeni tartışmaları da getiriyor. Özellikle de deepfake olarak adlandırılan sahte görüntüler yaratılması bir süredir dünyaca ünlü isimler için ciddi bir sorun haline geldi.

Geçtiğimiz aylarda Taylor Swift’in sahte müstehcen görüntülerinin yayınlanmasından sonra şimdi de Wednesday yıldızı Jenna Ortega’nın 16 yaşındaki sahte çıplak fotoğrafını içeren reklamlar sosyal medyada yayınlandı.

Facebook ve Instagram, kullanıcıların yapay zekâya sahip herhangi birinin sahte müstehcen görüntülerini oluşturmasına olanak tanıyan bir uygulamanın reklamı için genç oyuncu Jenna Ortega’nın ergenlik çağındaki bulanık ve sahte çıplak fotoğraflarını içeren görsellere izin verdi.

ÇIPLAK FOTOĞRAFLARI YAYINLANDI… HEPSİ DE SAHTEYDİ

NBC News’e göre, Perky AI adlı uygulama geçen ay iki platformda da Ortega’nın 16 yaşında üstsüz görünen bulanık bir görüntüsünü gösteren en az 11 reklam yayınladı. Ancak bu görüntülerin hepsi sahteydi.

Haftada 7,99 dolar veya 12 hafta boyunca 29,99 dolar ücret alan Perky AI, kullanıcıların istekleri doğrultusunda sahte görseller oluşturabileceğinin reklamını yaptı.

Her iki sosyal medya platformunun da ana şirketi olan Meta, NBC News’in şirketle iletişime geçmesinin ardından uygulamanın sayfasını askıya aldı. Ayrıca Apple da uygulama mağazasından kaldırdı.

Hesap askıya alınmadan önce yapay zekâ destekli uygulama, eylül ayından bu yana platformda 260’tan fazla farklı reklam yayınladı; bunların 30’u daha önce Meta tarafından askıya alınmıştı.

Şu anda 21 yaşında olan Ortega’nın sahte görsellerini içeren reklamlardan biri, yayından kaldırılmadan önce Instagram’da 2.600’den fazla defa görüntülendi.

YAPAY ZEKÂ İLE ORTAYA ÇIKAN SORUN

Skandal olay, çevrimiçi ortamda kadınların yapay zekâ tarafından üretilen sahte görüntüleriyle ilgili büyüyen sorunun bir parçası. Dijital olarak oluşturulan çocuk pornografisi ve eski sevgililerden gelen sahte intikam pornoları yapay zekânın ortaya çıkardığı yeni bir sorun.

Meta, yaptığı açıklamada, sosyal medya şirketinin çocukların çıplaklığını, çocukları cinselleştiren içerikleri ve yapay zekâ tarafından oluşturulan rıza dışı çıplak görüntüler sunan hizmetleri kesinlikle yasakladığını söyledi.

Meta sözcüsü Ryan Daniels, “Bu uygulama çeşitli uygulama mağazalarında yaygın olarak bulunsa da bu reklamları ve bunların arkasındaki hesapları kaldırdık” dedi.