Sıradan görünen araçların gizli yüzü
WIRED'ın araştırmasına göre, Çince geliştiricilerle bağlantılı yaklaşık 400 uygulama ve web sitesi, ilk bakışta normal yapay zekâ araçları gibi görünüyor. Ancak bu araçların arkasında, kullanıcıların şiddet içeren yapay zekâ görüntüleri ve videoları üretmesine izin veren gizli özellikler bulunuyor.
Cinsel istismar amaçlı deepfake
Söz konusu gizli özellikler, cinsel istismar amaçlı deepfake içerik üretimine kapı açıyor. Deepfake, bir kişinin yüzünün veya sesinin yapay zekâ ile başka bir görüntü ya da videoya yerleştirilmesi anlamına geliyor. Bu tür içerikler, rıza dışı üretildiğinde mağdurlar üzerinde ciddi psikolojik ve sosyal zarar yaratabiliyor.
Neden önemli?
Uygulamaların sayısı ve dağılımı, sorunun tek bir platformla sınırlı olmadığını gösteriyor. Sıradan uygulama mağazalarında yer alan araçların gizli işlevler barındırması, denetim ve moderasyon mekanizmalarının yetersiz kaldığına işaret ediyor. Kullanıcıların bu tür içerikleri üretmesi ve yayması, birçok ülkede hukuki sorumluluk doğurabiliyor.
Ne yapılmalı?
Uzmanlar, uygulama mağazalarının ve platformların bu tür gizli özellikleri tespit etmek için daha sıkı denetim yapması gerektiğini belirtiyor. Kullanıcıların da indirdikleri uygulamaların izinlerine ve gizlilik politikalarına dikkat etmesi öneriliyor.
