İçeriğe geç
Sıfırıncı Dakika
Son haberler

Rapor: Instagram algoritması antisemitik içeriği öne çıkarıyor

Yapay Zekâ1 dk okuma
Rapor: Instagram algoritması antisemitik içeriği öne çıkarıyor

Kısaca

Nexus Project'in yeni raporuna göre Instagram'da antisemitik içerik, Meta'nın içerik denetimini gevşetmesinin ardından hızla yayıldı. Raporda içeriğin büyük bölümünün yapay zekâyla üretildiği ve Meta'nın öneri algoritmasının bu materyali kullanıcılara ittiği belirtiliyor. Meta, antisemitizmle mücadele taahhüdünün değişmediğini savunuyor.

Raporda ne var?

Antisemitizm araştırmaları yapan Nexus Project, Instagram'da yeni hesaplarla yaptığı testlerin sonuçlarını yayımladı. Rapora göre platformda antisemitik içerik hem çok yaygın hem de büyük ölçüde yapay zekâyla üretiliyor. Yapay zekâ bu tür içeriği hızla ve kolayca çoğaltmayı mümkün kılarken, denetimin azalması bu akışın önünü açıyor.

Algoritma da devrede

Nexus Project'e göre antisemitik içerik yalnızca var olmakla kalmıyor, Meta'nın öneri algoritması tarafından da öne çıkarılıyor. Bu tür gönderilerle etkileşime giren kullanıcıya giderek daha fazlası gösteriliyor. Raporda, yeni açılan bir hesapta "sinagog" aramasının ilk sonucunun bir milyondan fazla görüntülenen bir video olduğu; bir saatten kısa sürede ana sayfanın neredeyse tamamen antisemitik içerikle dolduğu ve bunun yarısından fazlasının doğrulanmış hesaplardan geldiği aktarılıyor.

Denetim geri çekilmesi dönüm noktası

Rapor, Meta'nın Ocak 2025'te üçüncü taraf moderatörlerle ortaklığını bitirip kullanıcı odaklı bir modele geçmesini bir kırılma noktası olarak gösteriyor. Şirket bu değişikliği "daha fazla ifade, daha az hata" gerekçesiyle duyurmuş, denetimin "çok ileri gittiğini" savunmuştu. Rapora göre bu yaklaşım, nefret söylemi ve yanlış bilgiyi tespit etme yükünü büyük ölçüde kullanıcılara bıraktı.

Parayla da bağlantılı

Raporda, antisemitik içeriğin bir kısmının açıkça ticarileşme amaçlı olduğu belirtiliyor: hesaplar takviye, e-kitap, kurs ve abonelik satmak için bu konuları kullanıyor. Ücretli doğrulama işaretleri ve reklamlar üzerinden Meta'nın da bu materyalden kazanç sağlayabileceği ifade ediliyor.

Meta ne diyor?

Meta, antisemitizmle mücadele taahhüdünün değişmediğini açıkladı. Şirket, antisemitizme özgü korumaların kaldırılmadığını; Yahudilere dair zararlı klişelerin, Holokost inkârının ve nefret söyleminde "Siyonist" kelimesinin Yahudi ya da İsrailli kimliğin yerine kullanılmasının yasak olmaya devam ettiğini savundu ve nefret içerikli davranışlara dair yayımladığı verilere işaret etti.

Neden önemli?

Bu haber, büyük bir platformun denetim politikasını gevşetmesinin somut sonuçlarını ve yapay zekânın nefret içeriğini nasıl hızlandırdığını gösteriyor. Teknoloji okuru için platform güvenliği tartışmasının nereye evrildiğini anlatan bir vaka.

Kaynaklar

İlgili haberler