Açık ağırlıklı yapay zekâ modelleri çocuk istismarı materyali üretiminde patlama yarattı

Açık modellerin karanlık yüzü

Açık ağırlıklı yapay zekâ modelleri, kullanıcıların sistemi kendi bilgisayarında çalıştırmasına ve OpenAI ya da Anthropic gibi şirketlerin güvenlik filtrelerini devre dışı bırakmasına imkân tanıyor. Bloomberg'in haberine göre bu özellikler, modelleri çocuk cinsel istismarı materyali (CSAM) üretmek isteyen kişiler için de cazip hale getiriyor.

Rakamlar endişe verici

Yapay zekâ çocuk güvenliği uzmanı Rebecca Portnoff'a göre CSAM üretiminde kullanılan açık kaynak model sayısı 500'ü aştı; iki yıl önce bu sayı bir düzineden azdı. ABD Ulusal Kayıp ve İstismar Edilmiş Çocuklar Merkezi'ne bildirilen yapay zekâ kaynaklı CSAM vakaları ise geçen yıl 1,5 milyonu geçti; 2024'te bu sayı 67 bindi.

Tespit neden zor?

Model yerel olarak çalıştırıldığında internete bağlanmak zorunda kalmıyor. Bu da materyalin uzmanlar ve kolluk kuvvetleri tarafından tespit edilmesini neredeyse imkânsız hale getiriyor. Portnoff, "Bir modeli indirip kendi sisteminizde çalıştırdığınızda denetim neredeyse mümkün değil" diyor ve bunun suçlulara güvende oldukları hissini verdiğini ekliyor.

Kapalı modeller de sorunlu

Sorun yalnızca açık kaynakla sınırlı değil. Elon Musk'ın şirketinin Grok sohbet botuyla üvey kızının yaklaşık 7 bin cinsel içerikli görüntüsünü ürettiği iddiasıyla toplu dava açılmış durumda. Uzmanlar Musk'ın X platformunun çocukların cinselleştirilmiş görüntüleriyle dolu olmaya devam ettiğini belirtiyor.

Düzenleme tartışması büyüyor

Özellikle Çin kaynaklı açık modellerin hızlı yükselişi, önde gelen yapay zekâ şirketlerinin CEO'larını ulusal güvenlik gerekçesiyle düzenleme çağrısı yapmaya itmişti. Çocuk güvenliği savunucuları ise Silikon Vadisi'nin "hızlı hareket et, şeyleri kır" yaklaşımının tabloyu daha da kötüleştirmesinden endişeli.