Yeni sınıflandırıcı ve uyarılar

OpenAI, çocukların cinsel istismarına yönelik materyalle (CSAM) mücadelede iki yeni adım attığını açıkladı: bir görüntü sınıflandırıcısı ve ChatGPT içinde uyarılar.

Şirkete göre ChatGPT, CSAM içeriğine erişmeye çalışan bir hesabı uyarı olarak 24 saat süreyle yasaklayacak. Bu, platformun bu tür içerikle etkileşimi engellemeye yönelik yeni bir caydırıcılık mekanizması.

Ne anlama geliyor?

Görüntü sınıflandırıcı, görselleri otomatik olarak analiz ederek CSAM içeriğini tespit etmeyi amaçlıyor. OpenAI, bu araçların kötüye kullanımı önlemek için kullanıldığını belirtiyor.

Duyuru, yapay zekâ platformlarının zararlı içerikle mücadelede daha fazla sorumluluk alması yönündeki baskıların arttığı bir dönemde geldi.