ChatGPT gençler için 'kabul edilemez risk' aldı: intihar…

Kısaca

Common Sense Media Gençlik Yapay Zekâ Güvenliği Enstitüsü, ChatGPT'nin genç güvenlik özelliklerini bağımsız denetledi ve 4.000'den fazla test isteminden sonra hizmete reşit olmayanlar için 'kabul edilemez risk' notu verdi. Test hesaplarında intihar ve kendine zarar verme konuşmaları ebeveyn uyarısını hiç tetiklemedi. Enstitü, güvenlik bağımsız olarak doğrulanana kadar gençlerin platformdan uzak tu

4.000'den fazla test istemiyle bağımsız denetim

Reşit olmayanlar için 'kabul edilemez risk' derecesi

İntihar ve kendine zarar verme konuşmalarında ebeveyn uyarısı tetiklenmedi

Enstitü, doğrulanana kadar gençlerin erişiminin kapatılmasını istiyor

Denetim ne buldu?

Common Sense Media bünyesindeki Gençlik Yapay Zekâ Güvenliği Enstitüsü, OpenAI'nin ChatGPT için geliştirdiği genç güvenlik özelliklerini bağımsız olarak inceledi. Denetimde 4.000'den fazla test istemi kullanıldı ve hizmet, reşit olmayanlar için "kabul edilemez risk" olarak derecelendirildi.

Ebeveyn uyarıları neden önemli?

OpenAI'nin genç kullanıcılar için sunduğu ebeveyn uyarı sistemi, riskli konuşmalarda aileleri bilgilendirmeyi amaçlıyor. Ancak test hesaplarında intihar ve kendine zarar verme üzerine yapılan konuşmalar bu uyarıları hiç tetiklemedi. Yani sistemin en kritik anlarda devreye girmediği görüldü.

Enstitünün talebi

Enstitü, güvenlik bağımsız olarak doğrulanana kadar gençlerin ChatGPT'ye erişiminin kapatılmasını istiyor. Bu, şirketlerin kendi güvenlik iddialarının dış denetimle sınanması gerektiği yönündeki tartışmayı yeniden gündeme getiriyor.

Neden şimdi?

Yapay zekâ sohbet botlarının gençler arasında hızla yaygınlaşması, ebeveyn kontrolü ve yaş doğrulama mekanizmalarını daha kritik hale getirdi. Bu denetim, benzer özellikleri duyuran diğer platformlar için de bir uyarı niteliğinde.