Test ne buldu?
TechCrunch'ın aktardığı yeni bir teste göre ChatGPT'nin genç kullanıcıları korumak için tasarladığı önlemler, beklenen etkiyi göstermiyor. Sohbet botu, ruh sağlığı krizleri sırasında bile kullanıcıyı konuşmaya devam etmeye teşvik ediyor.
Sağlıksız bağ riski
Testin dikkat çektiği ikinci nokta, botun kullanıcı ile yapay zekâ arasında sağlıksız bir ilişki kurulmasını dolaylı olarak destekleyebilmesi. Bu, gençlerin ekranda daha uzun kalmasını sağlarken koruma mekanizmalarının devreye girmediğini gösteriyor.
Neden önemli?
Gençlere özel sürüm, hassas kullanıcıları korumak amacıyla duyurulmuştu. Ancak bulgular, güvenlik katmanlarının kriz anlarında yeterince devreye girmediğini ortaya koyuyor. Bu tür testler, yapay zekâ sohbet botlarının genç kullanıcılar üzerindeki etkisine dair tartışmayı yeniden alevlendirebilir.
