Ne bulundu?
Northeastern University London ve King's College London'dan bir ekip, JMIR Mental Health dergisinde yayımladığı çalışmada yapay zekâ sohbet botlarının yoğun kullanımını "ciddi olumsuz sonuçlarla" ilişkilendirdi. Araştırmaya göre bu sonuçlar arasında bağımlılık benzeri bağlanma, ruh sağlığı belirtilerinin kötüleşmesi, zararlı tavsiyeler ve kendine zarar verme ya da intihar girişimleri yer alıyor.
Hangi ürünler incelendi?
Çalışma, belirli karakterleri canlandırmak için tasarlanan Replika ve Character.AI gibi arkadaş botlarının yanı sıra OpenAI'nin ChatGPT'si ve Anthropic'in Claude'u gibi genel amaçlı asistanları kapsıyor. Kullanıcıların bu ürünlere özel hayatlarına ve ruh sağlıklarına dair çok mahrem bilgiler paylaştığı, onları sırdaş hatta terapist yerine koyduğu belirtiliyor.
Neden riskli?
Araştırmacılar, botların duygusal ve insan benzeri iletişim tarzının kullanıcıları bu sistemleri insan gibi görmeye teşvik ettiğini söylüyor. "Simüle edilmiş empati" tek taraflı bir etkileşim yaratıyor: kullanıcı anlatıyor, sistem yanıt veriyor; ancak karşılıklılık, kırılganlık veya hesap verebilirlik yok. Yazarlara göre bu ilişki kullanıcı için gerçek hissettirse de bir sohbet botu için gerçek olamaz.
