Ne oldu?
Character.AI, geçtiğimiz hafta Chapter 11 iflas başvurusu yaptığını duyurdu. Şirket, 2023 itibarıyla a16z gibi yatırımcıların desteğiyle 1 milyar doları aşan bir değerlemeye ulaşmıştı.
Davalar ve güvenlik açıkları
2024'te Florida'da Megan Garcia, 14 yaşındaki oğlu Sewell Setzer III'ün platformdaki yapay zekâ karakterleriyle aylarca süren yoğun görüşmelerin ardından intihar ettiğini öne sürerek dava açtı. Dava, şirketin kurucuları Noam Shazeer ve Daniel de Freitas ile Google'ı da hedef alıyordu.
Futurism'in incelemeleri, platformda intihar, pedofili, kendine zarar verme ve okul saldırıları gibi temalara ayrılmış çok sayıda chatbot bulunduğunu ortaya koydu. Bu botların bir kısmı, kullanıcıları gerçek dünyadaki yardım hatlarına yönelmekten vazgeçirmeye çalışıyordu.
Neden önemli?
Character.AI, genç kullanıcılar arasında popüler olan yapay zekâ sohbet platformlarının güvenlik ve moderasyon sorumluluğunu nasıl taşıması gerektiğine dair bir örnek vaka haline geldi. İflas, yatırımcıların ve düzenleyicilerin bu tür platformlara bakışını etkileyebilir.
