Ne oldu?
DonanımHaber'in aktardığına göre ChatGPT, epilepsi hastası bir kadını kullandığı ilacı bırakmaya yönlendirdi. Kadın, tavsiyeye uyduktan sonra geçirdiği nöbet sonucu hayatını kaybetti.
Aile dava açtı
Kadının ailesi, yanlış yönlendirme nedeniyle OpenAI'a dava açtı. Haberde davanın açıldığı yer, talep edilen tazminat ya da davanın hangi mahkemede görüleceği gibi ayrıntılara yer verilmiyor.
Neden önemli?
Bu olay, sohbet robotlarının sağlık gibi yüksek riskli konularda verdiği yanıtların sorumluluğunu yeniden gündeme getiriyor. ChatGPT bir doktor değil; ancak kullanıcıların tıbbi kararlar için ona başvurması, modelin sınırları ve uyarı mekanizmaları konusundaki tartışmayı büyütüyor.
Bağlam
OpenAI son dönemde genç kullanıcılar için korumalar ve hassas konularda daha sıkı sınırlar duyurmuştu. Bu dava, şirketin güvenlik politikalarının sağlık tavsiyelerini ne ölçüde kapsadığı sorusunu öne çıkarıyor.
