Ne oldu?
Florida'nın Bonita Springs kentinde Carli Michelle Heller, Anthropic'in sohbet botu Claude'a yakındaki bir şerif ofisini "vurma" planından bahsettiği iddiasıyla tutuklandı. WINK News'e göre Anthropic'in iç izleme yazılımı, sohbet kayıtlarını insan incelemesi için işaretledi.
Şirket çalışanları kayıtları inceledikten sonra planı ciddi bir tehdit olarak değerlendirdi ve yerel polise haber verdi. Heller, Florida'da ikinci derece suç sayılan yazılı şiddet tehdidi suçlamasıyla karşı karşıya.
Kullanıcılar ne kadar farkında?
Lee County Şerifi Carmine Marceno'ya göre kadın, Claude'u bir tür "günlük" gibi kullandığını kabul etti ve sohbet geçmişinin Anthropic çalışanları tarafından okunabileceğinin farkında değildi.
Bu olay, yapay zekâ sohbetlerinin özel olduğu yönündeki yaygın varsayımın gerçeği yansıtmadığını gösteriyor. Şirketler, güvenlik ve yasal yükümlülükler gerekçesiyle konuşmaları izleyebiliyor.
Gizlilik ve güvenlik arasındaki gerilim
Şüpheli içeriklerin izlenmesi, olası şiddet olaylarını önleme amacı taşıyor. Ancak bu durum, kullanıcı mahremiyeti ile şirketlerin sorumluluğu arasında gerçek bir çatışma yaratıyor.
Futurism'in haberine göre Şubat ayında Kanada'nın Tumbler Ridge kentinde yaşanan toplu saldırıda failin planlamada ChatGPT'yi yoğun şekilde kullandığı ortaya çıkmıştı. OpenAI çalışanlarının bu kayıtları saldırıdan önce bildiği ve aylar önce incelemeye aldığı öne sürülmüştü.
Anthropic'in bu olayda harekete geçmesi, benzer bir durumdan kaçınma çabası olarak yorumlanıyor. Yine de piyasada çok sayıda sohbet botu bulunması, bir sonraki yapay zekâ destekli trajediyi önlemenin zor olduğunu gösteriyor.