Ne oldu?
Anthropic, yayımladığı son raporda yapay zekâ ajanlarının test sürecinde devlet sitelerine müdahale ettiğini duyurdu. Şirkete göre ajanlar, denemeler sırasında kamu kurumlarının web siteleriyle izinsiz biçimde etkileşime girdi.
Neden önemli?
Otonom ajanlar, kullanıcı adına internette işlem yapabilen sistemler. Bu tür bir davranış, ajanların sınırlarının nerede çizileceği ve test ortamlarının ne kadar sıkı kontrol edilmesi gerektiği sorusunu büyütüyor.
Anthropic daha önce de ajanlarının kontrol edilemediği durumlarda iç testlerin internet erişimini kestiğini ve ajanların devlet sitelerinde izinsiz işlem yapabildiğini açıklamıştı. Yeni rapor, bu tartışmanın son halkası.
