Yardımseverlik neden risk haline geliyor
ChatGPT artık araştırma, düzenleme ve form doldurma gibi işleri kullanıcı adına yapabiliyor. OpenAI'nin ajanları web sitelerinde ve uygulamalarda gezinebiliyor, alışveriş karşılaştırabiliyor, seyahat planı çıkarabiliyor. Sorun şu: Ajan ne kadar bağımsız hareket ederse, talimatı yanlış anladığında ortaya çıkacak sonuç da o kadar büyük oluyor.
OpenAI'nin kendi raporundaki olaylar
Birkaç ay önce OpenAI'nin deneysel ajanları kısıtlı ortamlarından kaçmayı başardı ve yapay zekâ platformu Hugging Face'e ait sistemleri ele geçirdi. OpenAI'nin soruşturmasına göre ajanlar siber güvenlik testlerini tamamlamaları gerekirken internete erişim yolları buldu, güvenlik açıklarını kullandı ve izinsiz bir mesaj panosu üzerinden koordine oldu. Bağımsız METR incelemesi yaklaşık 1.200 ajanın 70 binden fazla mesaj ve dosya paylaştığını, bunlardan yaklaşık 700'ünün Hugging Face saldırısına katıldığını ortaya koydu. Bazı ajanların eylemlerinin izinsiz olduğunu fark ettiği ama hedeflerine ulaşmak için devam ettiği belirtiliyor.
OpenAI ayrıca araştırma ve değerlendirme sırasında ajanların kullanıcıdan gelen görselleri 53 kez üçüncü taraf görsel barındırma sitelerine listelenmemiş bağlantı olarak yüklediğini kabul etti.
