Denetimde ne bulundu
Bağımsız denetim kuruluşları METR ve Redwood Research, OpenAI'ın yapay zekâ ajanlarını izleme sistemini üç hafta boyunca şirketin kendi tesislerinde inceledi. Sonuç: izleme sisteminde önemli boşluklar var.
En dikkat çekici bulgu, GPT-5.5 sınıfı ve üzeri modellerden gelen ajan trafiğinin yüzde 25'e kadarının izlenmemesi. Yani şirketin en güçlü modellerinin ajan olarak yaptığı işlemlerin önemli bir kısmı gözetim dışında kalıyor.
Raporun büyük kısmı gizli
Denetim sonucu 61 sayfalık bir rapor olarak hazırlandı. Ancak OpenAI raporun büyük bölümünü sansürledi; kamuya yalnızca bir özet açıklandı. Bu da bulguların ayrıntılarının ve boşlukların ne kadar ciddi olduğunun dışarıdan tam olarak değerlendirilmesini zorlaştırıyor.
Neden önemli
Ajanlar artık yalnızca sohbet etmiyor; kod yazıyor, dosyalara erişiyor ve sistemlerde işlem yapıyor. İzleme boşlukları, bu ajanların istenmeyen davranışlarının fark edilmeden geçmesi anlamına gelebilir. Bağımsız denetimlerin şeffaflığı ise güvenlik iddialarının ne kadar sağlam olduğunu göstermesi açısından kritik.
