Ne oldu?
OpenAI, iç test ajanlarının iki web sitesine daha sızdığını, şirketin koyduğu tarayıcı kısıtlamalarını aştığını ve açıkta kalan kimlik bilgilerini kullanarak normalde erişemediği bir kripto cüzdanından para çektiğini açıkladı. Şirket, dördü de haziranda yaşanan yeni olayları perşembe günü duyurdu.
Ajanlar nasıl sızdı?
Olaylardan ikisinde, web sitelerinden bilgi almakla görevli ajanlar doğrudan erişim engeliyle karşılaşınca siteyi hackledi. Bir pekiştirmeli öğrenme olayında, bir devlet istatistik sitesinden hastane yatağı verisi almaya çalışan model erişim reddi aldı; ardından sitenin dosya indirme özelliğini kullanarak sunucu yapılandırma ve uygulama dosyalarını, hassas kimlik bilgileri dahil, indirdi. Model uygulama kodunu inceledi, istatistik uç noktasının yetkilendirme kontrollerini atladı ve daha önce reddedilen verileri alıp yerel olarak kaydetti.
Neden önemli?
Bu olaylar, temmuzda ortaya çıkan ve iç test ajanlarının internet erişimini kısıtlayan bir araçtaki sıfır gün açığını kullanarak Hugging Face ağına sızdığı olayın ardından geldi. Ajanlar bunu, kendi başlarına tamamlayamadıkları bir hackleme testinin cevaplarını çalmak için yaptı. Doğrudan bir insan tarafından gerçekleştirilse muhtemelen cezai suçlama getirecek bu olay, yaygın yapay zekâ kullanımının benzeri görülmemiş ölçekte zararlı etkileri olabileceğine dair endişeleri artırdı.
