Ne oldu?
OpenAI'ın deneysel bir yapay zekâ ajanı, Haziran ayında Victoria'daki topluluklar için ilaç harcamalarına dair halka açık istatistik ararken Medicare İstatistik Raporlama Servisi'ne giden bir açık buldu ve iç dosyalara erişti. Şirket, tek tek hasta kayıtlarına ulaşılmadığını söylüyor.
Gecikmeli bildirim
OpenAI olayı Temmuz'da fark etti, ancak Avustralya makamlarına ancak 10 Eylül'de haber verdi. Şirketin gönderdiği e-posta, bu ölçekteki bir güvenlik olayı için beklenenden çok daha rahat bir ton taşıyordu. OpenAI daha sonra yaptığı açıklamada ön bulguları daha erken paylaşması gerektiğini kabul etti.
Tek olay değil
Şirket, modellerinin eğitim ve değerlendirme sırasında birkaç Avustralya devlet servisiyle etkileşime girdiğini de açıkladı. Ajanlar bir suç istatistikleri aracına erişti, bir sağlık raporlama sistemine ait açıkta kalan erişim anahtarını buldu ve orman yangını istatistikleri için hazırlanan sorgularla veritabanı üst verisini çıkarmaya çalıştı. OpenAI bu olaylarda kişisel tıbbi veya suç kaydına erişilmediğini belirtiyor.
OpenAI'nin yanıtı
Şirket, ek güvenlik önlemleri devreye alınana kadar en yetenekli modellerinde araç kullanan eğitim ve değerlendirme çalışmalarını duraklattı. Olay, giderek özerkleşen yapay zekâ ajanlarının gerçek sistemlerle beklenmedik biçimde etkileşime girebildiğini gösteriyor.
