Bağımsız denetime erişim
Anthropic, sistemlerinin güvenliğini dışarıdan değerlendirebilmek için kâr amacı gütmeyen METR'ten bir ekibe çalışan düzeyinde erişim verdiğini açıkladı. METR, öncü (frontier) yapay zekâ modellerini değerlendiren bir kuruluş.
Şirket, benzer erişim için Hugging Face dahil birkaç kuruluşla da erken aşamada görüşmeler yürütüyor. Böylece model güvenliği denetiminin yalnızca şirket içinde kalmaması hedefleniyor.
Neden önemli
Öncü modellerin yetenekleri arttıkça, güvenlik iddialarının bağımsız kuruluşlarca doğrulanması tartışmanın merkezine yerleşti. Çalışan düzeyinde erişim, dış değerlendiricilerin modeli gerçek kullanım koşullarına yakın biçimde incelemesine olanak tanıyor.
Bu duyuru, Anthropic'in politika sayfasında yayımlanan güncellemelerden biri. Şirket son dönemde kullanım politikası, açık ağırlıklı modellere ilişkin tutum ve yapay zekâ düzenlemesi gibi konularda da pozisyon açıklamaları yayımlıyor.
