Anthropic, bağımsız değerlendirici METR'e çalışan benzeri erişim verdi

Kısaca

Anthropic, kâr amacı gütmeyen değerlendirme kuruluşu METR'den altı kişilik bir ekibe şirket donanımı, ofis alanı ve iç sistemlere erişim sağladı. METR, risk değerlendirmelerinin sonuçlarını yayımlayacak; Anthropic yayını veto edemeyecek, yalnızca önceden tanımlı dar kategorilerde redaksiyon isteyebilecek. Şirket ayrıca SecureBio ve Accenture ile çalıştığını, Hugging Face dahil başka kuruluşlarla g

METR'den altı kişilik ekip, çalışan benzeri erişim aldı

Değerlendiriciler risk analizlerini yayımlayabilecek

Anthropic yayını veto edemiyor, yalnızca dar kategorilerde redaksiyon isteyebiliyor

SecureBio ve Accenture da değerlendirici olarak çalışıyor

Hugging Face dahil yeni kuruluşlarla görüşmeler sürüyor

Ne oldu?

Anthropic, öncü yapay zekâ modellerini değerlendiren kâr amacı gütmeyen kuruluş METR'den altı çalışana "çalışan benzeri erişim" verdiğini duyurdu. Ekip, şirket donanımı, ofis alanı ve Anthropic'in kendi risk değerlendirme ekiplerinin kullandığı iç araçlara yakın düzeyde erişim alacak.

Neden yapılıyor?

Anthropic'e göre modeller güçlendikçe daha sıkı koruma ve daha zorlu risk değerlendirmeleri gerekiyor. Şirket, güvenlik çalışmalarına dair bazı bilgileri (müşteri verisi, avukat-müvekkil ayrıcalıklı bilgiler veya model mimarisi gibi) kamuya açamıyor. Bunun yerine bağımsız değerlendiricilere derin erişim verip, risklere dair kanıt ve gerekçeli sonuçları onların paylaşmasını sağlıyor.

Yayın özgürlüğü

METR, Anthropic'in risk seviyeleri, olayları veya uygulamalarına dair analizini yayımlayacak. Anthropic yayını veto edemiyor; yalnızca önceden tanımlanmış dar kategorilerde redaksiyon talep edebiliyor. METR, bu redaksiyonları kamuya istediği gibi yorumlamakta serbest.

Diğer değerlendiriciler

Anthropic, SecureBio ve Accenture ile de değerlendirici olarak çalıştığını, Hugging Face dahil birkaç kuruluşla erken görüşmelerin sürdüğünü belirtti. Şirket, geçen ay modelleri ve güvenlik uygulamaları için daha güçlü bağımsız değerlendirme taahhüdü vermiş ve Beyaz Saray'ın Süper Zekâ Anlaşması'nı imzalamıştı.