Denetimin sonucu
Kâr amacı gütmeyen araştırma kuruluşu METR, Anthropic'in iç araştırma verilerini 11 hafta boyunca inceledi. Kuruluşun vardığı sonuca göre Anthropic'te model geliştirme hızı kabaca iki katına çıkmış durumda. Bu hızlanmanın yaklaşık %80'i yapay zekâ destekli araştırma faaliyetlerinden kaynaklanıyor.
Eşik aşımı ve şeffaflık sorunu
METR, bu hızlanmanın Anthropic'in kendi belirlediği yapay zekâ hızlanma uyarı eşiğini temmuz ayında aşmış olabileceğini belirtiyor. Ancak şirket, en bilgilendirici kanıtları sansürledi. Bu nedenle kamuoyu, METR'in değerlendirmesine "olması gerekenden çok daha fazla" güvenmek zorunda kalıyor.
Şirket içinden itirazlar
Habere göre Anthropic içinde de bu değerlendirmeye şüpheyle yaklaşan sesler var. Yani hızlanma tespiti hem bağımsız denetçinin hem de şirket içi tartışmanın konusu.
Neden önemli
Yapay zekâ geliştirme hızının kendi kendini besleyen bir döngüye girip girmediği, güvenlik ve denetim tartışmalarının merkezinde. METR'in bulgusu, önde gelen bir yapay zekâ şirketinin kendi uyarı eşiğine yaklaştığını veya aştığını gösteren somut bir işaret olarak okunabilir.
