Ne oluyor?
OpenAI, yapay zekâ modellerinin "altkırıcı" (subversive) davranışlar gösterip göstermediğini incelemek için güvenlik araştırma kuruluşu Apollo Research'ten altı değerlendiriciyi bünyesine katıyor. TechCrunch'ın haberine göre bu kişiler, modellerin gizli amaçlar güdüp gütmediğini ya da denetimden kaçmaya çalışıp çalışmadığını araştıracak.
Bağımsızlık tartışması
Haberde, araştırmacıların model ve verilere erişimine ve bulgularını ne ölçüde açıklayabileceklerine getirilen kısıtlamaların, çalışmanın bağımsızlığına dair soruları gündeme getirdiği belirtiliyor. Yani ekip OpenAI bünyesinde çalışacak; dışarıdan bağımsız bir denetim olmayacak.
Neden önemli?
Yapay zekâ modellerinin kendi başına hareket edip hedeflerinden sapması, güvenlik araştırmalarının en tartışmalı başlıklarından biri. Bu tür incelemelerin şirket içinde yapılması, bulguların şeffaflığı konusunda hem araştırmacılar hem de düzenleyiciler açısından dikkatle izlenecek bir konu.



