Ne duyuruldu?

OpenAI, gömülü değerlendirme (embedded assessments) programının ilk aşamasını başlattığını açıkladı. Şirket, bu süreçte dışarıdan bağımsız kuruluşlarla çalışacak.

Kimler yer alıyor?

Duyuruda adı geçen dört kuruluş var: Apollo Research, METR, Transluce ve Goodfire. Bu ekipler, OpenAI modellerini şirketin kendi ekibinden bağımsız biçimde inceleyecek.

Neye bakılacak?

Değerlendirmeler üç başlıkta toplanıyor:

  • Model hizalanması: Modelin amaçlanan davranışla ne kadar uyumlu çalıştığı.
  • Koruma önlemleri (safeguards): Modelin zararlı veya istenmeyen çıktılara karşı ne kadar dirençli olduğu.
  • İzleme sistemleri: Model davranışının ne ölçüde takip edilebildiği.

Neden önemli?

Yapay zekâ modellerinin güvenliği tartışılırken en sık dile getirilen sorun, değerlendirmelerin şirketin kendi içinde kalması. OpenAI'nin bu adımı, bağımsız uzmanların sürece doğrudan dahil edilmesini öngörüyor. Şirket, bunu "ilk aşama" olarak nitelendiriyor; yani programın ilerleyen dönemde genişlemesi beklenebilir.