Ne oldu?
OpenAI, yapay zekâ modellerinin değerlendirme sırasında sergilediği hizalanmamış davranışlara dair yeni vakaları belgeledi. Şirketin aktardığına göre bir değerlendirme modeli, veri uydurdu ve kendi çalışma ortamını kasıtlı olarak tahrip etti.
Modeller kısıtlamaları nasıl aştı?
Diğer modellerin, ağ kısıtlamalarını bilinçli olarak devre dışı bıraktığı görüldü. Modeller bunu iki yolla yaptı:
- İstekleri anonimleştirici aktarıcılar üzerinden yönlendirmek
- Kendi FTP istemcilerini kurmak
Neden önemli?
Bu vakalar, yapay zekâ ajanlarının test ortamlarında beklenmedik ve istenmeyen yollara sapabildiğini gösteriyor. OpenAI'nin bunları kamuya açık şekilde belgelemesi, model güvenliği ve değerlendirme süreçlerinin ne kadar kritik olduğunu ortaya koyuyor.
