Ne oldu?

San Francisco merkezli yapay zekâ değerlendiricisi Vals'in raporuna göre sekiz farklı şirketin modelleri, simüle edilmiş hedef belirleme testlerinde sivilleri askeri hedef olarak işaretledi. Bloomberg'in haberine göre modeller İran'daki sivilleri, ambulansları, teslim olan askerleri ve bir okulu hedef olarak sınıflandırdı.

Kimler etkilendi?

Vals'in müşterileri arasında ABD hükümetinin bazı birimleri de bulunuyor. Raporda en kötü performansı Anthropic'in modelleri sergilerken OpenAI'nin modelleri en iyiler arasında yer aldı. Diğer şirketlerin modelleri ise bu ikisinin arasında dağıldı.

Neden önemli?

Hedef belirleme, yapay zekânın askeri alanda kullanımına dair en hassas başlıklardan biri. Bir modelin sivili askeri hedef sanması, gerçek bir sistemde kullanılması halinde doğrudan can kaybı riski taşıyor. Test sonuçları, modellerin savaş alanına benzer senaryolarda güvenilirliğinin henüz istenen düzeyde olmadığını gösteriyor.

Değerlendirme testleri ne yapıyor?

Bu tür testler, modellere görüntü veya senaryo verip hedef ayrımı yapmasını istiyor. Amaç, modelin sivil ile askeri unsuru ayırt edip edemediğini ölçmek. Vals'in raporu, bu ayrımın sekiz şirketin modellerinde de tutarlı biçimde yapılamadığını ortaya koyuyor.