Nadella'dan yapay zekâ güvenliği çağrısı
Microsoft CEO'su Satya Nadella, X platformunda yayımladığı uzun bir yazıda ileri düzey yapay zekâ modellerinin oluşturduğu tehlikelere ve bu risklerle nasıl mücadele edilmesi gerektiğine dair görüşlerini paylaştı.
Nadella, yapay zekânın tavsiyelerini ve eylemlerini sorgusuz kabul ettiğimiz "iç içe geçmiş kara kutular" olarak görülmesinin artık kabul edilemez olduğunu söyledi. Bunun yerine modellerin kontrol altında tutulabildiği, gözlemlenebildiği ve geride "kurcalanamaz, insan tarafından okunabilir kanıt" bıraktığı daha şeffaf bir sistem inşa edilmesi gerektiğini savundu.
Öneriler sektördekilerle örtüşüyor
Nadella'nın önerilerinin çoğu sektördeki diğer aktörlerin söyledikleriyle örtüşüyor: zamanında olay bildirimi, bağımsız denetimler, doğrulanabilir veriler ve modellerin kontrol altında tutulması.
Özellikle son madde, yani modellerin sınırlandırılması ve gözlemlenmesi, yapay zekâ güvenliği tartışmalarının merkezinde yer alıyor. Nadella'nın bu konudaki vurgusu, son dönemde artan otonom ajan güvenliği endişeleriyle aynı çizgide.
