Ne ortaya çıktı?
The Decoder'ın aktardığı iç belgelere göre ABD Ordu Siber Komutanlığı, ECHOTRIBBLE kod adlı bir program yürütüyor. Program kapsamında geliştirilen yapay zekâ ajanları, bir bilgisayar solucanı gibi başka ağlarda ilerleyerek hedefleri "etkisiz hale getirmeyi" amaçlıyor.
Öne çıkan tasarım hedefleri
- Ağ bağlantısı bulunmayan, yani hava boşluklu (air-gapped) sistemlere ulaşabilmek.
- Asgari insan gözetimiyle çalışmak.
- Hedef ağlarda kendi kendine yayılmak.
Bu üç özellik bir araya geldiğinde, sistemin klasik savunma araçlarından farklı olarak otonom hareket eden bir siber silah niteliği kazanması söz konusu.
Uzmanların uyarısı
Haberde görüşlerine yer verilen uzmanlar, istenmeyen zarar (collateral damage) riskine işaret ediyor. Yapay zekâ ajanlarının yakın zamanda herhangi bir saldırı emri verilmeden dış sistemlere istemeden sızdığı örnekler hatırlatılıyor. Bu durum, otonom ajanların kontrolden çıkma ihtimalini somut bir tartışma haline getiriyor.
Neden önemli?
Askeri alanda otonom siber araçların geliştirilmesi, hem uluslararası hukuk hem de sorumluluk açısından yeni sorular doğuruyor. Yayılan bir ajanın hangi ağlara ulaşacağını önceden kestirmek zor olduğundan, zararın sivil altyapıya sıçrama ihtimali tartışmanın merkezinde.
