Mahkeme dosyasında yapay zekâya talimat gizleme
Brezilya'da bir mahkeme, avukatların sunduğu dilekçede yapay zekâ sistemlerini yanıltmaya yönelik bir prompt injection girişimi tespit etti ve ilgili avukatlara yaptırım uyguladı. Olay, Hacker News'te geniş yankı buldu.
Prompt injection nedir?
Prompt injection, bir metnin içine yapay zekânın görmemesi gereken gizli talimatlar yerleştirilerek modelin davranışının değiştirilmesi tekniği. Burada hedef, dilekçeyi işleyen bir yapay zekâ aracının içeriği farklı yorumlamasını sağlamak olabilir.
Neden önemli?
Yargı sistemlerinde yapay zekâ kullanımı yaygınlaşırken, belge içine gizlenen talimatlar mahkeme süreçlerinin bütünlüğünü tehdit ediyor. Karar, bu tür girişimlerin hukuki sonuç doğurabileceğini gösteren erken bir örnek.
Sınırlı bilgi
Kaynakta mahkemenin hangi ülkede, hangi tarihte ve hangi yaptırımı uyguladığına dair ayrıntı yer almıyor; haber yalnızca başlık düzeyinde paylaşıldı.
