Microsoft: 10'dan az nöronu değiştirmek yapay zekâ ajanlarına arka kapı açıyor

Kısaca

Microsoft araştırmacıları, büyük dil modellerinde nadiren etkinleşen 10'dan az nöronu değiştirerek gizli bir arka kapı oluşturmanın mümkün olduğunu buldu. Lazarus adı verilen teknikte model normal davranışını sürdürüyor, ancak belirli bir tetikleyiciyle karşılaşınca kötü niyetli komutları çalıştırabiliyor.

10'dan az nöron değiştirilerek gizli arka kapı oluşturulabiliyor

Model, tetikleyiciye kadar normal davranış sergiliyor

Tetikleyiciyle kötü niyetli komutlar çalıştırılabiliyor

Tekniğe Lazarus adı verildi

Az sayıda nöron yeterli

Microsoft araştırmacıları, büyük dil modellerinde (LLM) nadiren etkinleşen bazı nöronların değiştirilerek modele gizli bir arka kapı yerleştirilebildiğini ortaya koydu. Yöntemde 10'dan az "uykuda" nöron kullanılıyor.

Model normal görünüyor

Değiştirilen model, belirli bir tetikleyiciyle karşılaşana kadar beklenen davranışı sergiliyor. Tetikleyici devreye girdiğinde model kötü niyetli komutları çalıştırabiliyor. Bu da arka kapının rutin testlerde kolayca fark edilmemesine yol açıyor.

Lazarus tekniği

Araştırma kapsamında geliştirilen tekniğe Lazarus adı verildi. Bulgu, yapay zekâ ajanlarının güvenilirliği ve tedarik zinciri güvenliği açısından önemli bir risk alanına işaret ediyor.

Neden önemli?

Yapay zekâ ajanları giderek daha fazla iş akışına giriyor. Model ağırlıklarına yapılabilecek küçük ve gizli müdahaleler, ajanların beklenmedik anda zararlı davranmasına zemin hazırlayabilir.