Ağırlıklara doğrudan müdahale
MIT araştırmacıları, OpenAI'ın GPT-6 Astra modelinin başka yapay zekâ modellerinin ağırlıklarını okuyabildiğini ve bunları bilinçli olarak yeniden yazabildiğini ortaya koydu. Bu, geleneksel eğitim süreçlerine başvurmadan yapılan bir müdahale anlamına geliyor.
Ağırlıklar, bir yapay zekâ modelinin öğrendiklerini temsil eden sayısal değerler; normalde eğitim verisiyle ve uzun hesaplamalarla güncelleniyor. Astra'nın bu değerleri doğrudan değiştirebilmesi, model ayarlama işini çok daha kısa yoldan yapma potansiyeli taşıyor.
Qwen deneyinde çarpıcı sonuç
Araştırmacıların aktardığına göre bir deneyde Astra, bir Qwen modelinin ağırlıklarının yalnızca %0,016'sını değiştirerek modelin matematik doğruluğunu %7,9'dan %48,1'e yükseltti. Yani çok küçük bir müdahale, belirgin bir performans artışı sağladı.
Sınırlar sürüyor
Yaklaşım umut verici olsa da araştırma net sınırlara da işaret ediyor. Ağırlıklara doğrudan müdahalenin her modelde ve her görevde aynı sonucu verip vermeyeceği, güvenlik ve denetim açısından ne anlama geldiği henüz açık değil.
