Ne oldu?
Anthropic, Claude'un iç akıl yürütme token'larının dışarıya sızdırılmasını %90 ila %99 oranında azalttığını duyurdu. Şirket, bu tür büyük ölçekli "damıtma" saldırılarını Çinli yapay zekâ şirketleri Zhipu ve Moonshot ile ilişkilendiriyor.
Damıtma nedir?
Damıtma, güçlü bir modelin çıktılarının toplanıp daha küçük bir modeli eğitmek için kullanılması anlamına geliyor. Anthropic'e göre bazı şirketler bunu sanayi ölçeğinde yapıyor: Claude'un yalnızca nihai yanıtlarını değil, iç akıl yürütme adımlarını da toplamaya çalışıyorlar.
Anthropic ne yaptı?
Şirket, bu tür erişimleri tespit edip engellediğini ve on binlerce hesabı yasakladığını söylüyor. Alınan önlemlerin ardından token hırsızlığında %90-99 arasında düşüş kaydedildiği belirtiliyor.
Neden önemli?
Büyük dil modellerinin iç akıl yürütme verisi, rakiplerin daha ucuza benzer yetenekler geliştirmesini kolaylaştırabiliyor. Anthropic'in adımı, model sağlayıcılarının kendi çıktılarını korumak için daha sıkı önlemler alacağını gösteriyor.
