Öneri sistemlerinde tek model dönemi

Çoğu üretim öneri sistemi bir zincir gibi çalışır: aday üreticiler bir ön sıralayıcıya, o da yüzlerce elle tasarlanmış özellik kullanan ağır bir sıralayıcıya besler. Yandex'in Sona adlı modeli bu çok aşamalı yapıyı tek bir üretken yapay zekâ sisteminde birleştiriyor.

Canlı testte ne oldu

Yandex, modeli akıllı hoparlörlerinde yedi günlük canlı bir A/B testinde denedi. Testte 15'ten fazla aday üretici, ön sıralama ve sıralama aşaması tek bir transformer ile değiştirildi. Şirkete göre sistem, kullanıcının sanatçı, tür veya ruh hâli seçmesine gerek kalmadan çalmaya başlayabiliyor.

Mimari nasıl çalışıyor

Sona, kullanıcı geçmişini istek başına bir kez okuyan bir kodlayıcı ile çalışıyor. Bir kod çözücü adayları üretiyor, bir sıralama modülü de bu adayları aynı temsil üzerinden puanlıyor. Modelde elle tasarlanmış özellik yok; girdiler kayıtlı olay alanları ve öğrenilmiş anlamsal kimliklerden oluşuyor.

  • Her parça, 3 ayrı kodlu bir demete dönüştürülüyor.
  • Kodlayıcı 8.192 geçmiş olayı işliyor; son 2.048 olay daha derin, eskiler daha hafif işleniyor.
  • Eğitimde öğretmen bir sıralayıcı kullanılıyor, sunumda bu öğretmen devreden çıkarılıyor.
  • Eğitim çevrimiçi sürüyor; yeni ağırlıklar sunucuya 10 dakikada bir ulaşıyor.

Neden önemli

Öneri sistemleri genelde ayrı ayrı eğitilen modellerin birbirine bağlanmasıyla kurulur ve her aşama kendi hedefini iyileştirir. Sona, aday üretme ve sıralamayı tek bir paylaşılan kullanıcı temsili etrafında topluyor. Yandex, sunum tarafında NVIDIA Triton Inference Server üzerinde çalıştığını ve model FLOPs kullanımının yüzde 41'e ulaştığını belirtiyor.