I ricercatori hanno presentato l'architettura QueryFormer per la previsione della conversione

Il team di sviluppatori ha presentato QueryFormer — un'architettura per la previsione della probabilità di conversione dopo un clic (pCVR), che ha occupato il primo posto nel tracciato industriale della competizione KDD Cup 2026 Tencent UniRec Challenge.

La base della soluzione è un blocco unificato, che combina caratteristiche non sequenziali con sequenze comportamentali degli utenti. A differenza degli approcci tradizionali, che utilizzano percettori multistrato proiettivi, il modello applica un meccanismo di cross-attenzione per raffinare le query. Ciò ha permesso di raggiungere un punteggio ufficiale di AUC 0.83254 nel set di test, e dopo un'ulteriore scalabilità, il risultato è cresciuto a 0.832713.

Gli autori hanno condotto una ricerca sulla scalabilità del modello in larghezza e profondità dei layer. L'utilizzo di cross-attenzione impacchettata con parametri condivisi garantisce un'elevata efficienza: aumentando la larghezza H da 1 a 8, il ritardo dell'inferenza aumenta solo di 1.89 volte. Durante l'analisi ablativa, è stato confermato che è proprio la generazione di query attraverso il meccanismo di attenzione a contribuire maggiormente alla precisione finale del sistema.

L'architettura supera il modello HyFormer con budget computazionali confrontabili. La ricerca è pubblicata sotto licenza Creative Commons Attribution 4.0, che consente l'utilizzo dei metodi proposti nei sistemi di raccomandazione industriali per l'elaborazione di dati utente complessi.