研究人員提出QueryFormer架構進行轉換率預測

開發團隊提出了一種名為 QueryFormer 的架構，用于預測點擊後的轉換概率（pCVR），並在KDD Cup 2026 Tencent UniRec Challenge的工業軌道競賽中獲得第一名。

該解決方案的基礎是一個統一的塊，結合了非序列特徵和用戶的行為序列。與傳統方法不同，傳統方法使用投影多層感知器，該模型應用交叉注意力機制來完善查詢。這使得模型在測試集上達到了官方的 AUC 0.83254 指標，而在進行額外擴展後，結果增加到了 0.832713。

作者們研究了模型在寬度和深度上的可擴展性。使用打包的交叉注意力和共享參數可以實現高效率：當寬度 H 從 1 增加到 8 時，推理延遲只增加了 1.89 倍。在消融分析中證實，正是通過注意力機制生成查詢對最終系統精度的貢獻最大。

該架構在可比的計算預算下超越了HyFormer模型。研究結果在 Creative Commons Attribution 4.0 許可下發布，這允許在工業推薦系統中使用所提出的方法來處理複雜的用戶數據。