開發人員在Fable 5模型中記錄了思維效率的下降

研究人員在八月份記錄了Fable 5模型邏輯推理的中位數指標下降。在測試過程中，系統在5小時的運行中獲得了283分，這表明與之前的時期相比，請求處理模式發生了變化。

分析顯示，八月份大多數對模型的調用都伴隨著最少或沒有「思考」令牌（thinking tokens）。這導致了需要深入邏輯推理的任務中答案質量下降。專家指出，問題不在於架構本身的退化，而在於當前推理模式的特點。

技術觀察社群強調了在使用支持推理鏈的模型時，生成參數的重要性。與其假設「nerf」或強制限制模型的能力，開發人員建議檢查直接影響推理機制激活的推理配置。

此事件展示了如何系統輸出設定的變化可以徹底改變神經網絡在實際任務中的行為。了解模型如何分配計算資源到「思考」過程，成為維持生產環境中穩定性能的關鍵因素。