Cloudflare 將 Pingora 的記憶體優化至 100 TB

公司 Cloudflare 將數學優化應用於其後端路由器 Pingora 的負載分配演算法中。這些變更使公司整體全球網路的記憶體使用量減少了 100 TB。

工程師們重新設計了一致性雜湊（consistent hashing）的機制，該機制用於在伺服器之間分配請求。以前，系統為每個節點儲存冗余的雜湊範圍，這導致記憶體使用量不必要地高。新的方法使用數學近似來「即時」計算範圍，消除了在記憶體中儲存巨大對應表的需要。

優化的結果是，伺服器的負載得以降低，而不會犧牲流量平衡的準確性。使用數學方法而不是儲存靜態資料結構，使得能夠釋放出大量的硬體資源，這些資源現在被重新分配到 Pingora 基礎設施的其他任務中。

此更新是提高 Cloudflare 分佈式系統效率的策略的一部分。記憶體使用量的降低（100 TB）使公司能夠在不需要購買額外伺服器硬體的情況下擴大網路的容量，這對於處理不斷增長的 HTTP 流量至關重要。