出現了一個新的工具 Sunk Cost,它評估局部LLM-риг需要多長時間才能收回成本,考慮到電費、API速度和模型的基準測試。
該工具可在 sunkcost.ai 網站上使用,允許用戶計算其局部LLM-риг的收回期。
有關該工具的討論可以在 news.ycombinator.com 上找到。
該工具可能對於計劃部署局部LLM-риг並希望評估其經濟效益的人們有所幫助。