DeepSeek在週二下午宣佈，將內部使用的推理框架DeepInfer全面開源，同時開放生產級Token編解碼元件deepseek-recipe。這是該公司繼開放模型權重之後，進一步向開發者社群開放大模型推理基礎設施的舉措。

根據DeepSeek披露的資訊，DeepInfer集成了高效能運算元與最佳化推理引擎，支援分散式推理、推測解碼、結構化輸出等能力，並同時相容輝達與華為昇騰兩大計算平台。基於該框架，DeepSeek已實現DeepSeek V4.1 Flash的高吞吐、低延遲大規模推理服務，單叢集日吞吐量達到155萬億Token，每卡時收入為38美元。

同步開源的deepseek-recipe元件旨在確保社群開發者獲得與DeepSeek官方部署一致的API體驗。DeepSeek表示，未來新模型的推理程式碼及後續最佳化也將在DeepInfer上持續更新。

從行業背景看，大模型推理環節的算力成本與能源消耗一直是AI服務規模化落地的關鍵制約。推理框架處於模型與硬體之間的中間層，其效率直接影響單位算力的輸出能力。DeepSeek將內部框架開源，相當於把自身在推理最佳化上的工程積累開放給外部開發者，理論上可幫助企業在同等硬體條件下支撐更高的服務負載。

值得關注的是，DeepInfer同時相容輝達和華為昇騰平台。在當前AI晶片供應格局下，這一設計為使用不同硬體路線的開發者提供了統一的上層工具鏈，也降低了應用層對單一晶片生態的繫結。

DeepSeek在宣告中稱，希望通過開放模型、運算元庫及推理框架，幫助開發者最佳化推理效率、降低部署成本，推動AI服務以更低成本觸達更廣泛的使用者。該框架的實際效能表現與社群採用情況，仍有待開發者部署後的反饋驗證。