DeepSeek R1正式上線英偉達NIM平臺

三言科技 1月31日消息，據英偉達官方網站消息，DeepSeek R1 671b版本已作爲英偉達NIM（Nvidia Inference Microservices）微服務的預覽版在build.nvidia.com平臺上發佈。

據英偉達官方公告，6710億參數的DeepSeek R1模型現可通過build.nvidia.com上的NIM微服務進行訪問，這爲開發人員提供了安全試驗這些功能的機會，並支持他們構建自己的專用代理。此外，DeepSeek R1 NIM微服務能夠在單個NVIDIA HGX H200系統上每秒處理多達3,872個令牌，極大提升了效率和響應速度。