英伟达宣布利用DeepSeek提升推理能力至最先进水平_体育直播

来源:直播吧

DeepSeek R1模型的推出,不仅引发了广泛关注,更直接导致了美股的下跌,英伟达一日内市值蒸发了6000亿美元。此后,英伟达宣布发布了其采用DeepSeek R1 671b的“英伟达NIM微服务”预览版,并对外表示DeepSeek-R1的推理能力是“最先进”的。

根据英伟达的介绍,DeepSeek-R1模型作为一种高效的大型语言模型,在推理能力、数学运算及编码方面均表现出色。在单个HGX H200系统中,NIM微服务每秒能够处理多达3872个tokens。这一成绩得益于H200系统配备的HBM3e高带宽内存及在软件层面的多项优化,包括动态批处理、量化和TensorRT加速等技术。

从战略角度来看,英伟达此举旨在完善NIM生态系统,吸引更多开发者选择其全栈解决方案,以巩固在AI基础设施领域的领先地位。同时,这也体现了其与云服务巨头如AWS Bedrock及Azure AI Model Catalog之间日益激烈的竞争。英伟达希望通过提供灵活的本地化部署选项,来争夺企业AI市场的份额。

总体来看,DeepSeek R1的成功推出和英伟达的响应策略,预示着AI领域的快速发展与竞争加剧。随着技术的不断更新迭代,市场格局也将随之变化,企业在选择AI解决方案时面临着前所未有的选择。

电竞免费观看_电竞高清在线

更新时间: