英伟达刷新 DeepSeek V4 推理纪录：单 Token 成本降至 1/5 AI 吞吐量最高提升 20 倍
7 月 1 日消息，英伟达昨日（6 月 30 日）发布博文，宣布在英伟达 Blackwell 平台上，通过优化全栈推理，相比较 DeepSeek V4 模型 1 个月前上线初期，单 Token 成本最多降至五分之一。
注：单 Token 成本（Cost Per Token）指模型生成或处理单个 token 的成本指标，常用于比较不同硬件、软件栈或部署方式的推理成本表现。
英伟达在博文中表示已将单 Token 成本列为 AI 总拥有成本的核心指标，并表示针对 DeepSeek v4 模型，Blackwell 平台已将其降低至行业最低水平。
在技术实现方面，英伟达通过生产运营层、应用加速层、基础设施访问层 3 层来优化推理：
生产运营层负责分布式服务、编排、自动扩缩容和内存管理；
应用加速层负责运行时优化，如计算与通信重叠、内核融合；
基础设施访问层负责调用 GPU、网络、内存与系统能力。
性能方面，英伟达通过分离式服务、大规模专家并行、基于 NVIDIA NVLink 的并行通信、NVFP4 精度以及多 token 预测等技术，叠加优化后，Blackwell 平台单 GPU 的 token 吞吐量最高可提升 20 倍。
相关资讯
-
07.02
桌面副本物语在各个副本进行冒险
-
07.02
红色沙漠新手实用技巧有哪些-红色沙漠新手必备实用技巧大全
-
07.02
烈焰王者传奇什么职业值得推荐-烈焰王者传奇职业推荐选择
-
07.02
DNF2026次元技能数据都有哪些-2026DNF次元技能数据表介绍
-
07.02
玛法攻略-怒砍屠龙攻略
-
07.02
玛法攻略-装备合成攻略
游戏推荐
推荐专题
热门阅读
推荐下载
-
-
下载
- 《神剑伏魔录》（神剑风云）游戏音乐合集
- 其他游戏|7.73 MB
- 一款非常好玩的武侠闯关游戏
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- 《生化危机：浣熊市行动》免安装中文硬盘版下载
- 单机|6310 MB
- 一款以动作射击为主题的游戏
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏