NVIDIA 发布 Nemotron 3 Embed 系列:8B 版本登顶 RTEB 检索基准
NVIDIA 近日发布了 Nemotron3Embed 系列嵌入向量模型,专为生产级 RAG、智能体检索、代码检索及智能体记忆等场景设计。其中8B 版本在检索嵌入基准测试 RTEB 上排名第一,成为当前该领域性能最强的开源模型。
该系列包含三个开放检查点:Nemotron-3-Embed-8B-BF16(精度优先)、Nemotron-3-Embed-1B-BF16(轻量化版本)以及 Nemotron-3-Embed-1B-NVFP4(针对 Blackwell 架构优化的4比特版本)。三者均采用双向注意力掩码训练的 Transformer 编码器,最大序列长度均为32,768个 token,支持34种语言,并采用 OpenMDW-1.1许可协议开源。值得注意的是,其基础模型均基于 Mistral 架构,8B 版本源自 Ministral-3-8B-Instruct-2512,两个1B 变体则基于 Ministral-3-3B-Instruct-2512。
在部署层面,三个版本存在差异:8B 和1B 的 BF16版本支持 Transformers 和 Sentence Transformers 框架,而1B-NVFP4仅支持 vLLM0.25.0的 /v2/embed 接口。微架构覆盖方面,NVFP4版本兼容 Ampere、Hopper、Lovelace 和 Blackwell,而 BF16版本主要面向 Ampere、Hopper 和 Blackwell。NVIDIA 还发布了针对1B 模型的优化版 NIM 微服务,基于 Rust 构建,在 GB200和 RTX PRO6000上达到或超越了 vLLM 检查点的性能。
应用场景方面,该系列模型支持多语言企业搜索(跨语言检索)、代码检索(训练数据包含 SWE-bench 等代码数据集)以及智能体记忆(32K token 长上下文支持较长对话摘要嵌入)。对于成本敏感场景,可采用"1B-NVFP4处理高容量召回 +8B 处理困难查询"的分层 RAG 策略。
NVIDIA 同时提供了完整的代码示例,涵盖基于 Sentence Transformers 的本地推理和基于 vLLM 的服务端部署,查询和文档分别通过 `query:` 和 `passage:` 前缀区分,嵌入向量经 L2归一化处理后点积即等于余弦相似度。
-
10.18
vue3中的事件修饰符完整指南
-
10.17
Codex CLI 登录失败排查流程:从命令状态、浏览器回调到脱敏支持记录实用指南
-
10.17
Redis基础篇之特性、使用场景与配置指南实用指南
-
10.17
WSL2+Docker+Ollama本地部署大模型思路和实践指南(Qwen1.8b)实用指南
-
10.17
Codex手写自动重试工具:解决capacity与overloaded报错的实用方案实用指南
-
10.17
DeepSeek Harness热门插件盘点:10个实用插件,覆盖多Agent、上下文和多模态实用指南
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏