NVIDIA 和 Hugging Face 打通 Diffusers 大规模微调
NVIDIA 与 Hugging Face 发布集成方案:NeMo Automodel 可直接微调 Hugging Face Hub 上的 Diffusers 格式模型,无需在训练格式与推理格式之间转换检查点,也不必为每个新模型重写训练脚本。该集成以 Apache 2.0 开源,并可把训练后的权重直接放回 DiffusionPipeline 及既有生态。
NeMo Automodel 基于 PyTorch DTensor,支持通过配置切换 FSDP2、张量并行、专家并行、上下文并行和流水线并行。当前聚焦 flow-matching 模型,并提供潜变量预编码和多分辨率分桶加载。现成配方覆盖 Wan 2.1/2.2、FLUX.1-dev、FLUX.2-dev、HunyuanVideo 1.5 与 Qwen-Image;其中 Wan 2.1 1.3B 可放入单张 40GB A100,FLUX.2-dev 为 32B 参数。
文中演示流程分为四步:预编码数据集、使用既有 YAML 启动训练、从完整检查点生成结果,以及测量性能。以 8 张 H100 80GB 为例,FLUX.1-dev 全量微调的图像吞吐为每卡约 4.44 张/秒,LoRA 为约 6.72 张/秒。方案同时支持全量微调与 LoRA,便于在质量、成本与集群规模间取舍。
相关资讯
-
09.03
Twilight Sea Fairy Fortune Card
-
09.03
Atoms生成代码二次修提示词怎么写-色彩风格和构图
-
09.03
谷歌将允许用户移除AI生成图像中可见水印
-
09.03
马斯克持股SpaceX价值9000亿美元,大部分尚未归属
-
09.03
中芯国际单季营收首破30亿美元,联合CEO透露多重信号
-
09.03
Anime Cadet Night Search Scene
游戏推荐
推荐专题
热门阅读
-
-
- 燕云十六声尚能饭成就攻略 成就尚能饭如何完成
- 07.18
-
-
- 燕云十六声帮我拍拍成就攻略 成就帮我拍拍如何完成
- 07.18
-
-
推荐下载
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏