Hugging Face·发布时间:
文本diffusers 修复 Cosmos3 FP8 张量并行报错
[Bugfix] Fix Cosmos3 FP8 tensor parallelism (#14921)
内容导读
diffusers 的这次补丁修复 Cosmos3 FP8 在张量并行时的属性报错;张量并行是将模型张量拆分到多个设备处理。改动让分区逻辑仅处理线性层,跳过 ModelOpt 量化器子模块,避免因 TensorQuantizer 缺少 weight 属性而报错。
来源:Hugging Face · github.com