KJNodes/model_loadersgenerated

Diffusion Model Loader KJ(DiffusionModelLoaderKJ)

该节点在加载模型时,提供了对权重数据类型和计算数据类型的精细控制,支持从 fp8 到 fp32 等多种精度格式

Diffusion Model Loader KJ

MODEL
model_name
COMBO
weight_dtype
COMBO
compute_dtype
default
patch_cublaslinear
sage_attention
0
enable_fp16_accumulation
extra_state_dict
STRING
KJNodes

Diffusion Model Loader KJ 节点在加载模型时,提供了对权重数据类型和计算数据类型的精细控制,支持从 fp8 到 fp32 等多种精度格式。

Diffusion Model Loader KJ 是一个用于加载和配置扩散模型(如 Stable Diffusion)的节点。其核心功能是从指定路径加载模型文件,并允许用户调整模型在运行时的数值精度和计算行为,以优化性能或兼容性。

节点功能

该节点在加载模型时,提供了对权重数据类型和计算数据类型的精细控制,支持从 fp8 到 fp32 等多种精度格式。其关键技术特性包括可选的 CublasLinear 补丁以利用特定 GPU 加速库、可集成 SageAttention 机制,并支持通过额外状态字典来合并或增强模型功能(例如为视频模型添加 VACE 模块)。

节点参数说明 - Diffusion Model Loader KJ

连接输入 (Inputs)

参数名称数据类型必填默认值取值范围/选项说明
model_nameCOMBO--选择要加载的扩散模型文件。该参数从 ComfyUI 管理的模型目录中列出所有可用模型。

控件参数 (Parameters)

参数名称数据类型必填默认值取值范围/选项说明
weight_dtypeCOMBOdefaultdefault, fp8_e4m3fn, fp8_e4m3fn_fast, fp8_e5m2, fp16, bf16, fp32用于平衡内存占用与计算精度。
compute_dtypeCOMBOdefaultdefault, fp16, bf16, fp32影响计算速度和数值稳定性。
patch_cublaslinearBOOLEANFalse-启用或禁用 cublas_ops 参数。
sage_attentionCOMBOFalsefalse, true将 Comfy 注意力机制打补丁以使用 SageAttn。
enable_fp16_accumulationBOOLEANFalse-启用 torch.backends.cuda.matmul.allow_fp16_accumulation,需要 PyTorch 2.7.0 nightly。
extra_state_dictSTRING--要加载的额外状态字典的完整路径,将与主状态字典合并。例如用于向 WanVideoModel 添加 VACE 模块。可使用 DiffusionModelSelector 轻松获取路径。

输出 (Output)

参数名称数据类型说明
MODELMODEL输出已加载并配置好的模型,供后续节点使用。

使用场景

在需要加载基础模型并应用特定优化或功能扩展的工作流中,此节点非常有用。例如,你可以先使用此节点加载一个 WanVideoModel,然后通过 extra_state_dict 参数为其合并一个 VACE 模块的状态字典,从而构建一个功能增强的视频生成模型。

注意事项

此节点属于实验性类别,部分功能(如 enable_fp16_accumulation)需要特定版本的 PyTorch(如 2.7.0 nightly)才能正常工作。在使用高级数据类型(如 fp8)或补丁功能前,请确保你的硬件和软件环境支持。

Diffusion Model Loader KJ 节点源码链接

Diffusion Model Loader KJ 节点来自 ComfyUI-KJNodes 节点包。

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…