KJNodes/memorygenerated

Model Memory Use Report Patch(ModelMemoryUseReportPatch)

该节点的技术实现是克隆输入的模型,并为克隆后的模型添加两个回调函数。

Model Memory Use Report Patch

model
MODEL
KJNodes

Model Memory Use Report Patch 节点,该节点的技术实现是克隆输入的模型,并为克隆后的模型添加两个回调函数。

Model Memory Use Report Patch 是一个实验性节点,用于监控和报告模型在采样过程中的显存使用情况。它通过在模型上添加回调函数,自动记录并输出显存消耗的峰值数据,帮助用户了解模型运行时的资源占用。

节点功能

该节点的技术实现是克隆输入的模型,并为克隆后的模型添加两个回调函数。一个函数在采样前重置 CUDA 显存统计计数器,另一个函数在采样结束后计算并记录峰值已分配显存和峰值预留显存。这些数据会以 GB 为单位,通过系统的日志功能输出。

节点参数说明 - Model Memory Use Report Patch

Inputs

参数名称数据类型必填默认值取值范围/选项说明
modelMODEL---

Outputs

参数名称数据类型说明
MODELMODEL-

使用场景

在调试或优化复杂工作流时,你可以将此节点插入到模型加载节点之后、采样器节点之前。例如,当你发现生成过程缓慢或出现显存不足错误时,使用此节点可以快速定位是哪个模型或哪一步采样操作消耗了最多的显存资源。

注意事项

此节点依赖于 PyTorch 的 CUDA 内存管理接口,因此仅在启用 CUDA 的 GPU 环境下有效。它输出的是修改后的模型副本,不会影响原始模型。

Model Memory Use Report Patch 节点源码链接

Model Memory Use Report Patch 节点来自 ComfyUI-KJNodes 节点包。

评论

使用 GitHub 登录后即可参与讨论。

评论加载中…