NABLA Attention KJ (NABLA_AttentionKJ) - ComfyUI-KJNodes

NABLA Attention KJ节点通过覆写模型的注意力计算函数来实现其功能，具体使用了NABLA稀疏注意力算法。

NABLA Attention KJ是一个实验性节点，用于修改视频生成模型的注意力机制。其核心功能是为模型应用NABLA稀疏注意力，旨在优化视频生成过程中的内存使用和计算效率。

节点功能

此节点通过覆写模型的注意力计算函数来实现其功能，具体使用了NABLA稀疏注意力算法。它需要较新版本的PyTorch以支持flex_attention模块，并且目前主要适配Kadinsky5视频模型。其内部机制会根据提供的Latent形状和窗口参数，动态生成一个稀疏注意力遮罩，以限制注意力计算的范围。

节点参数说明 - NABLA Attention KJ

连接输入

参数名称	数据类型	必填	默认值	取值范围/选项	描述
`model`	MODEL	是	-	-	需要修改注意力机制的基础模型。此参数用于接收一个标准的生成模型，节点将对其内部注意力计算方法进行覆写。
`latent`	LATENT	是	-	-	仅用于获取Latent形状

控制参数

参数名称	数据类型	必填	默认值	取值范围/选项	描述
`window_time`	INT	是	11	≥ 1	时间注意力窗口大小
`window_width`	INT	是	3	≥ 1	空间注意力窗口大小
`window_height`	INT	是	3	≥ 1	空间注意力窗口大小
`sparsity`	FLOAT	是	0.9	0.0 – 1.0 (步长: 0.01)	控制注意力稀疏程度的参数，取值范围0.0到1.0，步长0.01。值越高表示注意力越稀疏，计算时忽略的关联性越多。
`torch_compile`	BOOLEAN	是	True	-	很可能需要以合理使用内存

输出

参数名称	数据类型	描述
MODEL	MODEL	应用了NABLA稀疏注意力的新模型。此输出模型可用于后续的图像或视频生成步骤。

使用场景

在生成连贯视频序列的工作流中，你可以将此节点插入到模型加载节点之后。通过调整时间窗口和空间窗口的大小，可以控制模型在生成视频帧时，关注过去多少帧以及每帧内多大的区域，从而在保证时序连贯性的同时减少计算负担。

注意事项

请注意，这是一个实验性节点，其稳定性和兼容性可能有限。它明确要求较新版本的PyTorch，并且目前仅已确认与Kadinsky5模型配合工作。在其他模型上使用可能导致错误或不可预期的结果。

NABLA Attention KJ节点源码链接

NABLA Attention KJ 节点来自ComfyUI-KJNodes节点包。

NABLA Attention KJ(NABLA_AttentionKJ)

NABLA Attention KJ