End Recording CUDAMemory History(EndRecordCUDAMemoryHistory)
Этот узел технически реализован через вызов функции PyTorch torch。
End Record CUDA Memory History
Узел End Recording CUDAMemory History используется для остановки записи и сохранения снимка истории памяти CUDA. Обычно он используется в паре с узлом, начинающим запись, для захвата событий выделения и освобождения памяти GPU, происходящих между ними, и сохранения данных в файл. Этот узел предназначен для помощи пользователям в анализе и визуализации использования памяти GPU в рабочих процессах глубокого обучения.
Функциональность узла
Технически этот узел генерирует файл снимка памяти, вызывая функцию PyTorch torch.cuda.memory._dump_snapshot(). Он сначала очищает кэш, а затем создает файл .pt с временной меткой. Этот формат файла совместим с официальным инструментом визуализации памяти PyTorch и может быть использован для последующего глубокого анализа.
Описание параметров узла - End Recording CUDAMemory History
Входные соединения (Inputs)
| Параметр | Тип данных | Обязательный | По умолчанию | Диапазон/Опции | Описание |
|---|---|---|---|---|---|
input | COMBO | Да | - | - | Передает полученные входные данные без изменений, сохраняя связность рабочего процесса. |
Параметры элементов управления (Parameters)
| Параметр | Тип данных | Обязательный | По умолчанию | Диапазон/Опции | Описание |
|---|---|---|---|---|---|
output_path | STRING | Да | comfy_cuda_memory_history | - | Полный путь к итоговому сгенерированному файлу снимка памяти. |
Выходные данные (Output)
| Параметр | Тип данных | Описание |
|---|---|---|
| input | ANY | Передает полученные входные данные без изменений, сохраняя связность рабочего процесса. |
| output_path | STRING | Полный путь к итоговому сгенерированному файлу снимка памяти. |
Сценарии использования
При отладке сложных рабочих процессов или больших моделей вы можете разместить этот узел после последовательности узлов, которые могут потреблять значительный объем памяти GPU. Например, подключение этого узла в конце рабочего процесса, содержащего несколько шагов генерации и увеличения разрешения изображений высокого разрешения, позволяет захватить колебания памяти в течение всего процесса генерации, что помогает выявить утечки памяти или оптимизировать размер пакета.
Важные замечания
Следует отметить, что частое создание снимков памяти может незначительно повлиять на производительность, поэтому рекомендуется использовать эту функцию только при необходимости отладки. Сгенерированный файл снимка содержит состояние памяти в определенный момент времени, и для его интерпретации требуются специальные инструменты (например, PyTorch Memory Viz) или соответствующие узлы визуализации.
Ссылка на исходный код узла End Recording CUDAMemory History
Узел End Recording CUDAMemory History взят из пакета узлов ComfyUI-KJNodes.
Комментарии
Войдите через GitHub, чтобы участвовать в обсуждении.