ControlNet v1.0 for SD 1.5
著者: lllyasviel
GitHubリポジトリ:https://github.com/lllyasviel/ControlNet
Hugging Faceリポジトリ:https://huggingface.co/lllyasviel/ControlNet/tree/main
対応するStable Diffusionバージョン: stable diffusion SD1.5,2.0
こちらは、ControlNetのオリジナル作者lllyasvielによって提供された初期モデルリソースのまとめです。
ControlNet v1.0 モデルファイルとダウンロードリンク
ファイル名 | サイズ | 更新日 | 説明 | ダウンロードリンク |
---|---|---|---|---|
control_sd15_canny.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_depth.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_hed.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_mlsd.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_normal.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_openpose.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_scribble.pth | 5.71 GB | 2023年2月 | ダウンロードリンク | |
control_sd15_seg.pth | 5.71 GB | 2023年2月 | ダウンロードリンク |
ComfyUIでのControlNetモデルの使用方法
ControlNetモデルの使用方法は、以下の記事で詳しく説明されています:
この記事では以下のトピックをカバーします:
- ComfyUIでのControlNetモデルのインストール方法
- ComfyUIでのControlNetモデルの呼び出し方法
- ComfyUI ControlNetのワークフローと例
- 複数のControlNetモデルの使用方法など
ControlNetの原理
ControlNetの基本原理は、追加の制御条件を加えることで拡散モデルが画像を生成する際のガイドとなることです。具体的には、元のニューラルネットワークを「ロックされた」コピーと「トレーニング可能な」コピーの2つのバージョンに複製します。使用中、トレーニング可能なコピーは新しい制御条件に応じて学習と調整を行い、ロックされたコピーは元の重みを変更せずに保持し、拡散モデル自体の生成効果が影響を受けないようにします。
ControlNetの使用例
Stable Diffusion ControlNet 1.0は、さまざまな条件を通じて画像生成を制御できる強力なプラグインです。異なるタイプの画像生成タスクにおいて、このプラグインは柔軟に適用され、望ましい効果を達成することができます。以下にいくつかの具体的な応用方法を示します:
-
正確な画像制御 ControlNetは、エッジ検出、スケッチ処理、または人間のポーズなどの条件に基づいて画像生成を制御できます。例えば、特定の部分の詳細な描写が必要な場合、これらの条件を定義することで正確な画像生成が可能です。
-
固定された構図とポーズの定義 ControlNetを使用すると、画像の構図を固定し、ポーズを定義することができ、期待に応じた画像を生成できます。これは、特定のアクションやポーズを必要とするキャラクターデザインに特に有用です。
-
輪郭描画と線画生成 ControlNetを使用すると、単なる線画から豊かで精巧なイラストを生成できます。これは、シンプルな線から複雑な画像を構築する際に、芸術的な創作において非常に実用的です。
-
ポートレートからアニメスタイルへの変換 ControlNetは、実際のポートレートをアニメスタイルに変換することもでき、元の画像のキャラクターの髪型や髪色を正確に再現します。この機能は、アニメ制作やキャラクターデザインに非常に役立ちます。