腾讯发布的一个ControlNet模型叫“IP-Adapter”,它的作用就是把上传的图像转化为图像提示词,简单的来说就是跟Midjourney的垫图功能差不多。

IP-Adapter能够精准地识别参考图的风格特征,并且可以很好的适配其他的模型以及ControlNet模型。

它还可以让图像提示词和文本提示词一起使用。

#01
/模型下载
在使用“IP-Adapter”之前,需要将自己的ControlNet更新到最新版本并且需要下载相关模型:

WebUI模型下载链接:
https://huggingface.co/lllyasviel/sd_control_collection/tree/main
ComfyUI模型下载链接:
https://huggingface.co/h94/IP-Adapter/tree/main
“IP-Adapter”不仅仅支持SD1.5模型还支持SDXL模型,通过以上的链接根据自己的需求下载对应的模型即可。
(SD1.5建议下载“ip_adapter_sd15_plus.pth ”)
#02
/风格迁移
1. 首先打开“Stable Diffusion”,上传一张参考图,然后“启用ControlNet ”并且勾选“完美像素模式 ”。

2. 控制类型选择“IP-Adapter
”,模型选择“ip_adapter_sd15_plus.pth
”也可以选择“ip_adapter_sd15.pth ”模型。

3. 设置完ControlNet之后,选择一个模型,提示词可以简单的写一些,也可以不写。

4. 根据自己的需求设置生成参数。尺寸建议跟参考图保持一样。

5. 设置完以上的参数之后,点击“生成”即可。

我们可以看到,原图的风格、色调、服装等等很好的迁移到了另一张图上。此外,这里还可以在“ControlNet Unit 1
”上传另一张图片,然后会把“ControlNet Unit 0
”的图片风格迁移到“ControlNet
Unit 1”的图片上。可以尝试按以下的操作:
1. 在“ControlNet Unit 1 ”上传另一张图片,然后点击“启用 ”并且勾选“完美像素模式 ”。

2. 控制类型选择“Canny
”,然后预处理器以及模型会默认给我们选上,其他的参数保持默认即可。

3. 设置好以上的参数后,点击“生成 ”即可。(前面的参数以及设置不变)。

我们可以看到“ControlNet Unit 0”的图片风格、色调、服装等等,很好的迁移到了“ControlNet Unit 1”上。
#03
/姿势控制
1. 首先打开“Stable Diffusion”,在“ControlNet Unit 0 ”上传一张参考图,然后“启用
”ControlNet并且勾选“完美像素模式 ”。

2. 控制类型选择“IP-Adapter ”,模型选择“ip_adapter_sd15_plus.pth
”也可以选择“ip_adapter_sd15.pth ”模型。

3. 点击“ControlNet Unit 1 ”上传一张姿势参考图,然后“启用 ”ControlNet并且勾选“完美像素模式
”。

4. 控制类型选择“OpenPose ”,预处理器选择“OpenPose_full ”。

5. 设置完ControlNet之后,选择一个模型,提示词可以简单的写一些,也可以不写。

6. 根据自己的需求设置生成参数。尺寸建议跟参考图保持一样。

7. 设置完以上的参数之后,点击“生成”即可。

#04
/报错
如果遇到报错,无法使用IP-Adapter:
“sd-webuiextensionssd-webui-controlnetannotatordownloadsclip_vision
”检查目录里有没有这两个模型:“clip_g.pth ”和“clip_h.pth ”,如果没有下载这两个模型然后放到对应的文件夹即可。

#05
/总结
IP-Adapter不仅仅可以用在照片上,还可以用在平面设计、室内设计、服装设计等等,来帮助我们实现更加多样化的创意,可以用到它的地方很多,至于还可以用到什么地方,这需要我们不断的尝试和探索,一旦掌握得当,它可以很好的提高我们的工作效率,并为我们带来无限的可能性。
AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。
最后
如果你是真正有耐心想花功夫学一门技术去改变现状,我可以把这套AI教程无偿分享给你,包含了AIGC资料包括AIGC入门学习思维导图、AIGC工具安装包、精品AIGC学习书籍手册、AI绘画视频教程、AIGC实战学习等。
这份完整版的AIGC资料我已经打包好,长按下方二维码,即可免费领取!

【AIGC所有方向的学习路线思维导图】

【AIGC工具库】

【精品AIGC学习书籍手册】

【AI绘画视频合集】

这份完整版的AIGC资料我已经打包好,长按下方二维码,即可免费领取!
文章来源于互联网:Stable Diffusion里的IP-Adapter, 图片风格迁移原来是这样用的。
相关推荐: LLMs之TorchServe :基于TorchServe 和 vLLM 部署和构建高效、可扩展的 LLM(比如Llama 3.1-70B)服务解决方案及其代码示例—将 vLLM 推理引擎全新地原生集
LLMs之TorchServe :基于TorchServe 和 vLLM 部署和构建高效、可扩展的 LLM(比如Llama 3.1-70B)服务解决方案及其代码示例—将 vLLM 推理引擎全新地原生集成到 TorchServe 中 导读:这篇博文介绍了如何使用…
5bei.cn大模型教程网










