第七十四集:IPAdapter节点详解

目录

视频教程

 

 

图文教学

 

IPAdapter可以根据加载的素材图片,参考图片的配色、色调、画风、画中的事物

创建出新图片,使画中事物仍然和原图的相似性

这在很多时候比我们通过提示词描述一张照片要靠谱多了

比如:在我不填写任何正面提示词的情况下,通过IPAdapter就可以生成和原图非常相似的图片

第七十四集:IPAdapter节点详解

有聪明的同学可能发现这和图生图有什么区别

他们完全不是一回事

图生图的原理是通过将参考的图片变模糊然后采样去噪的过程

而IPAdapter是通过CLIP视觉获得参考图像的信息,变成相当于提示词部分进行绘制图片

IPAdapter主要节点

1.【IP适配应用】

通过大模型、CLIP视觉模型和IP适配模型提取参考图片的信息通过模型交给采样器采样

第七十四集:IPAdapter节点详解

 

输入:

  • IP适配:输入预训练的模型,通常可以接入【IP适配模型加载器】
  • CLIP视觉:输入CLIP视觉模型,通常可以接入【CLIP视觉加载器】

 

第七十四集:IPAdapter节点详解

 

  • 图像:我们的参考图像
  • 模型:加载我们大模型,通常接入【Checkpoint加载器(简易)】

 

输出模型,通常接【K采样器】

组件:

  • 权重:值-1~3,决定参考图像的权重,值越大权重越高,和参考图越相似,通常将权重值降低到0.8有不错的效果
  • 噪波增强:相当于将参考图像+一个噪波图,数值越大噪波图的噪点越多,提取到的参考图像信息越少,噪波参数是IPAdapter模型的实验开发,可以将其设置为低至0.01,这样可以获得更好的结果

第七十四集:IPAdapter节点详解

  • 权重类型:可以选择IPAdapter权重应用于图像嵌入的方式

original:权重应用于聚合张量,对于不等于1的值,权重可起预测作用

线性:在对单个张量进行聚合之前,将权重应用于它们,与“original”相比,当权重<1时,影响较弱,当权重>1时,则影响较强,注:权重为1时,两种方法等效

channel penalty:此方法是Fooocus的修改版本,结果有时更鲜明,当权重>1时,它也能很好地工作,仍处于试验阶段,未来可能会发生变化

第七十四集:IPAdapter节点详解

 

  • 开始应用位置/结束应用位置:可以设置起点和终点,IPAdapter将仅在该生成时间段内应用,这是一个非常强大的工具来调节IPAdapter模型的智能性

 

第七十四集:IPAdapter节点详解

 

2.【IP适配模型加载器】

【IP适配模型加载器】用于加载预训练模型

SD1.5预训练模型:

  • ip-adapter_sd15
  • ip-adapter_sd15_light:当文本提示比参考图像更重要时使用此选项
  • ip-adapter-plus_sd15:比ip-adapter_sd15更接近参考图
  • ip-adapter-plus-face_sd15:提取面部详细信息
  • ip-adapter-full-face_sd15:提取头部详细信息
  • ip-adapter_sd15_vit-G:该模型可以使用SD1.5视觉模型和SDXL视觉模型

SDXL预训练模型:

  • ip-adapter_sdxl
  • ip-adapter_sdxl_vit-h.bin :尽管该模型用于SDXL大模型,但仍需要使用SD1.5视觉模型
  • ip-adapter-plus_sdxl_vit-h:和上面一样,需要使用SD1.5视觉模型
  • ip-adapter-plus-face_sdxl_vit-h:和上面一样,需要使用SD1.5视觉模型

 

第七十四集:IPAdapter节点详解

 

  • 所有VIT-H预训练模型都需要使用SD1.5视觉模型,只有VIT-G可以使用SDXL和SD1.5视觉模型

 

3.【CLIP视觉加载器】

【CLIP视觉加载器】加载图像编辑器模型

  • SD 1.5模型(也适用于以vit-h结尾的所有预训练模型)
  • SDXL模型

 

4.【CLIP视觉图像处理】

第七十四集:IPAdapter节点详解

IPAdapter在处理图片的时候会将图片裁剪成正方形图片进行绘制

所以我们在选择参考图的时候尽量使用正方形图片

如果是其他尺寸的图像就可以使用【CLIP视觉图像处理】

【CLIP视觉图像处理】自动将图像处理成正方形

并提供了几种裁剪位置:

  • 上:裁剪参考图上部分内容(一般用于竖图)
  • 下:裁剪参考图下部分内容(一般用于竖图)
  • 左:裁剪参考图左边部分内容(一般用于横图)
  • 右:裁剪参考图右边部分内容(一般用于横图)
  • 中心:从图片中心位置裁剪周围多余部分
  • 拉伸:不裁剪,直接拉伸图片成正方形,容易变形一般不建议使用

 

所有IPAdapter节点新建位置:“新建节点”-->“IP适配”-->需要的节点

峰上智行-您AI学习路上的指引者!

weinxin
我的微信
我的微信
微信扫一扫