1、Stable Diffusion模型简介

    上一文中《[Stable Diffusion绘图神器,2分钟极速安装教程!(提供安装包)-CSDN博客](https://blog.csdn.net/meijinbo/article/details/136718924 "Stable Diffusion绘图神器,2分钟极速安装教程!(提供安装包)-CSDN博客")》,给大家介绍了Stable Diffusion的安装方法和简单的使用方式,有粉丝私信问我文中的写实风格的图片是怎么生成的。

    Stable Diffusion的绘图风格主要由模型来控制,基础模型主要由二次元图片训练获得,所以在不安装其他模型的情况下,只能生成二次元风格的图像。

   首先我们需要对Stable Diffusion中各种模型有个初步认识,以便后续在使用时能知道我们需要下载什么样的模型,在Stable Diffusion中有4种模型,分别是:

 2、SD模型分类和作用

2.1、Checkpoint模型

    Checkpoint模型是Stable Diffusion的核心。它包含了神经网络的所有权重和参数,是生成图像的基础。这些模型通常体积较大,因为它们包含了大量的参数,这些参数是在大量图像数据上训练得到的。通过微调这些参数,可以对模型进行改进,以生成具有特定风格的图像。微调Checkpoint模型的方法有多种,包括附加训练、Dreambooth和文本反转等。

    这种模型通常很大,在2-7GB之间,也是比较常用的一种模型。
  • 附加训练

    附加训练是一种微调技术,它通过在已有的Checkpoint模型基础上,使用新的数据集进行训练。这种方法可以帮助模型更好地适应特定的图像风格或内容,从而生成更符合用户需求的图像。
    
  • Dreambooth

    Dreambooth是另一种微调Checkpoint模型的方法。它允许用户将自定义的主题或对象注入到模型中,从而生成与该主题或对象相关的图像。这种方法特别适用于那些想要生成具有特定主题或对象的用户,而且它只需要少量的自定义图像就可以实现。
    
  • 文本反转(embedding)

    文本反转是一种通过修改模型的嵌入空间(embedding space)来实现微调的方法。嵌入空间是模型用来表示文本和图像特征的空间。通过修改这个空间中的特定部分,可以影响模型生成图像的方式,使其更符合用户的期望。这种方法同样只需要少量的示例就可以实现。
    

2.2、LoRA模型

    LoRA模型是一种轻量级的微调方法。与直接修改Checkpoint模型的参数不同,LoRA模型通过添加一些小的补丁文件来修改模型的输出。这些补丁文件通常体积较小,可以与Checkpoint模型一起使用,而不需要对整个模型进行大量的修改。

2.3、Hypernetworks

    Hypernetworks是一种特殊的网络结构,它可以被添加到Checkpoint模型中。Hypernetworks不是直接生成图像,而是生成其他网络的权重。通过这种方式,它们可以为Checkpoint模型提供额外的灵活性,使其能够根据不同的输入生成不同的图像。

2.4、VAE

    VAE是一种将特定风格或属性集成到Checkpoint模型中的方法。它可以被看作是一种特殊的微调技术,用于向模型注入某种风格或属性。一旦AVE被集成到checkpoint中,它就可以像滤镜一样作用于生成的图像,使其呈现出特定的风格或特征。

    这些模型和微调技术为Stable Diffusion用户提供了广泛的灵活性,使用户可以根据自己的需求定制和改进模型,生成更符合期望的图像。

    在实际使用过程中我们主要使用到模型类型有:**Checkpoint模型、LORA、VAE**等类型。

3、SD模型下载

     对模型有了初步认识后,我们急需知道在哪里可以下载模型,以下是三个是我下载Stable Diffusion模型的常用网站,前两个是国内的,已经够用,最后一个是国外的,需要梯子,上面的模型和生成的图片都非常丰富,生成的图片内容没有限制:
  • 哩布哩布AI: 在LiblibAI上,你可以找到由社区成员上传和分享的多种Stable Diffusion模型。这些模型可能涵盖了不同的风格、主题和用途,以满足用户多样化的需求。你可以根据自己的创作目的和风格偏好,在平台上搜索和筛选适合的模型。

liblib.ai

  • 吐司:这是一个大型的国内模型资源库,网站收录模型数以万计,几乎涵盖所有流行模型及小众模型。大部分模型来源于其他分享网站,如Civitai,因此用户可以在这里找到丰富的Stable Diffusion模型资源。

tusiart.com

  • Civitai:这是一个大型的SD模型分享社区,提供了大量高质量的模型文件。用户可以在这里找到各种精选的模型,这些模型由全球众多热爱艺术的创作者上传并分享。这是一个国外网站,需要梯子,有梯子的可以试试,上面的模型非常多,福利图片也很多。

4、SD模型安装

    模型的安装非常简单,我们下载模型后,根据模型的类型放到对应的目录,重启程序或者刷新软件界面上的对应按钮就可以了,下面这个截图是几个常用模型安装的目录:

SD模型安装目录

    模型安装后对应到界面上的位置如下:

基础大模型和VAE模型

LORA模型

至此,Stable Diffusion模型的下载和安装已经完成,有什么疑问可以私信或者留言!

这里直接将该软件分享出来给大家吧~

1.stable diffusion安装包

随着技术的迭代,目前 Stable Diffusion 已经能够生成非常艺术化的图片了,完全有赶超人类的架势,已经有不少工作被这类服务替代,比如制作一个 logo 图片,画一张虚拟老婆照片,画质堪比相机。

最新 Stable Diffusion 除了有win多个版本,就算说底端的显卡也能玩了哦!此外还带来了Mac版本,仅支持macOS 12.3或更高版本

在这里插入图片描述

2.stable diffusion视频合集

我们在学习的时候,往往书籍源码难以理解,阅读困难,这时候视频教程教程是就很适合了,生动形象加上案例实战,一步步带你入坑stable diffusion,科学有趣才能更方便的学习下去。

在这里插入图片描述

3.stable diffusion模型下载

stable diffusion往往一开始使用时图片等无法达到理想的生成效果,这时则需要通过使用大量训练数据,调整模型的超参数(如学习率、训练轮数、模型大小等),可以使得模型更好地适应数据集,并生成更加真实、准确、高质量的图像。

在这里插入图片描述

4.stable diffusion提示词

提示词是构建由文本到图像模型解释和理解的单词的过程。可以把它理解为你告诉 AI 模型要画什么而需要说的语言,整个SD学习过程中都离不开这本提示词手册。

在这里插入图片描述

5.SD从0到落地实战演练

在这里插入图片描述

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名SD大神的正确特征了。

这份完整版的stable diffusion资料我已经打包好,需要的点击下方插件,即可前往免费领取!

在这里插入图片描述

Logo

火山引擎开发者社区是火山引擎打造的AI技术生态平台,聚焦Agent与大模型开发,提供豆包系列模型(图像/视频/视觉)、智能分析与会话工具,并配套评测集、动手实验室及行业案例库。社区通过技术沙龙、挑战赛等活动促进开发者成长,新用户可领50万Tokens权益,助力构建智能应用。

更多推荐