AX 爱鲜报

Stable Diffusion

Stable Diffusion 是 CompVis 团队开源的潜空间文本到图像扩散模型,基于 CLIP 文本编码器与 860M UNet,可在 10GB 显存以上的 GPU 上根据文字提示生成 512x512 图像,是 AIGC 图像生成领域的奠基性项目。

爱鲜报评分

0.0

0 人评分

74k

星数

否

中文

Jupyter Notebook

主语言

是

活跃

8

贡献者

人工分析

EDITORIAL

推荐理由

作为文本生成图像的开山之作,Stable Diffusion 的论文、权重与参考采样脚本全部公开,是理解扩散模型与 AIGC 原理的最佳入口。虽然当前主流使用已转向 diffusers、ComfyUI 等生态,但原始仓库仍是复现研究与二次开发的重要基准。

适用场景

  • AIGC 文本生成图像研究与复现
  • 扩散模型原理学习与教学演示
  • 本地部署文生图推理脚本
  • 作为二次开发与模型微调的基线
  • 对比不同采样器与 guidance scale 效果

优点

  • 官方原始实现,论文与代码对应清晰
  • 模型权重公开,社区生态极其庞大
  • 显存门槛相对友好,10GB 即可运行
  • 提供参考采样脚本、安全过滤与水印机制
  • 衍生工具与教程丰富,问题容易检索

缺点

  • 仓库已基本停止更新,官方推荐转向 diffusers
  • 依赖版本较旧,环境配置容易踩坑
  • 权重需自行下载并手动建立软链接
  • 生成结果存在数据偏见,商用需谨慎评估
  • 仅支持英文提示词效果最佳
上手难度 进阶

Stable Diffusion 简介

Stable Diffusion 是由 CompVis 团队联合 Stability AI、Runway 推出的潜空间文本到图像扩散模型,论文《High-Resolution Image Synthesis with Latent Diffusion Models》发表于 CVPR 2022。它使用冻结的 CLIP ViT-L/14 文本编码器理解提示词,在潜空间中进行扩散去噪,最终解码为 512x512 图像。

模型结构

  • 下采样因子为 8 的自编码器
  • 860M 参数的 UNet 主干
  • 123M 参数的 CLIP ViT-L/14 文本编码器

整体较为轻量,在至少 10GB 显存的 GPU 上即可推理。

版本与权重

仓库提供 v1.1 至 v1.4 多个 checkpoint,训练数据来自 LAION-5B 子集,v1.3 与 v1.4 通过 10% 文本条件丢弃提升了 classifier-free guidance 采样效果。权重托管于 Hugging Face 的 CompVis 组织下,采用 CreativeML OpenRAIL M 许可,允许商用但附带使用限制。

快速上手思路

  1. 使用仓库提供的 environment.yaml 创建并激活 conda 环境;
  2. 下载对应权重并链接到 models/ldm/stable-diffusion-v1/model.ckpt;
  3. 运行参考采样脚本生成图像:
python scripts/txt2img.py --prompt "a photograph of an astronaut riding a horse" --plms

脚本默认使用 PLMS 采样器、guidance scale 7.5、50 步、512x512 分辨率,并内置安全过滤模块与不可见水印,便于识别机器生成图像。

注意事项

  • 官方已建议新项目优先使用 diffusers 集成,本仓库更多作为参考实现;
  • 模型会继承训练数据中的偏见,商用前应评估风险并增加安全机制;
  • 依赖版本较旧,环境安装时需留意兼容性问题。

评论

登录后才可评论与评分

0 条评论

  • 暂无评论,来写第一条吧。