第 1 章 · 约 18 分钟

文生图是什么

你在 Midjourney 里敲一句话,10 秒后得到一张高清图。 这背后的技术不是一夜冒出来的 —— 它是过去 12 年好几代人的工作堆出来的。 这一章先用一张图带你看全貌。

① 一张图看完 12 年演化

2014 年 GAN 横空出世到 2026 年 Flux 让人人都能玩 —— 中间发生了什么?

🛤 文生图 12 年演化路线

点任一站,看这一代是什么、解决了什么、留下什么问题。 下面的"画质条"是大致示意 —— 让你看出每一代相对前代的跃升。

画质示意(每代相对前代的提升)
GAN
2014
35
VAE
2013-2016
25
Diffusion
2020
70
SD / DALL-E 2
2022
82
Midjourney
2023
92
Flux
2024-2026
96

※ 画质评分仅为示意,让你看出"跃升关系",不是严格基准。CLIP 不直接生成图,所以没分数。

2022
Stable Diffusion / DALL-E 2

CLIP + 扩散 + Latent 压缩 = 人人能跑

这到底是什么?

Stable Diffusion(稳定扩散)2022 年由 Stability AI 开源发布,第一次让普通人能在自己的显卡上跑文生图模型。它的关键创新是 Latent Diffusion ——不在像素上扩散,先用 VAE 压成 latent(潜空间)再扩散,显存降到 1/64。同年 DALL-E 2 也发布了,但闭源。

✨ 突破

开源 + 能在消费级显卡跑(8GB 显存就够),引爆了全球开源 AI 艺术社区。Stable Diffusion → ComfyUI → 各种 LoRA / ControlNet 生态都从这开始。

⚠️ 留下什么问题

手指还是经常画错,文字内容渲染不准,复杂构图能力有限。

代表作 / 案例

SD 1.5、SD 2.0、SDXL 是这条线的代表作;同期 DALL-E 2 把质量推到新高度但不开源。

💡 规律:每一代都解决前代的问题。GAN 训练难 → VAE 训练稳但糊 → 扩散稳又好但慢 → Latent Diffusion 又快又省 → CLIP 接上文字 → Transformer 架构再翻一倍效果。

② 现在的文生图,到底是怎么"画图"的?

以前你以为 AI"画图"是这样的:一笔一笔从空白画布画出图 —— 像人类画家那样。 其实完全不是。现代的文生图模型(扩散模型)的工作方式更接近:从一团雪花里"看出"一张图

听上去玄乎,但你看下面这个动画就明白了:选一个 prompt,按"自动播放"。

🌫️ 从一堆雪花到一张图

这是扩散模型生成图像的核心过程:从一团纯噪声出发,根据文字提示一步步"去噪",最终画出清晰图像。 选一个 prompt,按播放看完整过程。

① 输入:文字
"一只戴墨镜的橘猫"
CLIP 把它编码成一个向量 → 喂给扩散网络当条件
步骤 0/8噪声 100%
② 当前状态
🌫️ 纯噪声
一团完全随机的彩色雪花,没有任何内容。
纯噪声← 去噪过程 →清晰图

💡 真实模型一般做 20-50 步去噪(这里简化成 8 步)。每一步都用同一个神经网络 —— 给它"当前还有点噪声的图 + 文字描述",它输出"应该减去的噪声"。后续章节会讲这个网络具体怎么训练、文字怎么影响每一步。

每一步都是同一个神经网络在工作 —— 输入"还有点噪声的图 + 你的文字提示",输出"该减掉哪些噪声"。 反复几十步,就从纯雪花变出一张图。这就是扩散模型(Diffusion Model)

③ 文生图 vs 大语言模型,差在哪

如果你学过LLM 原理课, 会发现文生图和 LLM 有几个根本不同:

维度大语言模型(LLM)文生图(Diffusion)
数据形式离散 token连续像素 / latent 向量
生成方式一个 token 一个 token 往后蹦从噪声反复去噪,整张图同时改
步数输出多长就多少步固定 20-50 步
输出文字 / 代码图像 / 视频 / 3D
采样核心参数temperature / top-pCFG(无分类器引导) / 调度器

但有一点是共通的 —— 现代的文生图模型骨架(Flux / SD3)开始用Transformer, 跟 LLM 是同一种东西,只是处理的不是文字 token 而是图像 patch。 这叫 DiT(Diffusion Transformer,扩散版 Transformer)

④ 这本书后面要讲的

  1. 扩散模型的核心:加噪与去噪的具体机制(第 2 章)
  2. 文字怎么"指挥"图像:CLIP + cross-attention(第 3 章)
  3. Stable Diffusion 怎么省钱:Latent Diffusion(第 4 章)
  4. 采样参数:步数 / 调度器 / CFG(第 5 章)
  5. 精细控制:ControlNet / LoRA / IP-Adapter(第 6 章)
  6. 从图像到视频和 3D:Sora / 可灵 / 3D Gaussian(第 7 章)
  7. 实战:本地跑 ComfyUI + 调出好图(第 8 章)

⑤ 检验理解

Q1.现代文生图模型(Stable Diffusion / Midjourney / Flux)的核心思路是?
Q2.CLIP 在 Stable Diffusion 里扮演什么角色?
Q3.Stable Diffusion 跟之前的扩散模型相比,最关键的创新是?
登录后可以给这节课打分、留反馈 —— 帮我们持续改进。