人工智能导论
第 5 章 人工智能生成内容与大模型
第 5 章
人工智能生成内容与大模型
从会判断到会创造，这一章讲机器怎样写出文章、画出图像、听懂声音。
1
第一节 生成式 AI 的基本概念
11 页
从会判断到会创造，先弄懂几个基本词
01
章首
03
判别到生成
04
两类任务
05
基本定义
06
数据分布
07
隐空间
08
采样
09
概率建模
10
边界与风险
11
流程总结
12
生成质量
2
第二节 生成式 AI 能做什么
7 页
文字、图片、视频、代码，还有科学研究
13
文生图
14
文生视频
15
文生代码
16
看图与改图
17
图生视频
18
三维生成
19
科学研究
3
第三节 GAN 与 VAE
9 页
一个靠对抗练本事，一个靠压缩再还原
20
典型模型
22
共同套路
23
GAN
24
目标函数
25
GAN 变体
26
VAE
27
VAE 结构
28
训练目标
30
VAE 特点
4
第四节 扩散模型与自回归模型
7 页
今天画图和写字背后的两种主力方法
31
扩散模型
32
扩散公式
33
隐空间扩散
34
扩散变体
35
自回归
36
链式法则
37
四类对比
5
第五节 Transformer 与注意力机制
10 页
大语言模型的地基：每个词都看其他词
39
为何自回归
41
大语言模型
42
传话与开会
43
自注意力
44
Q、K、V
45
多头与位置
46
三种搭法
47
仅编码器
48
仅解码器
49
编码器解码器
6
第六节 大模型的规模、训练与使用
9 页
为什么越做越大，怎样训出来，怎样用好
50
规模定律
51
涌现能力
52
MoE
53
训练流程
54
预训练
55
指令微调
56
RLHF
57
提示与思维链
58
RAG 与工具
7
第七节 多模态大模型的架构
9 页
给语言模型接上眼睛、耳朵和手
59
多模态
61
MLLM
62
为何多模态
63
系统结构
64
四类架构
65
LLaVA
66
特征压缩
67
混合专家
68
VLA
8
第八节 多模态的训练与推理
9 页
分阶段怎样训练，用的时候怎样又准又快
69
训练策略
70
分阶段训练
71
数据质量
72
偏好对齐
73
推理方法
74
快慢思维
75
过程监督
76
无参优化
77
流式推理
保山学院
·
人工智能教研室
·
曹鼎鼎