AI 实践三要素

前六章讲原理，这一章讲怎样把项目做出来。

知道更多这一章讲什么

前面六章回答“AI 是怎么学会的”，这一章回答“一个 AI 项目怎样从零做到上线”。先讲数据、算力、算法三样准备，再依次动手做经典机器学习、深度学习、强化学习、大模型、部署和竞赛，最后看各行各业怎么用。

训练出模型只是一段，项目还要能复现、能上线、能改进。

重　点一条贯穿全章的流水线

数据采集、模型训练、效果评测、模型导出、模型部署、迭代优化，这六步首尾相接。后面几节的实践，大多落在这条线的某一段上。

关键术语

复现Reproduce

别人或者一个月后的自己，照同样的步骤能做出同样的结果。

部署Deploy

把训练好的模型放到服务器或设备上，让别人能够使用。

知道更多效果不好，先查什么

模型效果不好时，新手常急着换更复杂的模型。更常见的毛病是数据标错、切分漏题、评测方法不对，这些要先查。

每走一步都留下记录，出了问题才查得回去。

数据、算力、算法三样要互相配得上。

打个比方

做一桌菜，数据是食材，算力是灶具，算法是菜谱。食材不新鲜，菜谱再好也做不出好菜。手边只有一个小电磁炉，就别照着大饭店的菜谱去炖一整锅。

重　点方案要看条件来选

手上有多少数据、能用什么机器、要解决什么问题，这三样一起决定了该选什么方法。

随堂练习

一个小组只有 200 张标好的照片和一台普通笔记本。哪种做法最合适？

1. 从零训练一个超大模型
2. 在别人训练好的小模型上稍作调整
3. 先买十张高端显卡
4. 不管数据，换最新的算法

查看答案

答案 B。数据少、算力小，从零训练大模型既跑不动也学不好。借用别人训练好的模型稍作调整，三样才配得上。

手上有数据，不等于能直接拿来训练。

重　点三条硬要求

程序每次都能正确读进来，同一个标签从头到尾是同一个意思，三份数据之间不漏题。缺了任何一条，后面的训练和评测都靠不住。

打个比方

请两位同学标注照片。一位把小猫也标成“猫”，另一位单独标成“小猫”。合在一起训练，模型看到的规则前后矛盾，怎么学都学不明白。这就是标签不一致。

知道更多数据要反复打磨

图中那条链的最后一环是回流优化：看模型错在哪些样本上，再回头补数据、改标注，一轮一轮地改进。

三份数据各管一件事，切法要看数据的来历。

测试集的信息偷偷流进训练，分数就会虚高。

四种硬件各有所长，要按手上的任务来挑。

出了问题先查显存和数据，别急着换模型。

关键术语

OOMOut Of Memory

内存或显存不够用，程序直接报错退出。

批大小Batch Size

一次送进显卡计算的样本数。批越大，占的显存越多。

打个比方

GPU 利用率低，像厨师站在灶台前干等，菜还没洗好切好。换一位更厉害的厨师没有用，要让洗菜切菜跟上。数据读得慢，显卡就只能空转。

随堂练习

训练时显卡利用率只有 20%，最先该查什么？

1. 换一张更贵的显卡
2. 数据读取和预处理是不是太慢
3. 把模型改得更大
4. 再加一张显卡

查看答案

答案 B。利用率低多半是数据供不上，显卡在等。多卡最贵也最难调，放在最后。

标签有多少、贵不贵，决定选哪一种学习方式。

关键术语

半监督学习Semi-Supervised Learning

少量有标签的数据加上大量没标签的数据一起学。

自监督学习Self-Supervised Learning

从数据本身造出练习题，比如遮住一个词让模型猜。第 4 章讲过。

弱监督学习Weakly Supervised Learning

标签不精确，比如只知道图里“有猫”，不知道猫在哪儿。

随堂练习

医院有十万张 X 光片，只有 500 张请医生标注过。最适合哪种学习方式？

1. 监督学习
2. 半监督学习
3. 强化学习
4. 无监督学习

查看答案

答案 B。少量有标签、大量没标签，正是半监督学习的用处。只用 500 张太浪费，完全不用标签又丢掉了医生的判断。

要选的东西很多，评测也不只看一个分数。

关键术语

拟合fit

很多机器学习软件里，开始训练的命令就叫 fit，意思是让模型去贴合数据。

学习率Learning Rate

第 2 章下山时每一步迈多大。预热是开头先迈小步，衰减是越往后步子越小。

重　点平均分会掩盖问题

整体准确率九成听着不错，可剩下一成的错如果全落在最要紧的那一类上，比如把重病判成健康，模型就不能用。评测要把错误拆开看。

打个比方

驾校总在同一个晴天、同一条路上考，你次次都能过。真上了路，遇到雨夜和学校门口，才发现还有很多没练过。长尾样本和关键切片，说的就是这些少见但要紧的情况。