人工智能导论 第 1 章 · 第三节
课程第 1 章第三节 成熟度曲线八项技术边缘AI负责任AI降本与幻觉具身智能AI仿真世界模型量子AI通用人工智能大模型幻觉泛化性能能耗危机数据供给本章小结课后交流
第 1 章 绪论 · 第三节

发展现状与挑战

技术走到了哪一步,还差些什么
本 节 知 识 点
  1. 21技术成熟度曲线
  2. 22代表性技术成熟度
  3. 23边缘 AI
  4. 24负责任 AI
  5. 25AI 生成内容:成本与幻觉
  6. 26具身智能
  7. 27AI 仿真
  8. 28世界模型
  9. 29量子 AI
  10. 30通用人工智能
  11. 31大模型幻觉
  12. 32泛化性能
  13. 33能耗危机
  14. 34数据供给
  15. 35小结
  16. 36课后欢迎交流
21
第 1 章 · 第三节

技术成熟度曲线

一项新技术总是先被高估,再被低估,最后才被正确对待。

第 21 页课件

关键术语

技术成熟度曲线Hype Cycle
描述一项新技术从出现到成熟所经历的公众预期变化,分为创新触发期、期望膨胀期、幻灭低谷期、复苏斜坡期、生产力平稳期五个阶段。

重 点真正的活是在低谷里干的

曲线冲到顶点靠的是想象,跌到谷底靠的是实测。而产业化工作往往就是在谷底那段时间悄悄完成的。等技术真正好用了,公众已经不再谈论它,它就那样变成了日常的一部分。

打个比方

手机导航走的正是这条曲线。刚出来时被说成再也不会迷路,用了才发现经常把人带进小巷、遇到高架桥分不清上下层,被嘲笑了好几年。就在那几年里,地图数据在补全,定位精度在提高。今天没人专门夸导航好用,因为它已经不值得一提。

知道更多低谷不等于失败

一项技术能走到低谷,说明它已经被真实地使用过,暴露出来的都是具体的工程问题。那些从来没有进入过低谷的概念,多半是连被认真尝试的机会都还没得到。

想一想

你身边有没有哪个技术,刚出来时被吹得很神,现在反而没人提了?

22
第 1 章 · 第三节

代表性技术成熟度

同一时刻,不同技术分布在曲线的不同位置上。

第 22 页课件

重 点成熟时间是什么意思

表里的成熟时间指的是进入生产力平稳期的预计时间,不是说现在完全不能用。边缘 AI 虽然处在幻灭低谷期,工业质检的产线上早就在用了。

知道更多八项里有五项还在最前面

具身智能、AI 仿真、世界模型、量子 AI、通用人工智能都还处在创新触发期,说明这个领域的大部分事情都还在很靠前的位置。这一节接下来就按这张表逐项往下看。

知道更多阶段划分是对整体而言的

同一项技术在不同细分场景下的成熟度可以差很多。同样是 AI 生成内容,写文案已经相当好用,生成一段前后一致的长视频还很勉强。

想一想

表里这八项,你听说过几个?

23
第 1 章 · 第三节

边缘 AI

在云端训练,在设备上推理,再把数据传回云端改进模型。

第 23 页课件

关键术语

边缘人工智能Edge AI
把训练放在云端,把推理放在设备上,设备只回传少量结果用于改进模型,形成一个自主学习的闭环。

重 点图上两朵云的区别

左边是全部放在云端,设备要把大量数据传上去,图上标着高带宽需求。右边是模型下发到设备,设备自己算完只回传结果,标着低带宽需求。差别就在这里。

打个比方

类似餐饮连锁的中央厨房。菜品配方由总部研发,需要专业团队和实验设备,集中做最划算。炒菜必须在每家门店的灶台上完成,热菜没法从总部送过来。门店把顾客反馈汇总给总部改配方,就是数据回传这一步。

知道更多为什么非这么做不可

三个理由。产线质检要在零点几秒内出结果,等不起网络往返。医院的病人数据不宜上传。几万个摄像头都往云端传视频,带宽费用扛不住。

想一想

你手机上的人脸解锁,是在手机里算的,还是传到服务器上算的?

24
第 1 章 · 第三节

负责任 AI

算得准,不等于用得对。

第 24 页课件

关键术语

负责任人工智能Responsible AI
以安全、可靠和合乎道德的方式开发、评估和部署人工智能系统的一整套方法,核心是让 AI 贯彻人类的价值观和社会责任。

重 点图上右边那两个数字

六成七的求职者对 AI 筛选简历感到不安,九成希望企业调整使用 AI 的方式。一项技术能不能用,除了看它准不准,还要看被它影响的人接不接受。

打个比方一个算得很准却不该用的模型

一家公司用过去十年的招聘记录训练简历筛选模型,看起来很合理。但如果这十年录用的大多是男性,模型就会学到“男性简历更可能被录用”这条统计规律,并把它当作标准继续执行下去。

模型没有恶意,它只是忠实地复现了数据里的历史。

知道更多这类问题提高准确率解决不了

因为按照历史数据衡量,这个模型的准确率恰恰是很高的。负责任 AI 要处理的正是这种算得很准但用起来不对的情况。

想一想

如果一家公司用 AI 筛掉了你的简历,你希望它告诉你原因吗?

25
第 1 章 · 第三节

AI 生成内容:成本与幻觉

要走出低谷,得先把成本降下来,再把胡说八道管住。

第 25 页课件

关键术语

检索增强生成Retrieval-Augmented Generation
回答之前先去可信的资料库里检索相关内容,再让模型基于检索到的材料组织答案。

重 点右边那张流程图的关键在中间

用户提问之后,系统先去知识库检索,把查到的材料和问题一起交给大模型,模型再基于材料回答。模型从凭记忆答题变成了开卷考试

打个比方

模型出现幻觉时,像一个从来不肯说“我不知道”的学生。老师问他某本书第三章讲了什么,他其实没读过,但读过同类的书,于是编出一段听上去很像那么回事的内容,语气还相当笃定。

让他把书翻开对着念,问题就少了很多。

知道更多左边两张图是在算钱

同样的效果下,UltraMem 架构把推理速度提到最高六倍,访存次数降了十几倍。模型每回答一次都要消耗算力,用户规模一大,这笔账就压不住。

想一想

你有没有遇到过 AI 一本正经地告诉你一件根本不存在的事?

26
第 1 章 · 第三节

具身智能

大模型很聪明,但它待在服务器里,什么也做不了。

第 26 页课件

关键术语

具身智能Embodied Intelligence
具有物理身体,能通过感知与行动的闭环与真实世界交互,并在交互中学习和演化的人工智能系统。

打个比方一个博览群书却没出过门的人

他知道苹果是什么颜色、大概多重、削皮该用什么手法,但他从没真正拿起过一个苹果。

给他一双手和一双眼睛,他第一次拿苹果会用力过猛把它捏坏,几次之后才知道该用多大的力。书上写的“轻拿轻放”是一句话,而手上的分寸只能靠手自己去练。

知道更多这正是第二节说过的那件事

行为主义主张有些知识必须在与环境的互动中才能获得,写在书上传不过去。具身智能就是这个主张在今天的样子。

想一想

你会骑自行车,能把怎么保持平衡讲清楚给一个没骑过的人听吗?

27
第 1 章 · 第三节

AI 仿真

在计算机里把现实预演一遍,再拿到现实里去做。

第 27 页课件

关键术语

AI 仿真AI Simulation
把人工智能与传统仿真结合,构建数字化模型模拟真实系统的运行规律,实现对物理世界的动态复刻、预测分析与优化决策。

打个比方把风洞搬进计算机

过去设计一辆汽车的外形,要造出实物模型放进风洞里吹,一次试验的成本以百万计,一轮下来要好几天。有了 AI 仿真,改一个参数、算几分钟就能看到结果,一天可以试上千种方案。

重 点图上"技术瓶颈"那一句最要紧

仿真到真实的迁移成功率。计算机里的风和真实的风终究不一样,在虚拟环境里表现完美的方案,放到现实里常常失效,最后仍然需要拿少数几个方案去真实环境验证。

知道更多图上这个例子

上海“人工智能加气象”应用的“雨师”短临预警模型,能给出未来短时间内的降水预报。传统气象仿真要求解大量方程,用神经网络近似之后速度能快几个数量级。

想一想

游戏里的赛车和真车开起来,差别在哪?

28
第 1 章 · 第三节

世界模型

读万卷书解决懂不懂,行万里路解决会不会。

第 28 页课件

关键术语

世界模型World Model
用于模拟环境动态并预测未来状态的技术框架,需要具备生成性、多模态与互动性三项核心能力。

重 点图上这个对比很清楚

大语言模型读万卷书,擅长语义、会推理,但不懂物理规律,它不知道推杯子会掉、走路受重力影响。世界模型行万里路,理解物理世界、能预测动作的后果,所以能支撑 AI 去行动

打个比方

你把一只玻璃杯放在桌沿,不需要真的推它,就已经知道推下去会发生什么。这个“不用真做就知道结果”的能力,就是人脑里的世界模型。它让人可以在行动之前先在脑子里过一遍,从而避开大部分代价高昂的错误。

知道更多谷歌 Project Genie

输入一段文字或上传一张图片,几秒钟内就能生成一个可以进入探索的三维虚拟空间,而且在探索过程中场景保持前后一致。

想一想

你闭上眼睛,能想象出把桌上这本书推下去会发生什么吗?

29
第 1 章 · 第三节

量子 AI

两项都还很早的技术,已经开始互相帮忙。

第 29 页课件

关键术语

量子人工智能Quantum AI
量子计算与人工智能的结合体。既包括用量子计算机加速 AI 算法,也包括用 AI 技术优化量子系统的控制。

重 点这一页展示的是第二个方向

二〇二五年八月,中国科学技术大学的团队借助 AI 技术,在六十毫秒内构建了包含 2024 个原子的无缺陷量子计算阵列,刷新了世界纪录。AI 在这里承担的工作,是在极短时间内算出成千上万个原子应该怎么移动才能填满所有空位。

知道更多右边那几张蓝色的图

是重排之后的原子阵列,其中一张排成了 USTC 四个字母,也就是中国科学技术大学的英文缩写。

想一想

一项技术还要十年以上才成熟,现在了解它有意义吗?

30
第 1 章 · 第三节

通用人工智能

不必为每个新领域重新训练,这是"通用"两个字的含义。

第 30 页课件

关键术语

通用人工智能Artificial General Intelligence
具备像人类一样跨领域学习、推理与决策的能力,在广泛认知任务上达到或超越人类水平的人工智能系统。

重 点关键在通用这两个字

今天的模型换一个领域,往往要重新准备数据、重新训练。而人换一个领域,只需要学一学。这个差别就是 AGI 与现有模型最根本的区别。

知道更多图上这两个例子

左边是模拟动态的物理世界,用户能以第一人称视角进入参观,全程保持空间一致,说明它掌握了一部分世界运行的规律。右边是一步步生成从狐狸草图到最终手办形态的完整流程,体现的是长时程创作能力,也就是在很多步骤之后仍然记得最初的目标。

知道更多路还很不确定

研究者对于通往通用人工智能的技术路径尚未形成共识,对于怎么判断它已经实现也没有公认的标准。前面那张表把它放在十年以上,同时标为创新触发期,正是这种不确定性的体现。

想一想

你觉得机器要做到什么程度,才算得上“什么都会”?

31
第 1 章 · 第三节

大模型幻觉

它最麻烦的地方不是出错,而是出错时的语气和正确时一模一样。

第 31 页课件

关键术语

模型幻觉Hallucination
模型在生成内容时产生与事实不符、虚构或者具有误导性的信息。

重 点图上把它分成三类

事实性幻觉是虚构引用、错误数据,比如引用一篇根本不存在的文献。忠实性幻觉是推理越界、摘要失真,比如根据片面信息推出全局结论。结构性幻觉是代码逻辑错误、数据填充错误,比如循环引用导致代码死锁。

知道更多对策分三层

检验策略是联网搜索验证和双 AI 交叉检验。提示工程是限定知识边界、使用对抗性提示。技术架构是检索增强生成框架和精细化训练策略。作为使用者,前两层现在就能用上。

打个比方一句话就很管用

提问时补一句“如果资料里没有就直接说没有”,相当于事先允许它说“我不知道”。这一句往往比什么都有效。

想一想

你怎么判断 AI 给你的一段话是真的?

32
第 1 章 · 第三节

泛化性能

在见过的题上做得好不算本事,在没见过的题上做得好才算。

第 32 页课件

关键术语

泛化性能Generalization
模型对训练数据中未曾出现过的样本做出准确预测或决策的能力。
迁移学习Transfer Learning
把在源任务中学到的知识转移到目标任务上,让新任务不必从零开始。

重 点三张小图是三种状态

欠拟合是连训练数据都没学好。过拟合是把训练数据里的噪声也一起背了下来。中间那张才是抓住了趋势、忽略了噪声。

打个比方

欠拟合的学生上课没听懂,做过的题也不会。过拟合的学生把做过的每一道题连同答案一起背了下来,考原题满分,换个数字就不会了。拟合恰当的学生记住的是方法,题目变了照样能做。

知道更多右边讲的是迁移学习

把源任务里学到的知识搬到目标任务上,用少量数据也能训出可用的模型。难点在于两个任务的数据分布往往有差异,特征空间也可能对不上。

想一想

你复习考试的时候,是背题,还是练方法?

33
第 1 章 · 第三节

能耗危机

算力涨得比电网快,这是一道很现实的物理题。

第 33 页课件

重 点图上这几个数字

ChatGPT 每天响应大约两亿个请求,消耗超过五十万度电,相当于一万七千个美国家庭一天的用电总和。人工智能业务在全球数据中心用电量中的占比,正从百分之二涨向百分之十。

知道更多更要紧的是增速

人工智能数据中心的能源消耗增长速度,大约是电网新增电力速度的四倍。这种增长给电力基础设施造成了很大压力,也正在引起全球电力分配的结构性调整。

知道更多右边的三层对策

软件层面优化算法,训练更高效的专业模型,从源头省算力。硬件层面用液冷等先进技术加上 AI 自优化系统,降低数据中心能耗。能源保障层面发展长时可靠的储能技术,让算力中心用绿电并参与电网调度。

想一想

你问 AI 一个问题,猜猜大概要花掉多少电?

34
第 1 章 · 第三节

数据供给

最缺的不是数据,是那些几乎遇不到的场景的数据。

第 34 页课件

关键术语

合成数据Synthetic Data
用计算机精确模拟物理系统,批量生成多样化的稀有场景数据,用于机器人与自动驾驶系统的训练。

重 点三角形的三个角是三重限制

成本是计算资源与算力消耗,隐私是数据安全与合规性,多样性是数据覆盖场景不完整。三者一起卡住了高质量数据的供给。

打个比方一百万公里也遇不到的那一次

一套自动驾驶系统在路上跑了一百万公里,见过几万次红灯、几十万次变道,这些常见情况处理得很好。但它可能一次也没有遇到过有人推着钢琴横穿马路。

只要车还在路上跑,这类事情迟早会遇到一次,而那一次的后果可能极其严重。

知道更多真实世界里等不到,就造出来

合成数据要解决的正是这个矛盾。图上那些机器人画面就是合成出来的训练场景,可以让系统在上路之前先见过一万次。

想一想

你能想出一个走在路上极少见、但真遇上会很危险的情况吗?

35
第 1 章 · 第三节

小结

四条脉络,一个还没有答案的问题。

第 35 页课件

重 点本章走了四条主线

第一条是发展脉络,从达特茅斯会议到三起两落。第二条是三大技术流派的基本思想、代表方法和适用边界。第三条是总体技术发展现状,包括成熟度曲线、阶段划分和代表性技术。第四条是四个还没解决的问题。

知道更多复习时可以这样做

试着把这一章默写成一张图:左边一条时间线,中间三条技术路线,右边一条成熟度曲线加四个挑战。写不出来的那一块,就是需要回头再看的地方。

想一想本章思考题

大语言模型的幻觉问题在当前的学习范式下能否得到根本性解决?如何使它在保持创造力的同时确保事实准确性?

36
第 1 章 · 第三节

课后欢迎交流

第 1 章到这里。

第 36 页课件

知道更多接下来讲什么

下一章进入人工智能的数学基础,会用到高等数学、线性代数和概率统计里最基本的部分,重点是数据、模型、目标这三样东西怎么配合。

知道更多本章的课后要求

完成本章课后习题。另外查阅人工智能发展史资料,按时间顺序整理出你认为最关键的十个事件,每个事件写明年份、人物、做成了什么以及为什么重要。

想一想

这一章里,哪一页你觉得最难懂?

保山学院·人工智能教研室·曹鼎鼎