人工智能导论 第 6 章 · 第三节
课程 › 第 6 章 › 第三节 四个环节感知状态四类信息状态建模知识推理链式推导工具辅助推理任务分解
第 6 章 智能体系统 · 第三节

感知、状态与推理规划

一个智能体怎样看清情况、想好步骤
本 节 知 识 点
  1. 22单智能体的四个环节
  2. 23感知:四条典型输入链路
  3. 24状态里装着哪四类信息
  4. 25状态建模与任务画像
  5. 26推理形态之一:基于知识的推理
  6. 27推理形态之二:链式推导
  7. 28推理形态之三:工具辅助推理
  8. 29任务分解与计划生成
22
第 6 章 · 第三节

单智能体的四个环节

看清情况、想好步骤、动手去做、检查改进,转成一个圈。

第 22 页 单智能体系统架构

一个智能体里,四个环节转成一个圈

① 感知与状态建模读群消息和课表,记下进度② 推理与规划拆成八件事,排好先后③ 决策与行动选出这一步,提交教室申请④ 反馈与学习教室被借走,改订另一间办一场班会
① ② 在第三节,③ ④ 在第四节。第五节多智能体的几个角色,也照着这个圈来分。

重 点四个环节各管什么

感知与状态建模弄清“现在是什么情况”。推理与规划想好“接下来怎么办”。决策与行动选出“这一步做什么”并去做。反馈与学习检查“做得对不对”,再加以改进。

打个比方

自己做一道菜也是这四步:看看冰箱里有什么,想好做什么菜、先做哪一步,动手切菜下锅,尝一口咸淡再调整。

23
第 6 章 · 第三节

感知:四条典型输入链路

文字、图像、声音、表格,四条路把外界信息送进来。

第 23 页课件

重 点四条链路各做什么

文本输入要读懂意思。视觉输入要认出图里有什么,右上图正在给街上的汽车、行人、自行车画框,标上名字。听觉输入要把语音转成文字。结构化输入是表格、图表这类数据,要弄清每一列是什么意思。

打个比方

办班会时四条路都会用到:班长在群里发的文字,同学拍来的教室照片,辅导员发的一段语音,教务系统导出的课表,都要先读进来。

随堂练习

智能体从教务系统拿到一张课表,表里有“星期”“节次”“课程”“教室”四列。它处理的是哪一类输入?

  1. 文本输入
  2. 视觉输入
  3. 听觉输入
  4. 结构化输入
查看答案
答案 D。课表是按行和列排好的数据,属于结构化输入。处理它的重点是弄清每一列的含义,比如“节次”指的是第几节课。
24
第 6 章 · 第三节

状态里装着哪四类信息

状态要回答一个问题:这件事现在办到哪一步了。

第 24 页 状态里装着哪四类信息

办班会进行到一半时,智能体的“状态卡”

信息类别卡片上记着什么
任务结构与进度一共八件事,已完成定时间、发通知、统计人数三件,下一件是订教室
工具与能力边界能查课表、发群通知、提交教室申请,花钱之前必须先问班长
关键事实与来源报名 38 人(来自报名表),周三晚上全班没课(来自课表)
执行轨迹第 3 步调用了“统计报名”工具,参数是班级编号,返回 38 人
有了这张卡,中途换一个智能体来接手,也能接着往下办。

关键术语

状态State
智能体对当前任务情况的记录。第 3 章强化学习里的状态是站在哪一格,这里的状态要记的东西多得多。

重 点为什么要记下调用过的工具和参数

出了问题要能倒查。比如教室订错了,翻一翻执行轨迹,就能看出是哪一步传错了哪个参数。

打个比方

状态卡像医院的交接班记录。护士换班时要交代病人的情况、用过什么药、下一步做什么,接班的人才能接着照顾。

25
第 6 章 · 第三节

状态建模与任务画像

把零散的信息整理成一张随时更新的任务画像。

第 25 页课件

关键术语

任务画像Task Profile
对当前任务的完整描述,包括目标、计划、进度和依据。

重 点右图的流向

用户输入、外部资料、工具回执三路信息进来,先经过解析与对齐,再分两路存放。一路更新任务状态,记的是目标、计划和结果。另一路存进证据库,记的是每条结论的依据。

打个比方

工具回执就是工具办完事以后的回话。智能体提交了教室申请,教务系统回复“预订成功,编号 0927”,这条回复就要记进任务状态和证据库。

26
第 6 章 · 第三节

推理形态之一:基于知识的推理

凭权威材料下判断,结论要能指回出处。

第 26 页 推理形态之一

基于知识的推理:结论要能指回出处

提出问题订教室要
提前几天?
→
判断相关课表、班费制度
与此无关,只有
借用规定有关
→
找到事实第 4 条:须提前
3 个工作日申请
→
给出结论至少提前 3 个工作日
出处:规定第 4 条
推理常见三种形态:基于知识的推理,链式推导(第 27 页),工具辅助推理(第 28 页)。
如果材料里找不到依据,就应该回答“没有找到相关规定”,不能凭印象编一个答案。

重 点和凭印象回答的区别

凭印象回答,说得再流利也可能是编的。基于知识的推理先挑出相关的材料,再从中找到具体条文,最后的结论能说清来自哪一份材料的哪一条。

知道更多和第 5 章的检索增强生成是一个思路

第 5 章讲过检索增强生成:先去资料库里找相关内容,再让模型根据找到的材料回答。这里是把同一个思路用在智能体的推理环节里。

27
第 6 章 · 第三节

推理形态之二:链式推导

复杂问题拆成几个中间步骤,一步步推出结论。

第 27 页 推理形态之二

链式推导:把中间步骤写出来

普通提示思维链提示
给模型看的例题罗杰有 5 个网球,又买了 2 罐,每罐 3 个,现在有几个?答:11 个。同一道例题,答案写成:原有 5 个,2 罐共 6 个,5 + 6 = 11,答:11 个。
让模型做的新题食堂有 23 个苹果,午饭用掉 20 个,又买了 6 个,现在有几个?同一道新题
模型的回答答:27 个(错)原有 23 个,用掉 20 个剩 3 个,又买 6 个,3 + 6 = 9,答:9 个(对)
同一个模型,只是例题里多写了步骤,它做新题时也跟着一步步算,结果就算对了。
例子出自 2022 年提出思维链方法的那篇论文。

关键术语

思维链Chain of Thought, CoT
让模型把推理的中间步骤写出来,再给出结论。

打个比方

一道三步的应用题,心算容易漏掉一步,写在纸上一步步算,每一步都能回头检查。思维链就是让模型从心算改成笔算。

知道更多步骤写得漂亮不等于都对

模型写出的步骤也可能有错,或者步骤和最后的答案对不上。重要的结论还要靠工具或者人再核对一遍,下一页的工具辅助推理就是一种办法。

28
第 6 章 · 第三节

推理形态之三:工具辅助推理

查不到的、算不准的,交给工具去办。

第 28 页 推理形态之三

工具辅助推理:模型做判断,工具给结果

要不要用工具作业截止时间,
模型不可能知道
→
用哪个工具在七个工具里
选“查作业截止时间”
→
怎么用参数:
课程=人工智能
→
组织回答工具返回周五 23:59,
模型写成一句回复
模型自己做不好的事交给哪类工具
最新的信息,比如这周的通知搜索、查数据库
精确的计算,比如 38 × 5.5计算器、运行代码
需要有依据的判断查规章、查资料库
模型负责判断该不该用、用哪一个、参数怎么填,工具负责给出确定的结果。

重 点三个问题都要答对

什么时候用工具,用哪一个,参数怎么填。任何一个答错,工具就帮不上忙。比如选对了“查作业截止时间”,课程名却填成了“高等数学”,查回来的就是另一门课的作业。

知道更多实验一会动手试

本章实验一给一个课程学习助理配了七个工具,你会看到它面对学生的一句话怎样挑工具、填参数,又在什么情况下挑错。

随堂练习

有人问“38 个人每人交 5.5 元,一共多少钱”,智能体最稳妥的做法是什么?

  1. 凭模型自己的印象回答
  2. 调用计算器工具算出结果
  3. 去搜索引擎里搜这道题
  4. 让提问的人自己去算
查看答案
答案 B。精确计算交给计算器最可靠。模型是一个字一个字生成答案的,算数时可能出错,搜索引擎里也搜不到这道具体的题。
29
第 6 章 · 第三节

任务分解与计划生成

把一个模糊的目标,拆成一串排好先后的具体事情。

第 29 页 任务分解与计划生成

把“办一场班会”拆成八件事,排好先后

定时间发通知统计人数排节目订教室申请经费买物资开班会箭头:前一件办完,后一件才能做
目标理解下周办一场班会,
全班都能参加
→
任务分解拆成八件
具体的事
→
计划生成按先后关系
排出执行顺序
还有一种做法,先在“脑子”里把几条路都推演一遍再动手,像下棋前先算几步。

重 点推理和规划的分工

推理负责判断眼下的情况,比如“人数还没统计出来”。规划负责排出一条能往前推的路,比如“先统计人数,再订教室和申请经费”。

打个比方

这张图的读法和做饭一样。米饭要先淘米再煮,菜要先洗、再切、再炒,两条线可以同时进行,最后一起上桌。订教室和申请经费也是两条可以同时推进的线。

想一想

如果计划里漏掉了“申请经费”,会在哪一步出问题?

查看参考思路
会卡在“买物资”。买物资要先有经费,没有经费就买不了,班会也就开不成。这类漏洞往往要等做到那一步才暴露出来,所以智能体还需要下一节讲的反馈环节。实验二会让你看到,计划里缺了前提,智能体要撞上去才知道。
保山学院·人工智能教研室·曹鼎鼎