人工智能导论 第 3 章 · 实验二

← 返回实验目录

第 3 章 机器学习基础 · 实验二

及格的把握有多大

逻辑回归不直接回答及格还是不及格,它先算出一个 0 到 1 之间的概率。本实验用 200 名同学的学习记录,看这个概率是怎样算出来的,模型又是怎样把自己调准的。

建议用时30 分钟
对应课件第一节 第 05 至 08 页
一共几步三步,外加实验报告
交什么最后生成的实验报告

这 个 实 验 要 说 明 三 件 事

  1. 第 01 步逻辑回归先把特征加权相加,得到一个分数,再用一条 S 形曲线把分数换算成概率。
  2. 第 02 步训练模型,就是调整权重 w 和偏置 b,让曲线贴合数据。这件事机器能自己完成。
  3. 第 03 步用两个特征时,逻辑回归在平面上画出的分界线一定是一条直线。

数据说明:200 名同学的记录是按常见规律随机生成的教学数据,不是真实成绩。

01

把分数换算成概率

对应 第一节 · 第 07 页

这一步看什么分数可以是任何数,概率只能在 0 到 1 之间。中间那道换算,就是 Sigmoid 曲线。

横轴是模型算出的分数 z,纵轴是换算出来的概率 p。赭色圆点就是你拖到的位置。

拖动分数

换算出的概率 p—
按 0.5 的门槛判为—

动 手 做

  1. 把 z 拖到 0,看概率是多少。
  2. 把 z 分别拖到 3 和 −3,记下两个概率,填进报告第一题。
  3. 把 z 拖到最右端,看概率能不能到 1。

应 该 看 到

z 等于 0 时,概率正好是 0.5。z 越大,概率越接近 1,但永远到不了 1。z 是负数时,概率小于 0.5,模型就判不及格。

02

自己调一条 S 形曲线

对应 第一节 · 第 05、06 页

这一步看什么先只用一个特征:每周学习多少小时。模型要学的就是 w 和 b 两个数,它们决定了曲线的形状和位置。

p = Sigmoid(w × 学习小时 + b)
上面一排:及格的同学下面一排:不及格的同学模型给出的及格概率门槛:概率正好 0.5
每个点是一名同学,横坐标是他每周学习的小时数。好的曲线应该在下面那排点处贴近 0,在上面那排点处贴近 1。

拧两个旋钮

猜对了几个人—
损失(越小越好)—
门槛在几小时—
你手动的最好成绩—
机器调完猜对几个—
机器调完的损失—

动 手 做

  1. 拖动 w 和 b,让曲线的陡坡落在两排点交界的地方,尽量让猜对的人数多、损失小。
  2. 点让机器自己调,看曲线怎样一点点挪到位,最后猜对多少人。
  3. 看绿色竖线:每周学习超过多少小时,模型就判及格。

应 该 看 到

w 越大,曲线越陡。b 改变时,曲线整体左右平移。机器调参数用的是第 2 章学过的梯度下降,几秒钟就能把损失降得比手动更低。

绿色竖线就是这个模型的决策边界。只有一个特征时,边界是一道门槛。

03

两个特征,一条直线

对应 第一节 · 第 08 页

这一步看什么再加上缺课次数。模型已经用这 200 人学好了参数,你来给新同学算一算,并看清楚它的分界线长什么样。

在图上任意点一下
及格不及格虚线:概率正好 0.5
浅蓝的一侧模型判及格,浅红的一侧判不及格。落在“错误”一侧的点,就是模型判错的人。

选一份数据

模型的准确率—
学到的参数—

你点的那个人

在左图上点一下,这里会列出算式。
及格的概率—
模型判为—

动 手 做

  1. 在图上随便点几个位置,看右边列出的算式和概率。
  2. 找一个概率接近 0.5 的位置,看它是不是正好落在虚线上。
  3. 切换到圈形数据,看那条线还能不能把两类点分开,记下准确率。

应 该 看 到

虚线就是概率等于 0.5 的地方,线的一侧判及格,另一侧判不及格。学习时间越长、缺课越少,及格的概率越高。

不管数据长什么样,逻辑回归画出来的都是直线。圈形数据用直线分不开,准确率一下子掉了下来。第二节的支持向量机和核方法,就是为这种情况准备的。

04

实验报告

整理数据,写下结论

前面三步的操作结果会自动写进报告。下面的题目按你实际看到的情况回答。

一第 01 步中,z 等于 0、3、−3 时,概率各是多少?z 拖到最右端,概率能到 1 吗?
二第 02 步中,你手动调到猜对多少人?机器调完猜对多少人?每周学习超过几小时,模型就判及格?
三第 03 步中,两份数据的准确率各是多少?逻辑回归为什么分不开圈形数据?
总结学习总结
用自己的话说一说:逻辑回归是怎样得出“这位同学及格的把握有多大”的?还有哪里没弄明白?建议不少于一百字。
0 字
会打开打印窗口,选“另存为 PDF”即可
人 工 智 能 导 论 上 机 实 验 报 告

及格的把握有多大:逻辑回归

第 3 章 机器学习基础 · 实验二
姓名—
学号—
班级—
完成日期—

一实验数据记录

数据
—
手动调参
—
机器调参
—
两个特征
—
圈形数据
—

二思考题

一、分数与概率
二、手动调参与机器调参
三、直线分界的局限

三学习总结

指导教师签字  
成绩  
保山学院 · 人工智能教研室 · 曹鼎鼎