人工智能导论 第 4 章 深度学习新方法
第 4 章

深度学习新方法

标注少、模型大、算力紧,这一章讲怎样让深度学习训得起、跑得动、看得懂。
2 第二节 InfoNCE 损失函数 4 页
把“拉近同伴、推远别人”变成一个能算的数
  1. 10InfoNCE
  2. 11温度参数
  3. 14三个不足
  4. 15自蒸馏
实验 1 机器眼里的花纹
配合第六节。当场练出一个认苹果、香蕉、草莓的小网络,看它第一层的探测器各在找什么花纹,再从一团噪声里改出一张网络百分之百认定的“苹果”。
  1. 01先把认水果的网络练出来
  2. 02看第一层的探测器各在找什么
  3. 03从一团噪声里改出一个“苹果”
  4. 04实验报告
实验 2 它到底在看哪儿
配合第七节。用实验一练好的认水果小网络,先看只看梯度为什么会漏掉功劳,再用集成梯度从一张空白图一路走到原图,算出每个像素的功劳并对一次账。
  1. 01先让它说这是什么
  2. 02只看梯度会漏掉功劳
  3. 03从空白图一路走到原图
  4. 04把所有像素的功劳加起来对一次账
  5. 05实验报告
保山学院·人工智能教研室·曹鼎鼎