先当场练出一个能认苹果、香蕉、草莓的小网络,再反过来问它:什么样的图最能让它兴奋?网络里的小探测器看到自己要找的花纹时会输出一个大数,这个数叫激活。从一张图出发,一步步改图,让某个激活越来越大,这种办法叫激活最大化。
数据说明:水果图是页面按形状和表面花纹画出来的 20 × 20 小图,每类 30 张用来训练、30 张用来测试,颜色特意打乱过。
这一步看什么这里有一个认苹果、香蕉、草莓的小图像网络,现在还没练过。点一下按钮,它会在 90 张训练图上练 30 轮。后面两步看的都是练好的它。
蓝线是训练准确率,赭线是测试准确率,横轴是练了几轮。
没练之前,网络只能认对两成多的测试图,比随便猜还差。练到第 2 轮,测试准确率就到了九成,第 6 轮以后训练图和测试图全部认对。
练好以后,右边只看得到准确率和参数个数,看不出它靠图上的什么来认,这就是课件说的黑箱。
这一步看什么网络第一层有 6 个通道。通道就是网络里专门找某一种花纹的小探测器,每个只看 3 × 3 那么大的一小块。上排是用激活最大化显影出来的 6 张花纹,下排是选中的探测器在一张水果图上的反应。
#1 只在水果右边那条边上亮,它找的是明暗交界的边。#3 在整块果肉上都亮,它找的是成片的颜色。另外四个在这些水果图上几乎不亮,#5 一次也没亮过。3 × 3 的花纹能表达的只有边、色块这类简单的东西。
显影花纹的激活总比任何一张水果图上最亮处的激活大,因为这张花纹就是按“让激活最大”一步步改出来的。
这一步看什么这次把目标换成网络给“苹果”打的分数。从一张灰色噪声图出发,每一步按梯度把每个像素调亮或调暗一点。梯度指出每个像素往哪边改,分数涨得最快。这和梯度下降是同一个办法,只是改的是图,往分数变大的方向走,课件叫梯度上升。
| 类别 | 模糊 | 最后的把握 | 最后的分数 |
|---|
三类各改一次,开始时的把握在一成多到四成左右,改完都显示 100.00%。模糊为 0 时,改出来的图分数是真实同类图平均分数的三倍多,可图上看不出一点水果的样子。网络眼里的“苹果”和人眼里的苹果不是一回事。
模糊为 0 时,图中间长出一片红黄相间的碎色块,四周还是灰色噪声。调到 0.50 以后,碎块连成一团边缘模糊的橙黄色,分数降了一些,把握仍然是 100.00%。课件第 44 页的高频抑制就是这样做的:每改一步就把图抹平一点,细碎的花点就长不出来了。
前面三步的操作结果会自动写进报告。下面的题目按你实际看到的情况回答。