创客小说网

手机浏览器扫描二维码访问

第561章 用故事解释误差反向传播法（第1页）

故事：国王的信使与误差反向传播

在古老的王国里，国王希望自己的弓箭手训练营能够培养出最强的射手。他设立了一场射箭比赛，要求所有弓箭手向目标射箭，并根据他们的成绩给予奖励或惩罚。

然而，比赛结果并不理想——大部分弓箭手射偏了。国王想知道：箭射歪了，到底是哪个环节出了问题？

于是，他召集了首席教官、弓匠和箭匠，希望找到问题的根源，并逐步改进训练方法。

第一步：发现误差（计算损失）

比赛结束后，国王检查靶子，发现箭矢偏离目标的情况十分严重。有的射到了外环，有的甚至没射中靶。

国王皱着眉头说：“我们需要一个标准来衡量弓箭手的表现。”

于是，他决定：

?目标中心是完美的射击点（理想输出）

?每支箭的落点表示实际输出

?偏差越大，意味着误差越大（损失函数）

国王命令数学师计算每个射手的误差，误差越大，说明问题越严重。

第二步：误差如何产生？（误差的传播）

国王想知道，是谁的责任导致了偏差？

他把弓箭训练分解成多个环节：

1。弓箭手的瞄准（神经网络的最后一层）

2。弓的质量（隐藏层）

3。箭的质量（隐藏层）

4。训练方法（输入层）

如果箭偏离目标，可能是：

?弓箭手没瞄准好（类似于神经网络的输出层计算错误）

?弓有缺陷（类似于隐藏层的权重设置不当）

?箭头不够稳定（类似于特征提取不准确）

?训练方法不对（类似于输入数据有误）

误差反向传播的核心问题就是要找出这些因素对最终误差的贡献，并逐步调整它们。

第三步：误差如何回溯？（反向传播计算梯度）