视频字幕
反向传播算法是深度学习中最重要的算法之一。它的核心思想是通过计算损失函数对网络参数的梯度，来更新权重参数。让我们从这个简单的三层神经网络开始，了解反向传播的工作原理。
前向传播是神经网络处理数据的第一步。输入数据通过权重连接传递到下一层，每个神经元接收加权输入，然后通过激活函数进行非线性变换。例如，输入值2通过权重0.5传递给第一个隐藏神经元，计算结果为1.0，再通过激活函数得到最终的隐藏层输出。
在前向传播得到预测结果后，我们需要计算损失函数来衡量预测的准确性。这里我们使用均方误差损失函数，计算预测值与真实值之间的平方差。例如，预测值0.7与真实值1.0的误差为负0.3，损失值为0.045。接下来我们需要计算损失函数对输出的梯度，这是反向传播的起点。
反向传播的核心是使用链式法则计算梯度。从输出层开始，我们计算损失函数对每个权重的偏导数。对于输出层权重，梯度等于损失对输出的梯度乘以对应的隐藏层输出。对于隐藏层权重，需要先计算损失对隐藏层的梯度，再乘以输入值。这样，梯度信息就从后向前逐层传播。
有了梯度信息，我们就可以更新网络权重了。梯度下降法是最常用的优化方法，更新公式是新权重等于旧权重减去学习率乘以梯度。学习率控制更新的步长，太大可能导致震荡，太小则收敛缓慢。通过不断重复前向传播、计算损失、反向传播和权重更新这个循环，神经网络就能逐渐学习到最优的参数配置。