深度学习与PyTorch入门实战 - 19.2 多输出感知机

### 总结 本文档主要介绍了多输出感知机（Multi-output Perceptron）的结构和反向传播算法的推导，以下是核心内容的总结： 1. **多输出感知机的结构扩展** 多输出感知机是在单输出感知机的基础上扩展的，输出层的每个神经元对应一个输出目标（t）。模型的输入层和隐藏层保持不变，但输出层的权重矩阵扩展为多对多的连接，以适应多输出的需求。 2. **损失函数与误差计算** 多输出感知机的损失函数与单输出感知机类似，但需要对所有输出节点的误差进行求和。每个输出节点的误差计算公式为： \[ E = \frac{1}{2} \sum_{k=1}^{m} (O_k - t_k)^2 \] 其中，\(O_k\)表示第k个输出节点的预测值，\(t_k\)为对应的目标值。 3. **反向传播的推导** 多输出感知机的权重更新遵循梯度下降法，权重的梯度由输出误差反向传播得到。具体推导包括以下步骤： - 计算输出层误差项：\(\delta_k = (O_k - t_k) \cdot \sigma(x_k)(1 - \sigma(x_k))\) - 计算隐藏层误差项，并通过权重回传到输入层。 - 最终，权重的更新公式为： \[ \frac{\partial E}{\partial w_{jk}} = (O_k - t_k) \cdot O_k (1 - O_k) \cdot x_j \] 4. **权重更新公式** 多输出感知机的权重更新公式与单输出感知机类似，但扩展到多输出的情况。每个权重的更新只与对应的输出节点误差相关。 本文档详细推导了多输出感知机的反向传播过程，并通过数学公式展现了权重更新的具体计算方法，适合用于理解多输出分类任务中感知机的扩展和应用。