深度学习与PyTorch入门实战 - 17. 常见函数梯度

以下是对文档内容的中文总结： 本文档介绍了PyTorch中常见函数的梯度计算，涵盖以下几类函数： 1. **线性函数**：如\( f(x) = ax \)的梯度为\( a \)。 2. **平方函数**：如\( f(x) = x^2 \)的梯度为\( 2x \)。 3. **指数函数**：如\( f(x) = e^x \)的梯度为\( e^x \)。 4. **对数函数**：如\( f(x) = \ln(x) \)的梯度为\( 1/x \)。 5. **三角函数**：包括正弦、余弦和正切函数，其梯度分别为余弦、负正弦和正割平方。 这些函数及其梯度在深度学习和神经网络训练中具有重要应用，特别是在计算梯度和更新参数时。