深度学习与PyTorch入门实战 - 48. RNN-Layer使用

## 《深度学习与PyTorch入门实战 - 48. RNN-Layer使用》总结 RNN层的使用主要介绍了循环神经网络（RNN）的结构和其在PyTorch中的实现方式，重点阐述了单层和多层RNN的实现细节。 ### RNN层的核心概念 - **输入形状**：输入的形状通常为 `[seq len, batch size, feature dim]`，其中`seq len`为序列长度，`batch size`为批次大小，`feature dim`为特征维度。 - **隐层状态**：隐层状态（hidden state）的形状为 `[num layers, batch size, hidden dim]`，其中`num layers`为RNN的层数。 ### 单层RNN与多层RNN 1. **单层RNN**： - 使用PyTorch的`nn.RNNCell`模块，逐个时间步处理输入序列。 - 每个时间步的输入经过`nn.RNNCell`后得到当前时间步的隐层状态。 - 输出为所有时间步的隐层状态拼接而成。 2. **多层RNN**： - 使用PyTorch的`nn.RNN`模块直接实现多层循环神经网络。 - 初始化时指定层数`num_layers`。 - 输入经过所有层的处理后，得到输出和最终的隐层状态。 ### 实现细节 - **输入与输出**： - 输入`x`的形状为`[seq len, batch size, word vec]`，即序列长度、批次大小和词向量维度。 - 输出`out`的形状为`[seq len, batch size, hidden dim]`。 - 隐层状态`ht`的形状为`[num layers, batch size, hidden dim]`。 - ** shapes说明**： - 单层RNN中，`h0`和`ht`的形状均为`[1, batch size, hidden dim]`。 - 多层RNN中，`h0`和`ht`的形状为`[num layers, batch size, hidden dim]`。 - 最终的输出`out`为所有时间步的隐层状态拼接而成。 通过以上内容，读者可以了解RNN层的基本结构、输入输出形状以及实现方式，从而在实际应用中更好地使用RNN模型进行建模。