# 简单循环神经网络   如： - 第一次循环($t=1$)，$h_{t-1}=(0.0, 0.0, 0.0)$，设$x_t=(3.0, 0.5)$，则本次投入隐层的输入为$(0.0, 0.0, 0.0, 3.0, 0.5)$，即对$h_{t-1}$和$x_t$做concatenate操作。假设输出$h_t=(2.0, 3.0, 0.0)$ - 第二次循环($t=2$)，$h_{t-1}=(2.0, 3.0, 0.0)$，设$x_t=(2.0, 1.0)$，则本次投入隐层的输入为$(2.0, 3.0, 0.0, 2.0, 1.0)$  ## 长期依赖问题 本质是网络过深带来的梯度消失。解决方法为LSTM等状态保留机制。