# 多层神经网络 ## 前馈神经网络（Feedforward Neural Network） 每一层的神经元可以接收前一层神经元的信号，并产生信号输出到下一层。第0层叫做输入层，最后一层叫做输出层，其他中间层叫做隐藏层。常见的前馈神经网络包括全连接网络（FCN）、卷积神经网络（CNN）和生成对抗网络(GAN)等  一般在输出层使用独热向量（one-hot vector）：  ## 反馈神经网络（Feedback Neural Network） 神经元不但可以接收其他神经元的信号，而且可以接收自己的反馈信号。和前馈神经网络相比，反馈神经网络中的神经元具有记忆功能，在不同时刻具有不同的状态。反馈神经网络中的信息传播可以是单向也可以是双向传播，因此可以用一个有向循环图或者无向图来表示。常见的反馈神经网络包括循环神经网络(RNN)、长短期记忆网络(LSTM)、Hopfield网络和玻尔兹曼机。  ## 图网络