# SDNE与自编码器（AE） ## 自编码器 可以将自编码器理解为一个输入层和输出层都是原始维度，但中间有一个包含目标维数个神经元的隐层的BP神经网络。具体地，第一个半部分是编码器，它将原始数据压缩为一个低维度的嵌入向量；第二个半部分是解码器，它将嵌入向量映射回原始数据空间，并尽可能地重构原始数据。 需要注意的是，嵌入向量的维数通常比原始数据的维数要小很多，这意味着编码器需要学习如何从原始数据中提取最相关的特征，并将其压缩为嵌入向量；解码器则需要学习如何将嵌入向量解码为与原始数据尽可能接近的重构数据。 除了使用BP神经网络，自编码器还可以使用其他类型的神经网络，例如卷积神经网络（CNN）和循环神经网络（RNN），以适应不同类型的数据。同时，在自编码器的训练过程中，我们可以使用不同的损失函数和正则化方法来优化模型的训练效果。 ## 堆叠降噪自编码器 堆叠降噪自编码器是一种多层自编码器，它通过将多个单层降噪自编码器（Denoising Autoencoder, DAE）堆叠在一起来学习更复杂的特征表示。 与单层自编码器不同，堆叠降噪自编码器包含多个编码器和解码器层，其中每个编码器层都将前一个解码器层的输出作为输入，并将其压缩为一个更小的嵌入向量。为了避免过拟合，堆叠降噪自编码器通常会在每个编码器层中加入随机噪声，并在训练过程中使用随机梯度下降算法最小化重构误差。 堆叠降噪自编码器的训练过程通常分为两个阶段。在第一个阶段，我们使用单层自编码器训练每个编码器和解码器层，以学习更简单的特征表示。在第二个阶段，我们将所有编码器和解码器层堆叠在一起，并使用反向传播算法同时训练整个网络，以学习更复杂的特征表示。在训练过程中，我们可以使用验证集来监控模型的训练效果，并调整超参数以改善模型性能。 堆叠降噪自编码器可以用于许多应用，包括图像和文本数据的特征提取、降维和去噪等。在实际应用中，我们可以使用训练好的模型来生成嵌入向量，并使用这些向量进行进一步的处理和分析。 ## SDNE SDNE（Structural Deep Network Embedding）是一种基于深度学习的图嵌入算法，它可以学习出每个节点在低维空间中的嵌入向量，从而更好地表示节点之间的关系。SDNE 的核心思想是使用自编码器来学习节点的嵌入向量，并结合图的结构信息来优化模型。