深度置信网络是在使用典型的多层感知器时处理非凸目标函数和局部最小值的问题的解决方案。这是一种替代类型的深度学习，包括多层潜在变量以及层之间的连接。深信念网络可以被视为受限制的Boltzmann机器（RBM），其中每个子网的隐藏层充当网络的相邻层的可见输入层。它使最低可见层成为网络相邻层的训练集。这样，网络的每一层都被独立和贪婪地训练。隐藏变量用作观察变量以训练深层结构的每一层。这种深度置信网络的训练算法如下：
・
考虑输入向量
・
使用输入向量训练受限制的玻尔兹曼机器并获得权重矩阵
・
使用此权重矩阵训练网络的下两层
・
通过采样或平均激活隐藏单元，使用网络（RBM）生成新的输入向量
・
重复此过程，直到到达网络的顶部两层
深度信念网络的微调与多层感知器非常相似。这种深度信念网络在声学建模中很有用。