深度学习知识点
1.全连接网络是指神经网络中的每一层的每一个神经元都与下一层的每一个神经元全部相连接。这种层与层之间的“两两相连”就是“全连接”名称的由来。全连接网络是神经网络的“地基”结构简单、功能强大但非常耗费参数。它适合处理特征数量较少的数据不适合直接处理大尺寸的图像或高维原始数据。2.全连接网络也叫多层感知机严格意义上的MLP一定是由全连接层构成的但一个“全连接网络”如果不包含隐藏层比如只有输入直接映射到输出的单层感知机或者结构上不满足多层非线性变换的条件那它就不能被称为MLP。3.多层感知机的第一层的神经元的数目等于输入特征向量的维度。输入层的每一个神经元代表输入特征向量中的一个维度一个特征。假设你的数据集是一个表格有 m 列比如年龄、工资、身高那么你的输入特征维度就是 m。这 m 个数据必须要有 m 个输入神经元来“接住”它们然后分别通过 m 条独立的连接线权重传递给下一层第一个隐藏层的每一个神经元。全连接网络第一层即输入层本质上并不做任何数学运算它的作用只是数据分发在数学公式中我们通常把整个网络写成 Yf(W⋅Xb)。W是权重矩阵全连接网络有k层网络就有k-1个权重矩阵

相关新闻