卷积神经网络

神经网络的本质就在于做信息形式的变换,而要想做数据的处理,首要解决的问题就是如何将数据张量化,问题就在于卷积神经网络要处理的数据必须是向量形式,对于图像这种数据类型来说,如果将其展开成一维的向量,且不说得到向量的维数过高,网络太深导致网络中参数太多,图像中的空间信息也会丢失。
而卷积神经网络能够用卷积的方式从原信息中提取"部分特定的信息(信息跟卷积核相关)",且对于二维的图像来说是原生支持的(不需要处理),这就保留了图像中的空间信息,而空间信息是具有可平移性质的.。
并且卷积神经网络的参数就只是卷积核的参数以及偏置(Bias),而卷积核的参数可以做到共享,卷积核也可以用多个,从多个角度对原图像解读。
这就是卷积神经网络的几个特点:局部感知,参数共享,多核,平移不变性正是因为这些特点,在图像领域处理上,卷积神经网络取代了人工神经网络。
卷积神经网络 (CNN) 是当今最流行的模型之一。这种神经网络计算模型使用多层感知器的变体，并包含一个或多个可以完全连接或池化的卷积层。这些卷积层创建了记录图像区域的特征图，该区域最终被分成矩形并发送出去进行非线性处理。
优点：
图像识别问题的非常高的准确性。自动检测重要特征，无需任何人工监督。权重共享。
缺点：
CNN 不对物体的位置和方向进行编码。缺乏对输入数据空间不变的能力。需要大量的训练数据。

一维构筑、二维构筑、全卷积构筑。 卷积神经网络（Convolutional Neural Networks, CNN）是一类包含卷积计算且具有深度结构的前馈神经网络（Feedforward Neural Networks），是深度学习（deep learning）的代表算法之一。 卷积神经网络具有表征学习（representation learning）能力，能够按其阶层结构对输入信息进行平移不变分类（shift-invariant classification），因此也被称为“平移不变人工神经网络（Shift-Invariant Artificial Neural Networks, SIANN）”。 卷积神经网络的连接性： 卷积神经网络中卷积层间的连接被称为稀疏连接（sparse connection），即相比于前馈神经网络中的全连接，卷积层中的神经元仅与其相邻层的部分，而非全部神经元相连。具体地，卷积神经网络第l层特征图中的任意一个像素（神经元）都仅是l-1层中卷积核所定义的感受野内的像素的线性组合。 卷积神经网络的稀疏连接具有正则化的效果，提高了网络结构的稳定性和泛化能力，避免过度拟合，同时，稀疏连接减少了权重参数的总量，有利于神经网络的快速学习，和在计算时减少内存开销。 卷积神经网络中特征图同一通道内的所有像素共享一组卷积核权重系数，该性质被称为权重共享（weight sharing）。权重共享将卷积神经网络和其它包含局部连接结构的神经网络相区分，后者虽然使用了稀疏连接，但不同连接的权重是不同的。权重共享和稀疏连接一样，减少了卷积神经网络的参数总量，并具有正则化的效果。 在全连接网络视角下，卷积神经网络的稀疏连接和权重共享可以被视为两个无限强的先验（pirior），即一个隐含层神经元在其感受野之外的所有权重系数恒为0（但感受野可以在空间移动）；且在一个通道内，所有神经元的权重系数相同。