多层感知机（MLP）简介
⼀、多层感知机（MLP）原理简介
多层感知机（MLP，Multilayer Perceptron）也叫⼈⼯神经⽹络（ANN，Artificial Neural Network），除了输⼊输出层，它中间可以有多个隐层，最简单的MLP只含⼀个隐层，即三层的结构，如下图：
从上图可以看到，多层感知机层与层之间是全连接的。多层感知机最底层是输⼊层，中间是隐藏层，最后是输出层。
隐藏层的神经元怎么得来？⾸先它与输⼊层是全连接的，假设输⼊层⽤向量X表⽰，则隐藏层的输出就是 f (W1X+b1)，W1是权重（也叫连接系数），b1是偏置，函数f 可以是常⽤的sigmoid函数或者tanh函数：
注：神经⽹络中的Sigmoid型激活函数：
1. 为嘛使⽤激活函数？
a. 不使⽤激活函数，每⼀层输出都是上层输⼊的线性函数，⽆论神经⽹络有多少层，输出都是输⼊的线性组合。
b. 使⽤激活函数，能够给神经元引⼊⾮线性因素，使得神经⽹络可以任意逼近任何⾮线性函数，这样神经⽹络就可以利⽤到
更多的⾮线性模型中。
激活函数需要具备以下⼏点性质:
1. 连续并可导（允许少数点上不可导）的⾮线性函数。可导的激活函数可以直接利⽤数值优化的⽅法来学习⽹络参
数。
2. 激活函数及其导函数要尽可能的简单，有利于提⾼⽹络计算效率。
3. 激活函数的导函数的值域要在⼀个合适的区间内，不能太⼤也不能太⼩，否则会影响训练的效率和稳定性。
2. sigmod 函数
导数为：
3 . Tanh 函数
取值范围为[-1,1]
tanh在特征相差明显时的效果会很好，在循环过程中会不断扩⼤特征效果。
与sigmod的区别是 tanh 是0 的均值，因此在实际应⽤中tanh会⽐sigmod更好。
在具体应⽤中，tanh函数相⽐于Sigmoid函数往往更具有优越性，这主要是因为Sigmoid函数在输⼊处于[-1,1]之间时，函数值变 化敏感，⼀旦接近或者超出区间就失去敏感性，处于饱和状态。
最后就是输出层，输出层与隐藏层是什么关系？
其实隐藏层到输出层可以看成是⼀个多类别的逻辑回归，也即softmax回归，所以输出层的输出就是softmax(W2X1+b2)，X1表⽰隐藏层的输出f(W1X+b1)。
MLP整个模型就是这样⼦的，上⾯说的这个三层的MLP⽤公式总结起来就是，函数G是softmax。
因此，MLP所有的参数就是各个层之间的连接权重以及偏置，包括W1、b1、W2、b2。对于⼀个具体的问题，怎么确定这些参数？求解最佳的参数是⼀个最优化问题，解决最优化问题，最简单的就是梯度下降法了（SGD）：⾸先随机初始化所有参数，然后迭代地训练，不断地计算梯度和更新参数，直到满⾜某个条件为⽌（⽐如误差⾜够⼩、迭代次数⾜够多时）。这个过程涉及到代价函数、规则化（
Regularization）、学习速率（learning rate）、梯度计算等，本⽂不详细讨论，读者可以参考本⽂底部给出的两个链接。
了解了MLP的基本模型，下⾯进⼊代码实现部分。
⼆、多层感知机（MLP）代码详细解读（基于python+theano）
我为学校添光彩
代码来⾃：，本⽂只是做⼀个详细解读，如有错误，请不吝指出。
这个代码实现的是⼀个三层的感知机，但是理解了代码之后，实现n层感知机都不是问题，所以只需理解好这个三层的MLP模型即可。概括地说，MLP的输⼊层X其实就是我们的训练数据，所以输⼊层不⽤实现，剩下的就是“输⼊层到隐含层”，“隐含层到输出层”这两部分。上⾯介绍原理时已经说到了，“输⼊层到隐含层”就是⼀个全连接的层，在下⾯的代码中我们把这⼀部分定义为HiddenLayer。“隐含层到输出层”就是⼀个分类器softmax回归，在下⾯的代码中我们把这⼀部分定义为logisticRegression。
代码详解开始：
（1）导⼊必要的python模块
主要是numpy、theano，以及python⾃带的os、sys、time模块，这些模块的使⽤在下⾯的程序中会看到。
arm是什么意思中文
import os
import sysimport time
import numpy
import theano
sor as T
（2）定义MLP模型（HiddenLayer+LogisticRegression）
这⼀部分定义MLP的基本“构件”，即上⽂⼀直在提的HiddenLayer和LogisticRegression
HiddenLayertarantella
隐含层我们需要定义连接系数W、偏置b，输⼊、输出，具体的代码以及解读如下：
class HiddenLayer(object):
def __init__(lf, rng, input, n_in, n_out, W=None, b=None,
activation=T.tanh):
"""
注释：
这是定义隐藏层的类，⾸先明确：隐藏层的输⼊即input，输出即隐藏层的神经元个数。输⼊层与隐藏层是全连接的。
假设输⼊是n_in维的向量（也可以说时n_in个神经元），隐藏层有n_out个神经元，则因为是全连接，
⼀共有n_in*n_out个权重，故W⼤⼩时(n_in,n_out),n_in⾏n_out列，每⼀列对应隐藏层的每⼀个神经元的连接权重。
b是偏置，隐藏层有n_out个神经元，故b时n_out维向量。
rng即随机数⽣成器，numpy.random.RandomState，⽤于初始化W。
input训练模型所⽤到的所有输⼊，并不是MLP的输⼊层，MLP的输⼊层的神经元个数时n_in，⽽这⾥
的参数input⼤⼩是（n_example,n_in），每⼀⾏⼀个样本，即每⼀activation：激活函数，这⾥定义为函数tanh
"""
alawayslf.input = input #类HiddenLayer的input即所传递进来的input
"""
注释：
代码要兼容GPU，则W、b必须使⽤ fig.floatX，并且定义为theano.shared
kelvin另外，W的初始化有个规则：如果使⽤tanh函数，则在-sqrt(6./(n_in+n_hidden))到sqrt(6./(n_in+n_hidden))之间均匀
抽取数值来初始化W，若时sigmoid函数，则以上再乘4倍。
"""
#如果W未初始化，则根据上述⽅法初始化。
#加⼊这个判断的原因是：有时候我们可以⽤训练好的参数来初始化W
if W is None:
W_values = numpy.asarray(
rng.uniform(
low=-numpy.sqrt(6. / (n_in + n_out)),
high=numpy.sqrt(6. / (n_in + n_out)),
size=(n_in, n_out)
),
fig.floatX
)
if activation == sigmoid:
W_values *= 4
W = theano.shared(value=W_values, name='W', borrow=True)
if b is None:
b_values = s((n_out,), fig.floatX)
b = theano.shared(value=b_values, name='b', borrow=True)
#⽤上⾯定义的W、b来初始化类HiddenLayer的W、b
lf.W = W
lf.b = b
#隐含层的输出
lin_output = T.dot(input, lf.W) + lf.b
lf.output = (
高级英语 张汉熙
lin_output if activation is None
el activation(lin_output)
)
#隐含层的参数
lf.params = [lf.W, lf.b]
LogisticRegression
逻辑回归（softmax回归），代码详解如下。
"""
定义分类层，Softmax回归
在deeplearning tutorial中，直接将LogisticRegression视为Softmax，
⽽我们所认识的⼆类别的逻辑回归就是当n_out=2时的LogisticRegression
"""返老还童剧情
#参数说明：
#input，⼤⼩就是(n_example,n_in)，其中n_example是⼀个batch的⼤⼩，
生活大爆炸第五季
#因为我们训练时⽤的是Minibatch SGD，因此input这样定义
#n_in，即上⼀层(隐含层)的输出
#n_out，输出的类别数
有道韩语在线翻译class LogisticRegression(object):
def __init__(lf, input, n_in, n_out):
#W⼤⼩是n_in⾏n_out列，b为n_out维向量。即：每个输出对应W的⼀列以及b的⼀个元素。
lf.W = theano.shared(
s(
(n_in, n_out),
fig.floatX
铅笔英语),
name='W',
borrow=True
)
lf.b = theano.shared(
s(
(n_out,),
fig.floatX
),
name='b',
borrow=True
)
#input是(n_example,n_in)，W是（n_in,n_out），点乘得到(n_example,n_out)，加上偏置b，
#再作为T.nnet.softmax的输⼊，得到p_y_given_x
#故p_y_given_x每⼀⾏代表每⼀个样本被估计为各类别的概率
#PS：b是n_out维向量，与(n_example,n_out)矩阵相加，内部其实是先复制n_example个b，
#然后(n_example,n_out)矩阵的每⼀⾏都加b
lf.p_y_given_x = T.nnet.softmax(T.dot(input, lf.W) + lf.b)
#argmax返回最⼤值下标，因为本例数据集是MNIST，下标刚好就是类别。axis=1表⽰按⾏操作。
lf.y_pred = T.argmax(lf.p_y_given_x, axis=1)
#params，LogisticRegression的参数
lf.params = [lf.W, lf.b]
ok！这两个基本“构件”做好了，现在我们可以将它们“组装”在⼀起。
我们要三层的MLP，则只需要HiddenLayer+LogisticRegression，
如果要四层的MLP，则为HiddenLayer+以此类推。下⾯是三层的MLP：
