深度学习（54）
作者：洞庭之子
（2013年11月）
PDF下载地址：
看了Stanford的Andrew Ng老师的公开课中关于Logistic Regression的讲解，然后又看了《机器学习实战》中的LogisticRegression部分，写下此篇学习笔记总结一下。
首先说一下我的感受，《机器学习实战》一书在介绍原理的同时将全部的算法用源代码实现，非常具有操作性，可以加深对算法的理解，但是美中不足的是在原理上介绍的比较粗略，很多细节没有具体介绍。所以，对于没有基础的朋友（包括我）某些地方可能看的一头雾水，需要查阅相关资料进行了解。所以说，该书还是比较适合有基础的朋友。
本文主要介绍以下三个方面的内容：
（1）Logistic Regression的基本原理，分布在第二章中；
（2）Logistic Regression的具体过程，包括：选取预测函数，求解Cost函数和J(θ)，梯度下降法求J(θ)的最小值，以及递归下降过程的向量化（vectorization），分布在第三章中；
（3）对《机器学习实战》中给出的实现代码进行了分析，对阅读该书LogisticRegression部分遇到的疑惑进行了解释。没有基础的朋友在阅读该书的Logistic Regression部分时可能会觉得一头雾水，书中给出的代码很简单，但是怎么也跟书中介绍的理论联系不起来。也会有很多的疑问，比如：一般都是用梯度下降法求损失函数的最小值，为何这里用梯度上升法呢？书中说用梯度上升发，为何代码实现时没见到求梯度的代码呢？这些问题在第三章和第四章中都会得到解答。
文中参考或引用内容的出处列在最后的“参考文献”中。文中所阐述的内容仅仅是我个人的理解，如有错误或疏漏，欢迎大家批评指正。下面进入正题。
2. 基本原理
Logistic Regression和Linear Regression的原理是相似的，按照我自己的理解，可以简单的描述为这样的过程：
（1）找一个合适的预测函数（Andrew Ng的公开课中称为hypothesis），一般表示为h函数，该函数就是我们需要找的分类函数，它用来预测输入数据的判断结果。这个过程时非常关键的，需要对数据有一定的了解或分析，知道或者猜测预测函数的“大概”形式，比如是线性函数还是非线性函数。
（2）构造一个Cost函数（损失函数），该函数表示预测的输出（h）与训练数据类别（y）之间的偏差，可以是二者之间的差（h-y）或者是其他的形式。综合考虑所有训练数据的“损失”，将Cost求和或者求平均，记为J(θ)函数，表示所有训练数据预测值与实际类别的偏差。
（3）显然，J(θ)函数的值越小表示预测函数越准确（即h函数越准确），所以这一步需要做的是找到J(θ)函数的最小值。找函数的最小值有不同的方法，Logistic Regression实现时有的是梯度下降法（Gradient Descent）。
3. 具体过程
3.1& 构造预测函数
Logistic Regression虽然名字里带“回归”，但是它实际上是一种分类方法，用于两分类问题（即输出只有两种）。根据第二章中的步骤，需要先找到一个预测函数（h），显然，该函数的输出必须是两个值（分别代表两个类别），所以利用了Logistic函数（或称为Sigmoid函数），函数形式为：
对应的函数图像是一个取值在0和1之间的S型曲线（图1）。
接下来需要确定数据划分的边界类型，对于图2和图3中的两种数据分布，显然图2需要一个线性的边界，而图3需要一个非线性的边界。接下来我们只讨论线性边界的情况。
对于线性边界的情况，边界形式如下：
构造预测函数为：
hθ(x)函数的值有特殊的含义，它表示结果取1的概率，因此对于输入x分类结果为类别1和类别0的概率分别为：
3.2& 构造Cost函数
Andrew Ng在课程中直接给出了Cost函数及J(θ)函数如式（5）和（6），但是并没有给出具体的解释，只是说明了这个函数来衡量h函数预测的好坏是合理的。
实际上这里的Cost函数和J(θ)函数是基于推导得到的。下面详细说明推导的过程。（4）式综合起来可以写成：
取似然函数为：
对数似然函数为：
最大似然估计就是要求得使l(θ)取最大值时的θ，其实这里可以使用梯度上升法求解，求得的θ就是要求的最佳参数。但是，在Andrew Ng的课程中将J(θ)取为（6）式，即：
因为乘了一个负的系数-1/m，所以J(θ)取最小值时的θ为要求的最佳参数。
3.3& 梯度下降法求J(θ)的最小值
求J(θ)的最小值可以使用梯度下降法，根据梯度下降法可得θ的更新过程：
式中为α学习步长，下面来求偏导：
上式求解过程中用到如下的公式：
因此，（11）式的更新过程可以写成：
因为式中α本来为一常量，所以1/m一般将省略，所以最终的θ更新过程为：
另外，补充一下，3.2节中提到求得l(θ)取最大值时的θ也是一样的，用梯度上升法求（9）式的最大值，可得：
观察上式发现跟（14）是一样的，所以，采用梯度上升发和梯度下降法是完全一样的，这也是《机器学习实战》中采用梯度上升法的原因。
3.4& 梯度下降过程向量化
关于θ更新过程的vectorization，Andrew Ng的课程中只是一带而过，没有具体的讲解。
《机器学习实战》连Cost函数及求梯度等都没有说明，所以更不可能说明vectorization了。但是，其中给出的实现代码确是实现了vectorization的，图4所示代码的32行中weights（也就是θ）的更新只用了一行代码，直接通过矩阵或者向量计算更新，没有用for循环，说明确实实现了vectorization，具体代码下一章分析。
文献[3]中也提到了vectorization，但是也是比较粗略，很简单的给出vectorization的结果为：
且不论该更新公式正确与否，这里的Σ(...)是一个求和的过程，显然需要一个for语句循环m次，所以根本没有完全的实现vectorization，不像《机器学习实战》的代码中一条语句就可以完成θ的更新。
下面说明一下我理解《机器学习实战》中代码实现的vectorization过程。
约定训练数据的矩阵形式如下，x的每一行为一条训练样本，而每一列为不同的特称取值：
约定待求的参数θ的矩阵形式为：
& & & & &&
先求x.θ并记为A：
求hθ(x)-y并记为E：
g(A)的参数A为一列向量，所以实现g函数时要支持列向量作为参数，并返回列向量。由上式可知hθ(x)-y可以由g(A)-y一次计算求得。
再来看一下（15）式的θ更新过程，当j=0时：
同样的可以写出θj，
综合起来就是：
综上所述，vectorization后θ更新的步骤如下：
（1）求A=x.θ；
（2）求E=g(A)-y；
（3）求θ:=θ-α.x'.E,x'表示矩阵x的转置。
也可以综合起来写成：
前面已经提到过：1/m是可以省略的。
4. 代码分析
图4中是《机器学习实战》中给出的部分实现代码。
sigmoid函数就是前文中的g(z)函数，参数inX可以是向量，因为程序中使用了的numpy。
gradAscent函数是梯度上升的实现函数，参数dataMatin和classLabels为训练数据，23和24行对训练数据做了处理，转换成numpy的矩阵类型，同时将横向量的classlabels转换成列向量labelMat，此时的dataMatrix和labelMat就是（18）式中的x和y。alpha为学习步长，maxCycles为迭代次数。weights为n维（等于x的列数）列向量，就是（19）式中的θ。
29行的for循环将更新θ的过程迭代maxCycles次，每循环一次更新一次。对比3.4节最后总结的向量化的θ更新步骤，30行相当于求了A=x.θ和g(A)，31行相当于求了E=g(A)-y，32行相当于求θ:=θ-α.x'.E。所以这三行代码实际上与向量化的θ更新步骤是完全一致的。
总结一下，从上面代码分析可以看出，虽然只有十多行的代码，但是里面却隐含了太多的细节，如果没有相关基础确实是非常难以理解的。相信完整的阅读了本文，就应该没有问题了！^_^。
【参考文献】
[1]《机器学习实战》——【美】Peter Harington
[2] Stanford机器学习公开课（）
参考知识库
* 以上用户言论只代表其个人观点，不代表CSDN网站的观点或立场
访问：87445次
积分：3516
积分：3516
排名：第8393名
原创：237篇
转载：190篇
评论：16条
(1)(8)(12)(4)(20)(45)(68)(42)(46)(70)(71)(40)(5)(6)时间： 16:59:00
&&&& 阅读：34
&&&& 评论：
&&&& 收藏：0
标签：&&&&&&&&&&&&&&&&&&&&&&&&&&&Ok，目前我们已经有了一个比较复杂的网络，其中参数theta是我们想要求出来的值。
寻找最好的函数，就是为神经网络选取一组最好的系数theta使得损失函数最小。但，显然我们不能通过遍历的方式进行寻找系数。例如含有1000个neuron的两层神经网络结构中，第一层的输出为1000个值，对应第二层的每个neuron就有1000个weights，所以需要的参数就是00（偏置）。
梯度下降算法是最优化求解中常用的经典算法，把损失函数作为所求参数的函数。然后通过利用函数的梯度和学习步长，不断迭代寻找最优参数，优点是适用面广，速度快，缺点是只能获得局部最优
&例如，损失函数为L，参数集合为theta，是关于omega的函数。
每次沿着负梯度方向移动：
通过不断迭代，最终得到一个局部最优解。下面为一个例子：
梯度下降十分经典，相关资料很多，这里不进行复述。这里主要讲讲梯度下降训练神经网络和神经网络中前向，后向传播算法的关系。
首先，整个函数的损失函数为L，对损失函数进行求导，得到theta的初始导数，然后根据学习步长与导数不断更新。
为了更新，我们需要求得损失函数的导数，需要用到链式法则，具体如下：
损失函数是所有损失的累加。但是损失函数对系数omega的导数不能直接求出，需要传递：
例如，求上图中红色三角区域内参数（w1和w2），通过链式法则我们可以得到该梯度由两部分组成,具体如下：
所有参数的导数（z对w的导数），这部分由前向传播决定；激活函数输入的梯度（c对z的导数），这部分由后向传播决定，所以需要配合使用。其中还有其他层的梯度信息，暂时用问号代替。
惊喜的发现，所有参数的梯度竟然就是与权值相连的输入值。问号是指网络中所有与权值相连的如输入值，Amazing！
&所以，我们得到了全部参数的导数之后，就开始计算激活函数输入的导数：
计算包含两部分，一个是激活函数本身的导数，对于一个固定结构的神经网络，sigma（z）的导数是固定的。
而损失函数L对a的导数则可以通过链式法则得到。其中W是已知的，只需要计算C与Z‘和Z‘‘的导数。
进一步归纳如下：
首先sigma（z）的导数是常数，只需要计算C与Z‘和Z‘‘的导数.
记住C对z的导数结构，递归执行这个结构得到所有的结果，例如C对z‘的导数仍然是这个结构。
记住C对z的导数结构，递归执行这个结构得到所有的结果，例如C对z‘的导数仍然是这个结构。
如何计算C与Z‘和Z‘‘的梯度？第一种情况，该计算发生在输出层，十分好计算。
如何计算C与Z‘和Z‘‘的梯度？第二种情况，该计算发生在非输出层。
进行递归形式的计算即可，直至递归至输出层.
例如下图中z‘的导数，就是由后面两条红色线的路径结果得到。其格式与下列公式相同：
计算损失函数C与所有激活函数输入Z的导数。递归地从输出层开始计算
最后将两部分结合到一起，得到损失函数与W的梯度。
其实，网络中就有两个函数：
和激活函数：
所以，在求导的时候，要先对z求导，然后对w求导。这中间用到了链式法则。
为了求得神经网络的最优系数，我们需要使用梯度下降算法。而梯度下降算法中的梯度需要通过前向传播算法和后向传播算法共同计算。神奇的是梯度需要计算的值非常少（大多数已知），所以速度非常快。标签：&&&&&&&&&&&&&&&&&&&&&&&&&&&原文：/Matrix420/p/6791895.html
教程昨日排行
&&国之画&&&& &&&&&&
&& &&&&&&&&&&&&&&
鲁ICP备号-4
打开技术之扣，分享程序人生！}