在中我们讨论了向量矩阵求导的9种定义与求导布局的概念。今天我们就讨论下其中的标量对向量求导标量对矩阵求导, 以及向量对向量求导这三种场景的基本求解思路。

　　　　对于本文中的标量对向量或矩阵求导这两种情况如前文所说，以分母布局为默认布局向量对向量求导，以分子布局为默认布局如遇到其他文章中的求导结果和本文不同，请先确认使用的求导布局是否一样另外，由于机器学习中向量或矩阵对标量求导的场景很少见本系列不会单独讨论这两种求导过程。

　　　　首先我们想到的是基于矩阵求导的定义来做由于所谓标量对向量的求导，其实就是标量对向量里的每个分量分别求导最后把求导的结果排列在一起，按一个向量表示而已那么我们可以将实值函数对向量的每一个分量来求导，最后找到规律得到求导的结果向量。

　　　　根据定义我们先对$\mathbf{x}$的第i个分量进行求导，这是一个标量对标量嘚求导如下：

　　　　我们对$\mathbf{x}$的第k个分量进行求导如下：

　　　　从上面可以看出，定义法求导对于简单的实值函数是很容易的但是複杂的实值函数就算求出了任意一个分量的导数，要排列出最终的求导结果还挺麻烦的因此我们需要找到其他的简便一些的方法来整体求导，而不是每次都先去针对任意一个分量再进行排列。

　　　　在我们寻找一些简单的方法前我们简单看下标量对向量求导的一些基本法则，这些法则和标量对标量求导的过程类似

　　　　1） 常量对向量的求导结果为0。

　　　　要注意的是如果不是实值函数则不能这么使用乘法法则。

 　　　　现在我们来看看定义法如何解决标量对矩阵的求导问题其实思路和第一节的标量对向量的求导是类似的,呮是最后的结果是一个和自变量同型的矩阵。

　　　　即求导结果在$(）