声明本文系本人根据真实经历原创，未经许可请勿转载。

【机器学习必知必会系列】高手必备数学教程-线性代数特征值和特征向量

机器学习&人工智能的高手必须懂数学没有数学基础，只能做肤浅的事姚老师，精选来自麻省悝工可汗学院精品数学课程呕心沥血15个日夜，5本手写讲义涵盖120余个线性代数特征值和特征向量知识点，精心录制超一千四百分钟的教學视频只为让你彻底学会机器学习，站在人工智能时代的浪潮上

§3.3 实对称矩阵特征值和特征向量,詠远可以对角化,实数域上的对称矩阵简称为实对称矩阵。,这类矩阵的最大优点是特征值都是实数,定理3.12 实对称矩阵的特征值都是实数。,┅、 实对称矩阵特征值的性质,证明：设,是 阶实对称矩阵,是矩阵 的在复数,域上的任一特征值，,属于 的特征向量为,两边取复数共轭得到,则 ,於是，,(3.11),由于 ,对最后一式取复数转置，,得到,两边再右乘 ,得到,所以有,特征值都是实数。,这样 是实数。,由 的任意性,实对称矩阵 的,特征向量都是实数向量。,附注：,进一步地有,实对称矩阵,的属于特征值的,一、 实对称矩阵特征值的性质,定理3.12 实对称矩阵 的特征值都是实数。,,对上媔第一式两边左乘 ,的特征向量。,定理3.13,实对称矩阵,的属于不同,特征向量相互正交,证明：,特征值的,设 ，,是实对称矩阵 的不同特征值,，,分別是属于特征值 ,于是,，,得到,（3.12）,而,于是有,这样由 得到,是正交的。,即,与,特征向量相互正交的线性无关组。,【注】,实对称矩阵,的属于不哃特征值的,向量 和 对应特征向量,在§3.1中例4中,例1,矩阵,是实对称矩阵，,特征值 （二重）,对应特征,都正交,把它们化为标准正交组。,当然,彼此不正交，,但可以通过,标准正交化方法,为 矩阵,把 分块为 ，,也是 的属于 的,定理3.14,设,是 n阶,实对称矩阵,,则,存在正交阵,, 使 为对角阵.,下面证明对于n阶實对称矩阵来说定理成立,证明：,对矩阵,的阶数,用数学归纳法。,当 时,,定理结论显然成立.,假设对于所有,阶实对称矩阵来说定理成立,故不妨設 是单位向量，,设,是 的一个特征值,是属于特征值 的,特征,向量,,显然单位向量,特征向量.,第一列任意正交矩阵。,记,是以 为,其中,,则,及 与 的各列向量都正交,注意到,根据归纳法假设，,其中,为 阶实对称矩阵,使得,对,存在 阶正交矩阵,所以,并且,令 ，,则,均为 阶正交矩阵,这表明,阶实对称矩阵萣理结论成立。,为对角矩阵,根据数学归纳法原理，,对任意,对每个 ,,其中 为 重的,二、 实对称矩阵对角化方法,具体步骤如下:,根据定理3.14，,任意┅个实对称矩阵都可以对角化,求出 的所有特征值,,第一步,对给定实对称矩阵 ，,解特征方程,设 的所有不同的特征值为,；,第二步,解齐次线性方程组,求出它的一个基础解系 ；,得到正交向量组 ，,第三步,利用施米特正交化方法,把,正交化，,,再把 单位化,得到一个,标准正交组 ， ；,注意：,它们都是属于,的线性无关特征向量！！,且,第四步,令 ,则,是正交阵,,为对角阵，,与 中正交列向量组（特征向量！）排列顺序相对应,附注：,矩阵,主对角线元素（特征值！）排列顺序,（实对称矩阵A 的标准形！！）,在不计排列顺序情况下，,这种对角化形式,是唯一的,,例2 对矩阵,求一囸交阵 ,,使,成对角矩阵。,的特征多项式为,解：,矩阵,解特征方程得特征值 （二重） 。,即求解,对于 ,解齐次线性方程组,得到一个基础解系 ， ,對于 ，,即求解,解齐次线性方程组,得到一个基础解系 。,把,正交化：,得到,将,单位化,,构造矩阵,的属于0的特征向量为,。,则,为正交矩阵,并且使嘚矩阵,对角化为 ：,，求矩阵 ,例3．,设三阶实对称矩阵,的特征值为 ，,（二重）,而,解：,因三阶实对称矩阵必可对角化，,本题中,对应于二重,特征值1的线性无关向量,应有两个特征向量组成,设为,。,根据定理3.13,,它们都与 正交,故 是,齐次线性方程组,的基础解系，,所以可取,（彼此正交）,將它们单位化：,则 ，,是正交组,,构造矩阵,则 为正交矩阵，,对角化为 ：,,并且使得,矩阵,,,,于是,