线性代数 --- 特征值与特征向量(下)

特征值与特征向量

Eigen Values & Eigen Vectors

Part III:如何求解特征向量与特征值

The Key Equation

\mathbf{det(A-\lambda I)=0}

对于一般矩阵A,如何找到他的特征值与特征向量?

Step I: Find λ first!

首先,我们有方程:

Ax=\lambda x

但这里有两个未知数,因此我们把上面的方程改写一下:

Ax=\lambda x\Rightarrow Ax=\lambda Ix\Rightarrow (A-\lambda I)x=0

        这个齐次方程的解就是矩阵(A-\lambdaI)的零空间,抛开平凡解全0向量不说。要想让矩阵的零空间存在非零向量,则矩阵的A必为奇异矩阵,即不可逆矩阵。同时,结合之前学到的行列式的概念,若一个矩阵是奇异矩阵,则矩阵的行列式为0。这样一来,我们就不用考虑未知数x,也就是特征向量,先求未知数\lambda,也就是特征值。如下:

det(A-\lambda I)=0

        这个方程是一个非常重要的方程(Key equation),叫特征值方程(Eigen-value equation)或者叫特征方程(characteristic equation)。

Step II: Substitue λ and solve equations!

         求解完特征值方程后会得到n个\lambda(可能会有相同的\lambda),把这些\lambda代入到经过改写后的方程组中,求解齐次方程组,或者说是求解零空间,得到相应的特征向量。

举个例子来说明上述求解过程:

A=\begin{bmatrix} 0 &1 \\ 1& 0 \end{bmatrix}

 对于上面提到过的置换矩阵A,第一步,我们先求det(A-λI)=0:

det(A-\lambda I)=\begin{vmatrix} -\lambda &1 \\ 1& -\lambda \end{vmatrix} =0

得到:

\lambda ^{2}-1=0\Rightarrow \lambda ^{2}=1

由此得到两个特征根:

\lambda _{1}=1, \lambda _{2}=-1

把第一个特征值λ=1代入改写后的方程:

(A-\lambda I)x=0\Rightarrow (A-I)x=0

其中(A-I)为:

A-I=\begin{bmatrix} -1 &1 \\ 1& -1 \end{bmatrix}

        对该矩阵消元得到矩阵U,找到主元列和自由列,其中与自由列位置所对应的向量x中的元素就是自由变量。设自由变量为一个任意数,求出相应的特解。

U=\begin{bmatrix} -1 &1 \\ 0& 0 \end{bmatrix}\Rightarrow -x_{1}+x_{2}=0

        消元矩阵U的秩为1,存在一个特解。第一列为主元列,第二列为自由列。因此,对应的自由变量为x2。令x2=1, 则x1=1得到一个特解,也就是我们要找的特征向量x:

x=\begin{bmatrix} 1\\ 1 \end{bmatrix},\lambda _{1}=1

相应的代入第二个特征值λ=-1:

(A-\lambda I)x=0\Rightarrow (A+I)x=0

A+I=\begin{bmatrix} 1 &1 \\ 1& 1 \end{bmatrix}

U=\begin{bmatrix} 1 &1 \\ 0& 0 \end{bmatrix}\Rightarrow x_{1}+x_{2}=0

令自由变量x2=1,则x1=-1:

x=\begin{bmatrix} -1\\ 1 \end{bmatrix},\lambda _{2}=-1

这里我们顺便基于矩阵的行列式和迹来验证一下两个特征根:

Trace=0+0=0        \lambda _{1}+\lambda _{2}=-1+1=0

det(A)=0-1=-1        \lambda _{1}*\lambda _{2}=-1*1=-1

特例 I:多个重复/相同的特征值会引发特征向量的短缺

令矩阵A为: 

A=\begin{bmatrix} 3 &1 \\ 0&3 \end{bmatrix}

先求特征值:

det(A-\lambda I)=\begin{vmatrix} 3-\lambda & 1\\ 0& 3-\lambda \end{vmatrix}=(3-\lambda)^{2}=0

这会得到两个重复的特征值:

\lambda _{1}=3,\lambda _{2}=3

带入其中一个特征值,并求特征向量:

(A-\lambda I)x=0\Rightarrow (A-3I)x=0

A-3I=\begin{bmatrix} 0 &1 \\ 0& 0 \end{bmatrix}

U=\begin{bmatrix} 0 &1 \\ 0& 0 \end{bmatrix}\Rightarrow x_{2}=0

令自由变量x1=1,得到:

x=\begin{bmatrix} 1\\ 0 \end{bmatrix},\lambda _{1}=3

         现在问题来了,如果你代入第二个特征向量(还是3),并重复上述操作,你是无法找到一个与第一个特征向量线性无关的另一个特征向量了。最多你只是令自由变量x1为一个其他数,然后得到一个特征向量,但最终你得到的这个特征向量与之前得到的那个是线性相关的。

        这个例子说明了一个矩阵的特征向量的线性相关性即取决于矩阵的维数也取决于是否存在重复的特征值。对于一个 2x2 的方阵,如果它有两个不同的特征值,那么就能得到两个线性无关的特征向量。但如果是两个重复的特征值,就只能得到一个特征向量或两个线性相关的特征向量。

特例 II:特征根为复数的情况

已知旋转矩阵Q,求Q的特征向量和特征值:

Q=\begin{bmatrix} 0 & -1\\ 1& 0 \end{bmatrix}

        这个旋转矩阵Q的作用是把任意向量旋转90°,这里我们会遇到问题。根据特征向量的意义,当矩阵Q作用于特征向量x后,向量Qx的方向应当与x相同。但这个要求明显与旋转矩阵Q的作用向左。换句话说,我们需要找出一个向量,他旋转90°仍在原处。

        其次,根据特征值的性质,我们同样也会发现类似的"Bug"。首先,这是一个2x2矩阵,因此有两个特征值\lambda _{1},\lambda _{2}。其次,我们还知道矩阵的迹等于两个特征值的和,矩阵的行列式等于两个特征值的乘积:

Trace=\lambda _{1}+\lambda _{2}=0

Det=\lambda _{1}\cdot \lambda _{2}=1

从第一个等式上说\lambda _{1},\lambda _{2}必定是一正一负,而如果这样的话他们的乘积必定是负数,这和第二个等式相违背。

现在,我们按照一般的方法去求解: 

det(Q-\lambda I)=\begin{vmatrix} -\lambda &-1 \\ 1& -\lambda \end{vmatrix}=\lambda ^{2}+1=0\Rightarrow \lambda ^{2}=-1

最终得到两个复根:

\begin{matrix} \lambda _{1}=i\\ \lambda _{2}=-i \end{matrix}

这两个复数的特征值正好满足和为0,且乘积为1。

带入第一个特征根i:

(Q-\lambda I)x=0\Rightarrow (Q-iI)x=0

Q-iI=\begin{bmatrix} -i &-1 \\ 1& -i \end{bmatrix}

U=\begin{bmatrix} -i &-1 \\ 0& 0 \end{bmatrix}\Rightarrow -ix_{1}-x_{2}=0

令自由变量x2=1,得到x1=1/-i=i:

x=\begin{bmatrix} i\\ 1 \end{bmatrix},\lambda _{1}=i

带入第二个特征根-i:

(Q-\lambda I)x=0\Rightarrow (Q+iI)x=0

Q+iI=\begin{bmatrix} i &-1 \\ 1& i \end{bmatrix}

U=\begin{bmatrix} i &-1 \\ 0& 0 \end{bmatrix}\Rightarrow ix_{1}-x_{2}=0

令自由变量x2=1,得到x1=1/i=-i:

x=\begin{bmatrix} -i\\ 1 \end{bmatrix},\lambda _{2}=-i


 (全文完)

作者 --- 松下J27 

 参考文献(鸣谢):

1,Introduction to Linear Algebra,Fifth Edition - Gilbert Strang

2,麻省理工Gilbert Strang教授线代大师-线性代数(全)_哔哩哔哩_bilibili

(配图与本文无关) 

版权声明:文中的部分图片,文字或者其他素材,可能来自很多不同的网站和说明,在此没法一一列出,如有侵权,请告知,立即删除。欢迎大家转载,但是,如果有人引用或者COPY我的文章,必须在你的文章中注明你所使用的图片或者文字来自于我的文章,否则,侵权必究。 ----松下J27

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/537600.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【gpt实践】同时让chatgpt和claude开发俄罗斯方块

最近chatgpt和claude都在使用,其实大部分日常使用场景表现都没有相差太多,想搞一个有趣的小实验,如果同时让chatgpt和claude开发俄罗斯方块谁会表现的更好呢,说干就干! prompt 我选择了用英文描述,毕竟英…

图像处理与图像分析—图像统计特性的计算(纯C语言实现灰度值显示)

根据输入的灰度图像,分别计算图像的均值、方差等统计特征,并计算图像的直方图特征并以图形方式显示图像的直方图(用C或C语言实现)。 学习将会依据教材图像处理与图像分析基础(C/C)版内容展开 在上个笔记中&…

windows批处理脚本(bat脚本指令)

一、常用批处理内部命令简介 批处理文件是将一系列命令按一定的顺序集合为一个可执行的文本文件,其扩展名为BAT或者CMD。这些命令统称批处理命令。 可以在键盘上按下CtrC组合键来强行终止一个批处理的执行过程。 二、常用命令 1、rem 和 ∷ 2、echo 和 3、…

【Python】成功解决NameError: name ‘plt‘ is not defined

【Python】成功解决NameError: name ‘plt’ is not defined 🌈 个人主页:高斯小哥 🔥 高质量专栏:Matplotlib之旅:零基础精通数据可视化、Python基础【高质量合集】、PyTorch零基础入门教程👈 希望得到您…

Java基础_内部类

文章目录 1.基本介绍1.定义:2.基本语法:3.内部类的分类 2.局部内部类1.快速入门2.局部内部类的使用 3.匿名内部类1.匿名内部类实现接口2.匿名内部类继承抽象类3.匿名内部类细节4.匿名内部类最佳实践1.匿名内部类作为实参传入函数2.匿名内部类课堂练习 4.…

算法详解——图的深度优先遍历和广度优先遍历

目录 一、图结构二、深度优先遍历2.1 图的遍历2.2 深度优先遍历过程2.3 深度优先遍历核心思想2.4 深度优先遍历实现 三、广度优先遍历3.1 广度优先遍历过程3.2 广度优先遍历核心思想3.3 广度优先遍历实现 参考文献 一、图结构 图结构指的是如下图所示的由节点和边组成的数据。 …

最新CLion + STM32 + CubeMX 开发环境搭建

网上有不少相关教程,但都是基于老版本Clion,新版有一些改变,但整体是简单了。 PS:本教程基于CLion 2023.3.4 安装所需工具参考:Clion搭建stm32开发环境(STM32F103C8T6),有这一篇就够…

【论文速读】| MOCK:上下文依赖引导的内核模糊测试

本次分享论文为:MOCK: Optimizing Kernel Fuzzing Mutation with Context-aware Dependency 基本信息 原文作者:Jiacheng Xu,Xuhong Zhang,Shouling Ji,Yuan Tian,Binbin Zhao, Qinying Wang&a…

ubuntu 23.04 安装 中文输入法

1、安装 fcitx sudo apt install fcitxfcitx 安装好后,可以使用 fcitx-configtool 命令进行配置,其界面如下所示。在这里可以配置不同输入法的切换快捷键,默认输入法等。刚安装系统后,这里只有一个输入法,所以接下来要…

如何建立自己的会员系统_打造专属会员系统

打造专属会员系统,尊享无限特权与惊喜 在如今信息爆炸的时代,无论是线上还是线下,各种服务、产品层出不穷,如何才能在激烈的市场竞争中脱颖而出,吸引并留住客户呢?答案就是——建立自己的会员系统。今天&a…

北大核心期刊《思想政治课教学》投稿有什么要求?

北核《思想政治课教学》收职教、中专、大学、中小学,职称没要求,学生可以 探寻智慧之源,倾听思想之声,欢迎投稿《思想政治课教学》。我们致力于搭建一个开放、前沿的学术交流平台,汇聚国内外思想政治课教学的最新研究成…

AP AUTOSAR 执行管理的秘密揭晓

本文主要分享执行管理和状态管理以及操作系统接口模块,这些功能集群是Adaptive AUTOSAR的核心部分。你们可能会问,什么是执行管理和状态管理?它们是不是很复杂很高深?其实不然,它们就像是你的汽车的大脑和心脏,它们控制着你的汽车软件的启动、运行和停止,以及与你的汽车…