线性代数高级--二次型--特征值与特征向量--特征值分解--多元函数的泰勒展开

目录

二次型

概念

示例  

性质和特点

特征值与特征向量

概念

示例 

注意

 性质和特点

 特征值分解

注意

多元函数的泰勒展开 

回顾一元函数泰勒展开

 多元函数的泰勒展开


二次型

概念

二次型是一个关于向量的二次多项式,通常用矩阵表示。

考虑一个n维向量x = [x₁, x₂, ..., xn],对应的二次型可以表示为:

Q(x) = xᵀA𝑥

其中,xᵀ表示向量x的转置,A是一个n×n的实对称矩阵。

示例  

二次型可以使用向量与矩阵相乘的形式表示 

为了研究方便,二次型使用x^T^Ax的形式表示,其中,中间的矩阵A为对称矩阵 

性质和特点

  1. 对称性:如果系数矩阵A是对称矩阵,即Aᵀ = A,那么二次型Q(x)是对称的,即Q(x) = Q(xᵀ)。

  2. 标准形式:通过合适的线性变换,可以将任何二次型转化为标准形式。标准形式是指二次型只包含平方项,而没有交叉项和常数项。通过正交变换可以实现这样的转化。

  3. 矩阵特征值:二次型的矩阵A的特征值与二次型的正负定性相关。如果A的所有特征值都大于零,则二次型是正定的;如果所有特征值都小于零,则二次型是负定的;如果特征值既有正又有负,则二次型是不定的。

  4. 几何意义:二次型在几何上表示为一个二次曲面或椭圆抛物面。二次型的正负定性与曲面的凸凹性和极值点的性质相关。

  5. 应用:二次型在优化问题、矩阵理论、统计学、物理学等领域中有广泛的应用。它们在最小二乘问题、二次规划、协方差矩阵分析、精确度矩阵等方面发挥重要作用。

特征值与特征向量

概念

设A是n阶方阵,如果数λ和n维非零向量x使关系式Ax = λx成立,那么,λ称为方阵A

的特征值;非零向量x称为A的属于特征值λ的特征向量。

示例 

则数3为方阵[4 -2,1 1]的特征值;非零向量(2,1)为方阵[4 -2,1 1]的属于特征值3的特征向量。

注意

  • 特征值与特征向量是针对方阵而言的
  • 特征向量是非零向量
  • 同一个特征值λ对应无穷多个特征向量

 性质和特点

  1. 特征向量:特征向量v是与特征值λ关联的非零向量。它表示在矩阵A的作用下,保持在该方向上只发生伸缩变化而不改变方向。

  2. 特征值:特征值λ是与特征向量v关联的标量。它表示特征向量v在矩阵A的作用下发生的伸缩比例。特征值可以是实数或复数。

  3. 特征空间:特征空间是由所有与特定特征值关联的特征向量所张成的向量空间。对于特定特征值λ,特征空间包含所有满足A·v = λ·v的特征向量v。

  4. 特征分解:特征分解是将一个矩阵分解为特征向量和特征值的形式。对于一个可对角化的矩阵,可以表示为 A = P·D·P⁻¹,其中P是由特征向量组成的矩阵,D是对角矩阵,其对角线上的元素是矩阵A的特征值。

  5. 特征值与矩阵性质:特征值与矩阵的很多性质和行为密切相关。例如,特征值的个数等于矩阵的秩;矩阵的特征值之和等于其主对角线上元素之和(迹);特征值的乘积等于矩阵的行列式。

 特征值分解

特征值分解是将一个矩阵分解成下面的形式:

其中Q是这个矩阵A的特征向量组成的矩阵,Σ是一个对角矩阵(只有对角线上有非0元

素的矩阵称为对角矩阵),对角线的值是由矩阵所有特征值构成的。

其中,Q是这个矩阵A的特征向量组成的矩阵,Σ是一个对角矩阵,每一个对角线元素

就是一个特征值,里面的特征值是由大到小排列的,这些特征值所对应的特征向量就是描述

这个矩阵变化方向(从主要的变化到次要的变化排列)。也就是说矩阵A的信息可以由其特

征值和特征向量表示。

对于矩阵为高维的情况下,那么这个矩阵就是高维空间下的一个线性变换。可以想象,

这个变换也同样有很多的变换方向,我们通过特征值分解得到的前N个特征向量,那么就对

应了这个矩阵最主要的N个变化方向。我们利用这前N个变化方向,就可以近似这个矩阵

(变换)。

注意

  • 特征值分解可以得到特征值与特征向量
  • 特征值表示的是这个特征到底有多重要,而特征向量表示这个特征是什么
  • 特征值分解是针对于方阵而言

多元函数的泰勒展开 

回顾一元函数泰勒展开

函数 f(x)在含 x~k~ 的某个开区间 (a,b)内具有直到 n 阶导数,则对任意的 x∈(a,b)有

其中,x~0~是泰勒公式的展开点,R~n~(x)是泰勒公式的余项。

展开二项的形式为:

 多元函数的泰勒展开

f(x~k~)是标量,而且是个常数;不过注意(x-x~k~)是个向量,然后T转置这里是把梯度和

(x-x~k~)做内积;二次项的内积,是和 hessian 矩阵做内积。

 多元函数泰勒展开是非常有用的,例如在推导梯度下降法,牛顿法的时候会用的到的。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/4414.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

有哪些免费好用的Python IDE(集成开发环境)?

工欲善其事,必先利其器。Python的学习过程少不了集成开发编辑环境(IDE)。这些Python IDE会提供插件、工具等帮助开发者加快使用Python开发的速度,提高效率。这里收集了一些对开发者非常有帮助的Python IDE(来自hittp://doc.okbase.net/havoc/archive/242…

Gitlab 双重认证和访问令牌的使用

目录 引言 1、双重认证让项目只能使用访问令牌克隆 2、创建项目访问令牌 3、创建群组访问令牌 引言 双重认证可以提高用户账户的安全性,防止密码泄露,他人随意登录。 访问令牌就相当于项目或群组的访问密码,有了它就可以克隆项目。同时访…

「STC8A8K64D4开发板」第2-6讲:串口通信

第2-6讲:串口通信 学习目的掌握USB转串口电路的原理和设计。学习STC8A8K64D4的串口通信,包括串口初始化、波特率计算、串口发送和接收。编写串口收发程序,尤其是串口接收的软件缓存处理。编写串口发送命令控制LED指示灯亮灭的程序。 硬件电路…

pikache靶场通关——SSRF攻击

文章目录 前言环境第一关、SSRF(curl)Step.1、http协议链接本地文件Step.2、file协议读取C盘下的配置文件Step.3、dict协议扫描内网其他主机的端口开放情况Step.4、使用burp扫描内网其他主机的端口开放情况Step.5、后端源码分析 第二关、SSRF(file_get_c…

SpringBoot小结

目录 基本介绍 SpringBoot快速入门 开发步骤 1.创建新模块 2 .创建 Controller 3 启动服务器 可能会出现的问题:端口被占用 解决方法: 1. 暴力:找到占用的端口号,并且找到对应的进程,杀死该进程,释放…

计算机网络-数据链路层上篇

目录 一、数据链路层概述 二、封装成帧 三、差错检测 (一)奇偶校验 (二)循环冗余校验CRC 四、可靠传输 (一)停止-等待协议SW (二)后退N帧协议GBN (三&#xff…

AutoSAR系列讲解(入门篇)4.6-BSW的Watchdog功能

一、架构与术语解释 前面都挺难的吧?实践出真知,后面实践篇的时候,大家应该就能明白了。这一节就来讲个简单的功能------看门狗。看门狗想必大家应该都再熟悉不过了吧,主要就下面三层结构,简单明了,这节确实…

mac 文件批量重命名001开始

mac 文件批量重命名001开始,怎么操作?我们平时在整理办公文件的时候,经常需要对文件的名称进行修改,将文件修改为数字形式的名称,例如001、002、003、004......这样的形式,尤其是某项工作涉及非常多文件的时…

进程的基本概念解读

目录 什么是进程 PCB OS中用于管理控制的数据结构 进程控制块PCB的作用 进程控制块中的信息 前趋图 背景 作用 表示 示例 程序的顺序执行 程序顺序执行的特征 程序的并发执行 程序的并发执行的特征 例题解读 进程的三种基本状态 进程的三种状态之间的转换 进…

Spring面试题--Spring的bean的生命周期

这个问题比较困难,设计到了spring的底层,但是通过这个的学习,可以帮助我们了解Spring容器是如何管理和创建bean实例,以及方便调试和解决问题。 BeanDefinition bean的定义信息,Spring容器在进行实例化时,…

初学mybatis(二)CRUD操作及配置解析

学习回顾:初学mybatis(一) 一、namespace 1、将上面案例中的UserMapper接口改名为 UserDao;2、将UserMapper.xml中的namespace改为为UserDao的路径 .3、再次测试 结论: 配置文件中namespace中的名称为对应Mapper接口或…