多元统计分析(4):判别分析

4.1 判别分析的目标

主要目的:判别一个个体所属类别

4.2 距离判别

都选用用马氏距离

4.2.1 判别准则

化简的证明:

W(x)为判别函数,a为判别系数。

4.2.2 误判概率

【1】当两个正态总体的协方差相同

证明:

当两个正态总体重合的时候误判概率是1/2

所以只有当两个总体的均值相差较大时,进行判别分析才有意义

4.2.3 怎样定义均值相差较大呢????(假设检验)

(1)理论知识

(2)假设检验例子

4.2.4 例题1:当协方差和均值已知

4.2.5 例题2:当协方差和方差未知

4.2.6 python代码实现

#coding=utf-8
import numpy
x = numpy.array([[3,4],[5,6],[2,2],[8,4]])
print("x矩阵的维度:",x.ndim)  # 二维向量组成的矩阵
xT = x.T
D = numpy.cov(xT)
invD = numpy.linalg.inv(D)
tp = x[0] - x[1]
print(numpy.sqrt(numpy.dot(numpy.dot(tp, invD), tp.T)))

4.3 贝叶斯判别

4.3.1 贝叶斯最大后验概率判别的例子

4.3.2 误判代价最小化的贝叶斯判别

(1)理论

【1】有两个类时

证明:

【有多个类时】

建议第二类的时候也用这个判断这样就会错了!

(2)例题

【只有两个类的时候】

先计算 最小ECM判别规则: 

【有三个类】

4.4 Fisher判别

(1)理论

给一个向量,样本值全投影在这个向量上!注意Fisher判别的数据是有标签的,但是主成分分析的数据是没有标签的!

则可以把x这个集合映射到a这个几何上

1、对每个类算均值

对于二分类问题:

而Fisher判别式要找一个最好的w,使投影后的点分的比较开

完全的分开:类与类均值相差大,且同类之间的散度(利用方差的概念定义散度)比较低

这变成一个多目标优化问题,多目标优化一般考虑变成单目标优化!

在Fisher中,利用一元方差检验:

则这个问题就变成 最大化\frac{W^TBW^T}{W^TEW^T}

求解最大值,其中参数使W。则对W求导:

总体计算思路:

特征值就是最后的解????

最后的解: \lambda _1是最大的特征根,而解(向量W)是特征值\lambda _1对应的单位特征向量!!!

当有两个判别函数的时候,会产生两个y值就相当于把原来的点投影到二维的平面上!

当有一个判别函数的时候,就相当于把原来的点投影到一条直线上!

投影后得到二维数据之后,用距离判别或者贝叶斯判别的方法将新样本进行分类即可!!

具体选用多少判别函数呢?

主要根据贡献率:

Fisher判别的思想是:投影(旋转坐标系?或者降维?),将k组p维数据投影到某个地方,使组与组之间的投影尽可能分开。

衡量之间组与组之间的分离程度:fisher采用了一元方差分析(F检验!!!)的思想。

(2)例题

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/318455.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ctfshow 元旦水友赛 月月的爱情故事(复现)

读了题目的文字,然后被刀了…… 但还是要向前看,做一个坚强又勇敢的人 好了碎碎念结束 一、原题 原题就是一段文字,一串字符和一个hint。 二、解题过程 1.base64解码 首先看到那行字符很像base64,那就先解码base64试一试嘛&a…

[C语言]比特鹏哥

主页有博主其他上万字精品笔记,都在不断完善更新! C语言 初识C语言 基本了解C语言的基础知识,对C语言有一个大概的认识。 每个知识点就是简单认识,不做详细讲解,后期课程都会细讲。 本章重点: 什么是C语言 第一个C语言程序 数据…

QT基础知识

QT基础知识 文章目录 QT基础知识1、QT是什么2、Qt的发展史3、为什么学习QT4、怎么学习QT1、工程的创建(环境的下载与安装请百度)2、创建的工程结构说明3、怎么看帮助文档1、类使用的相关介绍2. 查看所用部件(类)的相应成员函数(功…

用js让用户输入一个数累加和

需求&#xff1a;用户输入一个数&#xff0c; 计算 1 到这个数的和。 比如 用户输入的是 5&#xff0c; 则计算 1~5 之间的累加和 并且输出到控制台 <body><script>let numprompt(请输入一个数)let sum0for(let i1;i<num;i){sumi}console.log(sum)</script…

【Java进阶篇】Java中Timer实现定时调度的原理(解析)

Java中Timer实现定时调度的原理 ✔️ 引言✔️JDK 中Timer类的定义✔️拓展知识仓✔️优缺点 ✔️ 引言 Java中的Timer类是用于计划执行一项任务一次或重复固定延迟执行的简单工具。它使用一个名为TaskQueue的内部类来存储要执行的任务&#xff0c;这些任务被封装为TimerTask对…

阿里云性能测评ESSD Entry云盘、SSD云盘、ESSD和高效云盘

阿里云服务器系统盘或数据盘支持多种云盘类型&#xff0c;如高效云盘、ESSD Entry云盘、SSD云盘、ESSD云盘、ESSD PL-X云盘及ESSD AutoPL云盘等&#xff0c;阿里云百科aliyunbaike.com详细介绍不同云盘说明及单盘容量、最大/最小IOPS、最大/最小吞吐量、单路随机写平均时延等性…

语音AI小夜灯项目

一、项目简介 使用ESP32-S3N8R8模块作为主控芯片&#xff0c;S3内核增加了用于加速神经网络计算和信号处理等的指令&#xff0c;这使得我们可以使用它来快速解析训练好的语音模型进行语音识别的功能。 二、原理解析 本项目由四个部分组成&#xff0c;电源部分、LED照明部分、…

作业--day41

利用模板类完成顺序表 #include <iostream>using namespace std;//模板类 template <typename T> class SeqTab{T arr[20];int maxsize; public:SeqTab():maxsize(0){}void Insert(T a);void Search(T a);void Delete(int index);void Show(); };//尾插 template …

《合成孔径雷达成像算法与实现》Figure5.13

clc clear close all距离向参数 R_eta_c_1 450; % 景中心斜距 R_eta_c_2 850; % 景中心斜距 R_eta_c_3 1250; % 景中心斜距方位向参数 c 3e8; f0 5.3e6; Vr 7100; Ta 0.64; % 目标照射时间 Ka 2095; % 方位向调频率 theta_r_c 0; % 斜视角参数计算…

C语言实例_math.h库函数功能及其用法详解

一、前言 数学在计算机编程中扮演着至关重要的角色&#xff0c;C语言的math.h头文件提供了一系列的函数和工具&#xff0c;用于数学计算和常用数学函数的实现。这些函数包括数值运算、三角函数、指数对数函数等&#xff0c;为开发人员提供了强大的数学处理能力。本文将对math.…

C++-类和对象(2)

1.类的6个默认成员函数 如果一个类中什么成员都没有&#xff0c;简称为空类。 空类中真的什么都没有吗&#xff1f;并不是&#xff0c;任何类在什么都不写时&#xff0c;编译器会自动生成以下 6 个默认成员 函数。 默认成员函数&#xff1a;用户没有显式实现&#xff0c;编译…

layui 日期不能重新渲染

需求&#xff1a;当用户选择开始日期的时候&#xff0c;结束日期要小于开始日期。 遇到的问题&#xff1a; 当切换开始时间时&#xff0c;结束时间的输入框不会被重新渲染。 解决&#xff1a; html代码&#xff1a; <div class"layui-form-item"><label…