用一下程序简单实现使用parzen窗对正态分布的概率密度估计: (其中核函数选用高斯核) %run for parzen close all;clear all;clc; x=normrnd(0,1,1,10000);%从正态分布中产生样本 f=-5:0.01:5;%确定横坐标范 % N=100 h= 0.25 , 1, 4 p1=Parzen(x,0.25,10,f); p2 = Parzen(x,1,10,f); p3 = Parzen(x,4,10,f); subplot(331) plo…

本文简述了以下内容: (一)生成式模型的非参数方法 (二)Parzen窗估计 (三)k近邻估计 (四)k近邻分类器(k-nearest neighbor,kNN) (一)非参数方法(Non-parametric method) 对于生成式模型(Generative model)来说,重要的地方在于类条件概率密度 $p(\textbf x|\omega_i)$ 的估计.上一篇介绍的参数方法,假定其是一个固定的分布密度形式,然后估计这个显式表达的函数中未知的参数.但这里存在两个问题:首先,假定的形式…

核密度估计,或Parzen窗,是非参数估计概率密度的一种.比如机器学习中还有K近邻法也是非参估计的一种,不过K近邻通常是用来判别样本类别的,就是把样本空间每个点划分为与其最接近的K个训练抽样中,占比最高的类别. 直方图 首先从直方图切入.对于随机变量$X$的一组抽样,即使$X$的值是连续的,我们也可以划分出若干宽度相同的区间,统计这组样本在各个区间的频率,并画出直方图.下图是均值为0,方差为2.5的正态分布.从分布中分别抽样了100000和10000个样本: 这里的直方图离散地取了21个相互无交…

1.简介 Parzen窗估计属于非参数估计.所谓非参数估计是指,已知样本所属的类别,但未知总体概率密度函数的形式,要求我们直接推断概率密度函数本身. 对于不了解的可以看一下https://zhuanlan.zhihu.com/p/88562356 下面仅对<模式分类>(第二版)的内容进行简单探讨和代码实现 2.窗函数 我们不去过多探讨什么是窗函数,只需简单理解这种估计的思想即可. 假设一种情况,你正在屋里看模式分类,结果天降正义掉下来一盆乒乓球,掉的哪里都是,你觉得这是天意,如果很多乒乓球都掉…

来源:https://ww2.mathworks.cn/help/matlab/ref/figure.html?searchHighlight=figure&s_tid=doc_srchtitle figure 创建图窗窗口 全页折叠 语法 figure figure(Name,Value) f = figure(___) figure(f) figure(n)   说明 figure 使用默认属性值创建一个新的图窗窗口.生成的图窗为当前图窗. 示例 figure(Name,Value) 使用一…

来源:https://ww2.mathworks.cn/help/matlab/ref/figure.html?searchHighlight=figure&s_tid=doc_srchtitle figure 创建图窗窗口 全页折叠 语法 figure figure(Name,Value) f = figure(___) figure(f) figure(n)   说明 figure 使用默认属性值创建一个新的图窗窗口.生成的图窗为当前图窗. 示例 figure(Name,Value) 使用一…

(本文为原创学习笔记,主要参考<模式识别(第三版)>(张学工著,清华大学出版社出版)) 1.概念 将分类看做决策,进行贝叶斯决策时考虑各类的先验概率和类条件概率,也即后验概率.考虑先验概率意味着对样本总体的认识,考虑类条件概率是对每一类中某个特征出现频率的认识.由此不难发现,贝叶斯决策的理论依据就是贝叶斯公式. 2.理论依据 2.1 最小错误率贝叶斯决策 贝叶斯决策的基本理论依据就是贝叶斯公式(式1),由总体密度P(E).先验概率P(H)和类条件概率P(E|H)计算出后验概率P(H|E),判决…

机器学习新手,接触的是<机器学习实战>这本书,感觉书中描述简单易懂,但对于python语言不熟悉的我,也有很大的空间.今天学习的是k-近邻算法. 1. 简述机器学习 在日常生活中,人们很难直接从原始数据本身获得所需信息.而机器学习就是把生活中无序的数据转换成有用的信息.例如,对于垃圾邮件的检测,侦测一个单词是否存在并没有多大的作用,然而当某几个特定单词同时出现时,再辅以考虑邮件的长度及其他因素,人们就可以更准确地判定该邮件是否为垃圾邮件. 机器学习分为监督学习和无监督学习,其中: (1)监督学…

http://blog.csdn.net/pipisorry/article/details/53635895 核密度估计Kernel Density Estimation(KDE)概述 密度估计的问题 由给定样本集合求解随机变量的分布密度函数问题是概率统计学的基本问题之一.解决这一问题的方法包括参数估计和非参数估计. 参数估计 参数估计又可分为参数回归分析和参数判别分析.在参数回归分析中,人们假定数据分布符合某种特定的性态,如线性.可化线性或指数性态等,然后在目标函数族中寻找特定的解,即确定回…

机器学习实战 (豆瓣) https://book.douban.com/subject/24703171/ 机器学习是人工智能研究领域中一个极其重要的研究方向,在现今的大数据时代背景下,捕获数据并从中萃取有价值的信息或模式,成为各行业求生存.谋发展的决定性手段,这使得这一过去为分析师和数学家所专属的研究领域越来越为人们所瞩目. 本书第一部分主要介绍机器学习基础,以及如何利用算法进行分类,并逐步介绍了多种经典的监督学习算法,如k近邻算法.朴素贝叶斯算法.Logistic回归算法.支持向量机.Ada…