《统计学习方法》极简笔记P4：朴素贝叶斯公式推导

【《统计学习方法》极简笔记P4：朴素贝叶斯公式推导】的更多相关文章

《统计学习方法》极简笔记P4：朴素贝叶斯公式推导

<统计学习方法>极简笔记P4:朴素贝叶斯公式推导朴素贝叶斯基本方法通过训练数据集 T={(x_1,y_1),(x_2,y_2),(x_N,y_N)...,(x_1,y_1)} 学习联合概率分布P(X,Y),即学习先验概率分布 P(Y=c_k) 条件概率分布$P(X=x|Y=c_k)$ $k=1,2,...,K$ 假设条件独立 $P(X=x|Y=c_k)=\prod_{j=1}^{n}P(X^{(j)}=x^{(j)}|Y=c_k)$ 然后根据学习到的模型计算后验概率分布,根据贝叶斯定理 $…

《统计学习方法》极简笔记P5：决策树公式推导

<统计学习方法>极简笔记P2:感知机数学推导 <统计学习方法>极简笔记P3:k-NN数学推导 <统计学习方法>极简笔记P4:朴素贝叶斯公式推导…

《统计学习方法》极简笔记P2：感知机数学推导

感知机模型输入空间是$\chi\subseteq\mathbb{R}^n$,输出空间是$y={+1,-1}$ 感知机定义为:$f(x)=sign(wx+b)$ 感知机学习策略输入空间任一点$x_0$到超平面S的距离: $\frac{1}{||w||}|wx_0+b|$ 误分类数据$(x_i,y_i)$,有$-y_i(wx_i+b)>0$ 误分类点$x_i$到超平面S的距离$-\frac{1}{||w||}y_i(wx_i+b)$ 误分类点集合M,所有误分类点到超平面S的距离 $-\frac{…

统计学习方法笔记 -- KNN

K近邻法(K-nearest neighbor,k-NN),这里只讨论基于knn的分类问题,1968年由Cover和Hart提出,属于判别模型 K近邻法不具有显式的学习过程,算法比较简单,每次分类都是根据训练集中k个最近邻,通过多数表决的方式进行预测.所以模型需要保留所有训练集数据,而象感知机这样的模型只需要保存训练后的参数即可,训练集不需要保留 K近邻算法 K近邻法三要素和其他统计学习方法不同的,K近邻法的三要素是,k值的选择,距离度量和分类决策规则距离度量首先如何定义"近"?…

统计学习方法（李航）朴素贝叶斯python实现

朴素贝叶斯法首先训练朴素贝叶斯模型,对应算法4.1(1),分别计算先验概率及条件概率,分别存在字典priorP和condP中(初始化函数中定义).其中,计算一个向量各元素频率的操作反复出现,定义为count函数. # 初始化函数定义了先验概率和条件概率字典,并训练模型 def __init__(self, data, label): self.priorP = {} self.condP = {} self.train(data, label) count函数,输入一个向量,输出一个字典,包含…

我的第一个 Rails 站点：极简优雅的笔记工具－Raysnote

出于公司开发需求,这个暑假我開始搞Ruby on Rails.在业余时间捣鼓了一个在线笔记应用:http://raysnote.com.这是一个极简而优雅的笔记站点(至少我个人这么觉得的). 笔记支持所见即所得的编辑器.markdown语法,时时预览,代码高亮.表格.数学公式等. 除此之外,还具有保存网络文章的功能(类似read it later).对于一个对于书写和阅读有强迫症的人来说,我在Raysnote的中文排版设计.易用性设计上花了非常大的功夫.使得Raysnote具有简洁优雅的风格.阅…