本文用讲一下指定分布的随机抽样方法:MC(Monte Carlo), MC(Markov Chain), MCMC(Markov Chain Monte Carlo)的基本原理,并用R语言实现了几个例子:

1. Markov Chain (马尔科夫链)

2. Random Walk(随机游走)

3. MCMC具体方法:

3.1 M-H法

3.2 Gibbs采样

PS:本篇blog为ese机器学习短期班参考资料(20140516课程),课上讲详述。

下面三节分别就前面几点简要介绍基本概念,并附上代码。这里的概念我会用最最naive的话去概括,详细内容就看我最下方推荐的链接吧(*^__^*)

0. MC(Monte Carlo)

生成指定分布的随机数的抽样。

1. Markov Chain (马尔科夫链)

假设 f(t) 是一个时间序列,Markov Chain是假设f(t+1)只与f(t)有关的随机过程。

Implement in R:

  1. #author: rachel @ ZJU
  2. #email: zrqjennifer@gmail.com
  3. N = 10000
  4. signal = vector(length = N)
  5. signal[1] = 0
  6. for (i in 2:N)
  7. {
  8. # random select one offset (from [-1,1]) to signal[i-1]
  9. signal[i] = signal[i-1] + sample(c(-1,1),1)
  10. }
  11. plot( signal,type = 'l',col = 'red')

2. Random Walk(随机游走)

如布朗运动,只是上面Markov Chain的二维拓展版:

Implement in R:

  1. #author: rachel @ ZJU
  2. #email: zrqjennifer@gmail.com
  3. N = 100
  4. x = vector(length = N)
  5. y = vector(length = N)
  6. x[1] = 0
  7. y[1] = 0
  8. for (i in 2:N)
  9. {
  10. x[i] = x[i-1] + rnorm(1)
  11. y[i] = y[i-1] + rnorm(1)
  12. }
  13. plot(x,y,type = 'l', col='red')

3. MCMC具体方法:

MCMC方法最早由Metropolis(1954)给出,后来Metropolis的算法由Hastings改进,合称为M-H算法。M-H算法是MCMC的基础方法。由M-H算法演化出了许多新的抽样方法,包括目前在MCMC中最常用的Gibbs抽样也可以看做M-H算法的一个特例[2]。

概括起来,MCMC基于这样的理论,在满足【平衡方程】(detailed balance equation)条件下,MCMC可以通过很长的状态转移到达稳态。

【平衡方程】:
pi(x) * P(y|x) = pi(y) * P(x|y)
 
其中pi指分布,P指概率。这个平衡方程也就是表示条件概率(转化概率)与分布乘积的均衡.
 

3.1 M-H法

1. 构造目标分布,初始化x0

2. 在第n步,从q(y|x_n) 生成新状态y

3. 以一定概率((pi(y) * P(x_n|y)) / (pi(x) * P(y|x_n)))接受y <PS: 看看上面的平衡方程,这个概率表示什么呢?参考这里[1]>

implementation in R:

  1. #author: rachel @ ZJU
  2. #email: zrqjennifer@gmail.com
  3. N = 10000
  4. x = vector(length = N)
  5. x[1] = 0
  6. # uniform variable: u
  7. u = runif(N)
  8. m_sd = 5
  9. freedom = 5
  10. for (i in 2:N)
  11. {
  12. y = rnorm(1,mean = x[i-1],sd = m_sd)
  13. print(y)
  14. #y = rt(1,df = freedom)
  15. p_accept = dnorm(x[i-1],mean = y,sd = abs(2*y+1)) / dnorm(y, mean = x[i-1],sd = abs(2*x[i-1]+1))
  16. #print (p_accept)
  17. if ((u[i] <= p_accept))
  18. {
  19. x[i] = y
  20. print("accept")
  21. }
  22. else
  23. {
  24. x[i] = x[i-1]
  25. print("reject")
  26. }
  27. }
  28. plot(x,type = 'l')
  29. dev.new()
  30. hist(x)

3.2 Gibbs采样

 
第n次,Draw  from ,迭代采样结果接近真实p(\theta_1, \theta_2, ...)
 
也就是每一次都是固定其他参数,对一个参数进行采样。比如对于二元正态分布,其两个分量的一元条件分布仍满足正态分布:

 

那么在Gibbs采样中对其迭代采样的过程,实现如下:

  1. #author: rachel @ ZJU
  2. #email: zrqjennifer@gmail.com
  3. #define Gauss Posterior Distribution
  4. p_ygivenx <- function(x,m1,m2,s1,s2)
  5. {
  6. return (rnorm(1,m2+rho*s2/s1*(x-m1),sqrt(1-rho^2)*s2 ))
  7. }
  8. p_xgiveny <- function(y,m1,m2,s1,s2)
  9. {
  10. return  (rnorm(1,m1+rho*s1/s2*(y-m2),sqrt(1-rho^2)*s1 ))
  11. }
  12. N = 5000
  13. K = 20 #iteration in each sampling
  14. x_res = vector(length = N)
  15. y_res = vector(length = N)
  16. m1 = 10; m2 = -5; s1 = 5; s2 = 2
  17. rho = 0.5
  18. y = m2
  19. for (i in 1:N)
  20. {
  21. for(i in 1:K)
  22. {
  23. x = p_xgiveny(y, m1,m2,s1,s2)
  24. y = p_ygivenx(x, m1,m2,s1,s2)
  25. # print(x)
  26. x_res[i] = x;
  27. y_res[i] = y;
  28. }
  29. }
  30. hist(x_res,freq = 1)
  31. dev.new()
  32. plot(x_res,y_res)
  33. library(MASS)
  34. valid_range = seq(from = N/2, to = N, by = 1)
  35. MVN.kdensity <- kde2d(x_res[valid_range], y_res[valid_range], h = 10) #估计核密度
  36. plot(x_res[valid_range], y_res[valid_range], col = "blue", xlab = "x", ylab = "y")
  37. contour(MVN.kdensity, add = TRUE)#二元正态分布等高线图
  38. #real distribution
  39. # real = mvrnorm(N,c(m1,m2),diag(c(s1,s2)))
  40. # dev.new()
  41. # plot(real[1:N,1],real[1:N,2])

x分布图:

(x,y)分布图:

Reference:

1. http://www2.isye.gatech.edu/~brani/isyebayes/bank/handout10.pdf

2. http://site.douban.com/182577/widget/notes/10567181/note/292072927/

3. book:     http://statweb.stanford.edu/~owen/mc/

4. Classic: http://cis.temple.edu/~latecki/Courses/RobotFall07/PapersFall07/andrieu03introduction.pdf

from: http://blog.csdn.net/abcjennifer/article/details/25908495

MC, MCMC, Gibbs采样 原理&实现(in R)的更多相关文章

  1. MC, MCMC, Gibbs採样 原理&amp;实现(in R)

    本文用讲一下指定分布的随机抽样方法:MC(Monte Carlo), MC(Markov Chain), MCMC(Markov Chain Monte Carlo)的基本原理,并用R语言实现了几个样 ...

  2. MCMC随机采样

    1 MCMC蒙特卡罗方法 作为一种随机采样方法,马尔科夫链蒙特卡罗(Markov Chain Monte Carlo,以下简称MCMC)在机器学习,深度学习以及自然语言处理等领域都有广泛的应用,是很多 ...

  3. Gibbs采样

    (学习这部分内容大约需要50分钟) 摘要 Gibbs采样是一种马尔科夫连蒙特卡洛(Markov Chain Monte Carlo, MCMC)算法, 其中每个随机变量从给定剩余变量的条件分布迭代地重 ...

  4. MCMC(四)Gibbs采样

    MCMC(一)蒙特卡罗方法 MCMC(二)马尔科夫链 MCMC(三)MCMC采样和M-H采样 MCMC(四)Gibbs采样 在MCMC(三)MCMC采样和M-H采样中,我们讲到了M-H采样已经可以很好 ...

  5. 如何做Gibbs采样(how to do gibbs-sampling)

    原文地址:<如何做Gibbs采样(how to do gibbs-sampling)> 随机模拟 随机模拟(或者统计模拟)方法最早有数学家乌拉姆提出,又称做蒙特卡洛方法.蒙特卡洛是一个著名 ...

  6. 文本主题模型之LDA(二) LDA求解之Gibbs采样算法

    文本主题模型之LDA(一) LDA基础 文本主题模型之LDA(二) LDA求解之Gibbs采样算法 文本主题模型之LDA(三) LDA求解之变分推断EM算法(TODO) 本文是LDA主题模型的第二篇, ...

  7. MCMC等采样算法

    一.直接采样 直接采样的思想是,通过对均匀分布采样,实现对任意分布的采样.因为均匀分布采样好猜,我们想要的分布采样不好采,那就采取一定的策略通过简单采取求复杂采样. 假设y服从某项分布p(y),其累积 ...

  8. 关于LDA的gibbs采样,为什么可以获得正确的样本?

    算法里面是随机初始了一个分布,然后进行采样,然后根据每次采样的结果去更新分布,之后接着采样直到收敛. 1.首先明确一下MCMC方法. 当我们面对一个未知或者复杂的分布时,我们经常使用MCMC方法来进行 ...

  9. MCMC&Gibbs sampling

    Note of Markov Chain Monte Carlo and Gibbs Sampling :  http://pan.baidu.com/s/1jHpWY1o 序:A major lim ...

随机推荐

  1. ThinkPHP3.2.2 Widget扩展以及widget demo实例

    Widget扩展一般用于页面组件的扩展. 先说明Widget被调用的方法,你只需要在你的模板文件中使用这样的语法:{:W("Demo/demo_widget_method",arr ...

  2. ThinkPHP登录功能代码

    <?php /** * 后台登录控制器 */ Class LoginAction extends Action{ /** * 登录视图 */ Public function index(){ $ ...

  3. MySQL实用技巧

    自增Id重新计数  TRUNCATE TABLE 表名 获取最后插入数据的ID   SELECT LAST_INSERT_ID(); 使用"id1,id2,id3"当参数  FIN ...

  4. Cortex-M0(NXP LPC11C14)启动代码分析

    作者:刘老师,华清远见嵌入式学院讲师. 启动代码的一般作用 1.堆和栈的初始化: 2.向量表定义: 3.地址重映射及中断向量表的转移: 4.初始化有特殊要求的断口: 5.处理器模式: 6.进入C应用程 ...

  5. bootstrap如何给.list-group加上序号

    在bootstrap中,我们可以使用不带任何class的<ol>跟<li>来创建一个有序列表,但是如果加上list-group类,样式有了,但列表前面的数字却没了. Boots ...

  6. The Bus Driver Problem

    题目连接:http://acm.hust.edu.cn/vjudge/contest/view.action?cid=90648#problem/G 题意: 给每位司机分配一个白天和晚上的行车路线, ...

  7. 给自定义cell赋值

    搭建自定义cell-给自定义cell赋值的思路 1 主控制器 1.1导入头文件 #import "LHQInvestmentManagementCell.h" #import &q ...

  8. Struts2中的Action类(解耦方式,耦合方式)

    一.解耦方式 特点:对web资源进行了封装,便于单元测试. 实现:ActionContext和接口方式 1.ActionContext 特点:Action执行的上下文对象.保存了执行Action所需要 ...

  9. 使用Fiddler截断更改Request数据

    0x01 Fiddler介绍 Fiddler是一个http协议调试代理工具,它能够记录并检查所有你的电脑和互联网之间的http通讯,设置断点,查看所有的“进出”Fiddler的数据.(百度百科) 0x ...

  10. 允许浏览器跨域访问web服务端的解决方案

    今天和同事探讨了前后端如何真正实现隔离开发的问题,如果前端单独作为服务发布,势必会涉及到无法直接调用后端的接口的问题,因为浏览器是不允许跨域提交请求的. 所谓跨域访问,就是在浏览器窗口,和某个服务端通 ...