卡尔曼滤波（Kalman Filter） 的进一步讨论

我们在上一篇文章中通过一个简单的样例算是入门卡尔曼滤波了。本文将以此为基础讨论一些技术细节。

卡尔曼滤波（Kalman Filter）

http://blog.csdn.net/baimafujinji/article/details/50646814

在上一篇文章中。我们已经对HMM和卡尔曼滤波的关联性进行了初步的讨论。參考文献【3】中将二者之间的关系归结为下表。

上表是什么意思呢？我们事实上能够以下的式子来表示，当中，w 和 v 分别表示状态转移 和 測量 过程中的不确定性，也即是噪声，既然是噪声就能够假设它们服从一个零均值的高斯分布。这事实上跟我们在上一篇文章中所给出的形式是一致的。也就是说我们觉得过去的状态假设是 x_t-1。那么当前状态x_t应该是 x_t-1的一个线性变换。而这个预计过程事实上是有误差的，用一个零均值的高斯噪声（概率分布）来表达。

相似地，当前的測量值y_t应该是真实值 x_t 的一个线性变换。而这个測量过程仍然是有误差的，也用一个零均值的高斯噪声（概率分布）来表达。

      (1)

上一节中我们还讲过，在 [t0, t1] 时间段内的測量为Y，对应的预计为，则当t = t1 时， 称为X(t)的预计（或者称为滤波）。当然如今我们也只须要将注意力放在滤波上。所以终于要求的应该是以下这个式子

依据条件概率的链式法则以及马尔科夫链的无记忆性，再去掉常值系数的情况下，就能够得到以下的结论（假设你对有关数学公式记得不是非常清楚能够參考http://blog.csdn.net/baimafujinji/article/details/50441927）

当中，P( x_t | y₁, … , y_t-1)就是Prediction（预測），由于它表示的意义是已知从1到t-1时刻的观測值y₁, … , y_t-1的情况下求 t 时刻的状态值x_t。

还有一方面，P( x_t | y₁, … , y_t)就是Update，由于它表示当我们已经获得y_t时。再对x_t 进行的一个更新（或修正）。

依据马尔科夫链的无记忆性，可知P( y_t | x_t, y₁, … , y_t-1) = P( y_t | x_t) 。

就预測部分而言。我们希望引入x_t-1。所以能够採用以下的方法（这事实上就是我们在处理普通贝叶斯网络时所用过的方法）

到此为止。事实上你应该能够看出来卡尔曼滤波就形成了一个递归求解的过程。也就是说。我们欲求P( x_t | y₁, … , y_t-1)，就须要先求P( x_t-1 | y₁, … , y_t-1)，而欲求P( x_t-1 | y₁, … , y_t-1)，就要先求P( x_t-2 | y₁, … , y_t-1) ……结合上一篇文章介绍的内容，事实上能够总结卡尔曼滤波的步骤例如以下

也就是说当t = 1时。我们依据观測值y₁去预计真实状态x₁，这个过程服从一个高斯分布。

然后。当t = 2时，我们依据上一个观測值y₁去预測当前的真实状态x₂，在获得该时刻的真实观測值y₂后，我们又能够预计出一个新的真实状态x₂。这时就要据此对由y₁预測的结果进行修正（Update），如此往复。

接下来，我们引入一个服从零均值高斯分布的（噪声）变量 Δx_t-1。

然后试着将Δx_t和Δy_t以Δx_t-1的形式来给出，并且处于方便的考虑。我们忽略掉公式（1）中的控制项 B 和 C。于是有

依据独立性假设，还可知例如以下结论（这些都是兴许计算推导过程中所须要的准备）：

以下我们要做的事情就是推导卡尔曼滤波的五个公式，在上一篇文章中，我们很多其它地是从感性的角度给出了这些公式。并没有给出具体的数学推导，接下来我们就要来完毕这项任务。

综上我们已经完整地给出了卡尔曼滤波的理论推导。

对于结论性的东西。你当然能够直接拿来使用。

在一些软件包中，卡尔曼滤波无非是一条命令或者一个函数就能搞定。

我们之所以还在这里给出它的具体推导，主要是鉴于这样的思想事实上在机器学习中也被广泛地用到，所以了解这些技术细节仍然十分有意义。

===================================================================================================

假设你是图像处理的同道中人，欢迎增加图像处理算法交流群（单击链接查看群号）。

參考文献：

【1】Stuart Russell and Peter Norvig. Artificial Intelligence: A Modern Approach. 3rd Edition.

【2】秦永元，张洪钺，汪叔华，卡尔曼滤波与组合导航原理，西北工业大学出版社

【3】徐亦达博士关于卡尔曼滤波的公开课，http://v.youku.com/v_show/id_XMTM2ODU1MzMzMg.html

【4】卡尔曼滤波的原理以及在MATLAB中的实现，http://blog.csdn.net/revolver/article/details/37830675