模式识别与机器学习 | 十一章概率图模型基础

2025/5/2 2:31:07 来源：https://blog.csdn.net/AI_STRAAY/article/details/144951545 浏览: 次关键词：模式识别与机器学习 | 十一章概率图模型基础

隐马尔科夫模型（Hidden Markov Model,HMM）

HMM是建模序列数据的图模型

1、第一个状态节点对应一个初始状态概率分布 $\pi =(\pi_1,...,\pi_N) ,\pi_i=P(y_1^i=1)$

2、状态转移矩阵A, $a_{ij}=P(y_{t+1}^j=1|y_t^i=1),1\leq i\leq N,1\leq j\leq N$

3、发射矩阵概率B $b_{ij}=P(x_{t}^j=1|y_t^i=1),1\leq i\leq N,1\leq j\leq M$

4、对特定的（x,y）的联合概率可以表示为 $p(x,y)=p(y_1)\prod _{t=1}^{T-1}p(y_{t+1|y_t})\prod _{t=1}^Tp(x_t|y_t)$

贝叶斯网络（有向概率图模型）

x与y独立： $x\perp y$

$p(x,y)=p(x)p(y)\\ p(x|y)=p(x)\\ p(y|x)=p(y)$

x,y在条件z下独立（条件独立） $x\perp y|z$

$p(x,y|z)=p(x|z)p(y|z)\\ p(x|y,z)=p(x|z)\\ p(y|x,z)=p(y|z)$

判断条件独立：已知中间节点y，球不能从x到达z

规则：

已知节点：反弹来自父节点的球p3，截止子节点来的球

未知节点：总能使其通过，还可使其反弹

贝叶斯网络参数：

二值变量：二项分布p,1-p 只有1个参数

条件分布 A->B:有2个参数

A,B->C :有4个参数

viterbi解码例题

1、HMM模型：

初始概率Π 1*N

盒子间的转移矩阵A N*N

发射矩阵B（给定盒子，选取每种水果的概率）N*M

2、 $t=1: V^i=\pi_ib[i,x_t]$

$t>1: V_t^i=b[i,x_t]max (a_{i,k}V^i_{t-1})$

相关资讯