宁波网络建站模板,wordpress手机版,百度引流免费推广怎么做,中型网站流量EM算法
简介
EM算法的核心分为两步
E步#xff08;Expection-Step#xff09;M步#xff08;Maximization-Step#xff09;
因为在最大化过程中存在两个参量 r , θ r,\theta r,θ#xff0c;其中若知道 r r r#xff0c;则知道 θ \theta θ#xff1b;若知道 θ \…EM算法
简介
EM算法的核心分为两步
E步Expection-StepM步Maximization-Step
因为在最大化过程中存在两个参量 r , θ r,\theta r,θ其中若知道 r r r则知道 θ \theta θ若知道 θ \theta θ则知道 r r r。且两个量未存在明显的关系但又互相依存可以采用EM算法
其中主要思想为
首先随机初始化参数 r r r然后求的在参数 r r r下按照极大似然估计求得参数 θ \theta θ然后根据参数 θ \theta θ按照极大似然估计求得参数 r r r循环至收敛
算法示例
如下图所示存在AB两种硬币其中抛出正反面的概率未知其中H表示正面F表示反面 根据统计可得 可得 P ( H ∣ X A ) 24 24 6 0.8 P ( H ∣ X B ) 9 9 11 0.45 P(H|XA)\frac{24}{246}0.8\\ P(H|XB)\frac{9}{911}0.45 P(H∣XA)246240.8P(H∣XB)91190.45 若更改条件不知道此时抛出是哪一枚硬币只知道抛出的结果即 首先初始化设 P ( H ∣ X A ) 0.6 P ( H ∣ X B ) 0.5 P(H|XA)0.6\\ P(H|XB)0.5 P(H∣XA)0.6P(H∣XB)0.5 若当抛出的第一枚硬币为A时
此时的出现该情况的概率为 P 1 ( A ) 0. 6 5 ∗ ( 1 − 0.6 ) 5 0.0007962624 P_1(A)0.6^5*(1-0.6)^50.0007962624 P1(A)0.65∗(1−0.6)50.0007962624
若当抛出的第一枚硬币为B时
此时的出现该情况的概率为 P 1 ( B ) 0. 5 5 ∗ ( 1 − 0.5 ) 5 0.0009765625 P_1(B)0.5^5*(1-0.5)^50.0009765625 P1(B)0.55∗(1−0.5)50.0009765625
其中 P 1 ( A ) P 1 ( A ) P 1 ( A ) P 1 ( B ) ≈ 0.45 P 1 ( B ) P 1 ( B ) P 1 ( A ) P 1 ( B ) ≈ 0.55 P^1(A)\frac{P_1(A)}{P_1(A)P_1(B)}\approx0.45\\ P^1(B)\frac{P_1(B)}{P_1(A)P_1(B)}\approx0.55 P1(A)P1(A)P1(B)P1(A)≈0.45P1(B)P1(A)P1(B)P1(B)≈0.55 同理可得 P 2 ( A ) ≈ 0.80 , P 2 ( B ) ≈ 0.20 P 3 ( A ) ≈ 0.73 , P 3 ( B ) ≈ 0.27 P 4 ( A ) ≈ 0.35 , P 4 ( B ) ≈ 0.65 P 5 ( A ) ≈ 0.65 , P 5 ( B ) ≈ 0.35 P^2(A)\approx0.80,P^2(B)\approx0.20\\ P^3(A)\approx0.73,P^3(B)\approx0.27\\ P^4(A)\approx0.35,P^4(B)\approx0.65\\ P^5(A)\approx0.65,P^5(B)\approx0.35 P2(A)≈0.80,P2(B)≈0.20P3(A)≈0.73,P3(B)≈0.27P4(A)≈0.35,P4(B)≈0.65P5(A)≈0.65,P5(B)≈0.35 计算其数学期望 E 1 ( H ∣ X A ) 0.45 ∗ 5 2.2 E 1 ( T ∣ X A ) 0.45 ∗ 5 2.2 E 1 ( H ∣ X B ) 0.55 ∗ 5 2.75 E 1 ( T ∣ X B ) 0.55 ∗ 5 2.75 E 2 ( H ∣ X A ) 0.80 ∗ 9 7.2 E 2 ( T ∣ X A ) 0.45 ∗ 5 2.2 E 2 ( H ∣ X B ) 0.20 ∗ 9 1.8 E 2 ( T ∣ X B ) 0.20 ∗ 1 0.2 E 3 ( H ∣ X A ) 0.73 ∗ 8 5.8 E 3 ( T ∣ X A ) 0.73 ∗ 2 1.46 E 3 ( H ∣ X B ) 0.27 ∗ 8 2.16 E 3 ( T ∣ X B ) 0.27 ∗ 2 0.54 E 4 ( H ∣ X A ) 0.35 ∗ 4 1.4 E 4 ( T ∣ X A ) 0.35 ∗ 6 2.1 E 4 ( H ∣ X B ) 0.65 ∗ 4 2.6 E 4 ( T ∣ X B ) 0.65 ∗ 6 3.9 E 5 ( H ∣ X A ) 0.65 ∗ 7 4.55 E 5 ( T ∣ X A ) 0.65 ∗ 3 1.95 E 5 ( H ∣ X B ) 0.35 ∗ 7 2.45 E 5 ( T ∣ X B ) 0.35 ∗ 3 1.05 \begin{aligned} E_1(H|XA)0.45*52.2\\ E_1(T|XA)0.45*52.2\\ E_1(H|XB)0.55*52.75\\ E_1(T|XB)0.55*52.75\\ E_2(H|XA)0.80*97.2\\ E_2(T|XA)0.45*52.2\\ E_2(H|XB)0.20*91.8\\ E_2(T|XB)0.20*10.2\\ E_3(H|XA)0.73*85.8\\ E_3(T|XA)0.73*21.46\\ E_3(H|XB)0.27*82.16\\ E_3(T|XB)0.27*20.54\\ E_4(H|XA)0.35*41.4\\ E_4(T|XA)0.35*62.1\\ E_4(H|XB)0.65*42.6\\ E_4(T|XB)0.65*63.9\\ E_5(H|XA)0.65*74.55\\ E_5(T|XA)0.65*31.95\\ E_5(H|XB)0.35*72.45\\ E_5(T|XB)0.35*31.05\\ \end{aligned} E1(H∣XA)0.45∗52.2E1(T∣XA)0.45∗52.2E1(H∣XB)0.55∗52.75E1(T∣XB)0.55∗52.75E2(H∣XA)0.80∗97.2E2(T∣XA)0.45∗52.2E2(H∣XB)0.20∗91.8E2(T∣XB)0.20∗10.2E3(H∣XA)0.73∗85.8E3(T∣XA)0.73∗21.46E3(H∣XB)0.27∗82.16E3(T∣XB)0.27∗20.54E4(H∣XA)0.35∗41.4E4(T∣XA)0.35∗62.1E4(H∣XB)0.65∗42.6E4(T∣XB)0.65∗63.9E5(H∣XA)0.65∗74.55E5(T∣XA)0.65∗31.95E5(H∣XB)0.35∗72.45E5(T∣XB)0.35∗31.05 并计算其总共的期望 E ( H ∣ X A ) ∑ i 1 5 E i ( H ∣ X A ) ≈ 21.3 E ( H ∣ X A ) ∑ i 1 5 E i ( T ∣ X A ) ≈ 8.6 E ( H ∣ X B ) ∑ i 1 5 E i ( H ∣ X B ) ≈ 11.7 E ( H ∣ X B ) ∑ i 1 5 E i ( T ∣ X B ) ≈ 8.4 E(H|XA)\sum_{i1}^5E_i(H|XA)\approx21.3\\ E(H|XA)\sum_{i1}^5E_i(T|XA)\approx8.6\\ E(H|XB)\sum_{i1}^5E_i(H|XB)\approx11.7\\ E(H|XB)\sum_{i1}^5E_i(T|XB)\approx8.4\\ E(H∣XA)i1∑5Ei(H∣XA)≈21.3E(H∣XA)i1∑5Ei(T∣XA)≈8.6E(H∣XB)i1∑5Ei(H∣XB)≈11.7E(H∣XB)i1∑5Ei(T∣XB)≈8.4
可得 P ( H ∣ X A ) 21.3 21.3 8.6 0.71 P ( H ∣ X B ) 11.7 11.7 8.4 0.58 P(H|XA)\frac{21.3}{21.38.6}0.71\\ P(H|XB)\frac{11.7}{11.78.4}0.58 P(H∣XA)21.38.621.30.71P(H∣XB)11.78.411.70.58 由此循环直至收敛 得到最终 P ( H ∣ X A ) 0.80 P ( H ∣ X B ) 0.58 P(H|XA)0.80\\ P(H|XB)0.58 P(H∣XA)0.80P(H∣XB)0.58
