MCMC初步
高磊
2014/11/20
MC
MC
之
MC
Monte Carlo,摩纳哥的一座小城市，0.68平方千米
与原子弹制造有关
一条不规则的曲线
求曲线围成的面积
数学积分的方法：划分为许多间隔
统计模拟方法：随机投点(1)
统计模拟方法：随机投点(2)
投点次数越多，计算越精确
求1/4圆的面积，进而求
π
用正方形把1/4圆围起来
随机投点，数数，近似求
p
i
MC
MC
之
MC
Markov Chain 的一个
例子
Markov Chain 所形成的序列1-1500
Markov Chain 所形成的序列1501-3000
Markov Chain 所形成的序列3001-4500
Markov Chain 所形成的序列4501-6000
Markov Chain 的平稳分布(1)
Markov Chain 的平稳分布(2)
启示：设计一条马氏链，使马氏链的平稳（极限）分布和目标分布相同，然后运行马氏链，其状态序列可以看做目标分布的样本
MC
MC
MC
MC
家族
Random walk Metropolis-Hastings
从一个混合正态分布中抽样
初始值:x0=10
提出一个建议:proposal=5.56
计算接受概率:prob=0.09
依概率接受/拒绝(1)
依概率接受/拒绝(2)
下一状态:x1=x0=10
提出一个建议:proposal=8.15
计算接受概率:prob=0.65
依概率接受/拒绝(1)
依概率接受/拒绝(2)
下一状态:x2=8.15
连续运行20次
连续运行10000次
MCMC样本直方图
MCMC样本直方图与目标分布拟合较好
序列相关性问题(1)
序列相关性问题(2)
序列相关性问题(3)
Burn-in
Thank you!
.png)
.png)
