Metropolis-Hastings算法

(学习这部分内容大约需要1.5小时)

摘要

马尔科夫链蒙特卡洛(Markov chain Monte Carlo, MCMC)是一种近似采样算法, 它通过定义稳态分布为 \(p\) 的马尔科夫链, 在目标分布 \(p\) 中进行采样. Metropolis-Hastings 是找到这样一条马尔科夫链的非常一般的方法: 选择一个提议分布(proposal distribution), 并通过随机接受或拒绝该提议来纠正偏差. 虽然其数学公式是非常一般化的, 但选择好的提议分布却是一门艺术.

预备知识

学习 Metropolis-Hastings 算法需要以下预备知识

• 马尔科夫链蒙特卡洛(Markov chain Monte Carlo, MCMC): M-H 算法是 MCMC 算法的一个特例.
• 多元高斯分布: 高斯分布是M-H提议分布的典型例子.

学习目标

• 知道细致平衡条件(detailed balance conditions)说的是啥
• 知道 Metropolis-Hastings 算法的定义
• 证明 M-H 算法满足细致平衡条件
• 如果不仔细选择提议分布, 请注意可能的故障模式: 缓慢的 mixing 和低接受概率.

核心资源

(阅读/观看以下其中一个)

免费

• Information Theory, Inference, and Learning Algorithms
  简介: 一本机器学习和信息论研究生教材
  位置: Section 29.4, "The Metropolis-Hastings method," pages 365-370
  网站
  作者: David MacKay
• Coursera: Probabilistic Graphical Models (2013)
  简介: 一门概率图模型在线课程
  位置: Lecture "Metropolis Hastings algorithm"
  网站
  作者: Daphne Koller
  备注:
  • 点击"Preview"观看视频
• Computational Cognition Cheat Sheets (2013)
  简介: 认知科学家写的一组笔记
  位置: Bayesian Inference: Metropolis-Hastings Sampling
  网站

付费

• Pattern Recognition and Machine Learning(PRML)
  简介: 一本研究生机器学习教材, 聚焦于贝叶斯方法
  位置: Section 11.2, pages 537-542
  网站
  作者: Christopher M. Bishop

• Machine Learning: a Probabilistic Perspective(MLAPP)
  简介: 一本非常全面的研究生机器学习教材
  位置: Section 24.3-24.3.6, pages 848-855

  网站
  作者: Kevin P. Murphy

增补资源

免费

• Bayesian Reasoning and Machine Learning
  简介: 一门研究生机器学习课程
  位置: Section 27.4, "Markov chain Monte Carlo," pages 550-553

  网站

  作者: David Barber

付费

• Probabilistic Graphical Models: Principles and Techniques
  简介: 一本非常全面的概率AI研究生教材
  位置: Section 12.3.4, pages 515-518

  网站
  作者: Daphne Koller,Nir Friedman

相关知识

• Gibbs 采样 是一种常用的特殊 M-H 算法

• 其他 M-H 算法包括:

  • Hamiltonian Monte Carlo (HMC): 利用梯度信息从连续模型中采样
  • split-merge 算子: 尝试拆分和合并簇.
  • reversible jump MCMC: 试图在不同维度的空间之间移动

  在某些条件下, 我们可以确定最佳的 M-H 接受率.

---

返回贝叶斯机器学习路线图