[Bayes] openBUGS: this is not the annoying bugs in programming
Bayesian inference Using Gibbs Sampling
允许用户指定复杂的多层模型,并可使用MCMC算法来估计模型中的未知参数。
We use DAGs to specify models.
这里只涉及简单的贝叶斯网络,具体学习可见:
Carnegie Mellon University course 10-708, Spring 2017, Probabilistic Graphical Models
Ref: http://www.cnblogs.com/Dzhouqi/p/3204481.html
例子一
X and Y 不独立,但
X and Y 在Z情况下 条件独立。
表示:X ⊥ Y |Z
f (X, Y |Z) = f (X|Z) f (Y |Z).
知道了C 反而条件独立了? 如此理解:
a 孩子的血型是AB,其实“反作用”于c双亲不可能是O型血。然后,这个推断也影响了b孩子的血型可能性,即:也不可能是O型血。
知道了c,比如c父母只有A and B血型因子,那么a and b孩子变为了在c已知的条件下的独立。
例子二
此例同上。
例子三
已知c,能得出a and b条件独立? 不能。
在Gibbs的一点用处
If we want to sample from p(A, B, C, D, F ) with a Gibbs sampler we define each marginal full conditional distribution using the conditional independence pattern of the DAG.
手头有这样的数据,如下:
建立一个模型吧:
简化模型:
指定”似然函数“和”先验分布”:
Deterministic functions can be removed/restructured, so that:
Bayesian inference Using Gibbs Sampling
Download:
http://www.openbugs.net/w/Downloads
Install:
To install this, unpack by typing
tar zxvf OpenBUGS-3.2.3.tar.gz
cd OpenBUGS-3.2.3
then compile and install by typing
./configure
make
sudo make install
Run:
lolo@lolo-UX303UB$ OpenBUGS
OpenBUGS version 3.2. rev
type 'modelQuit()' to quit
OpenBUGS>
Use:
https://www.youtube.com/watch?v=UhYAz6d5_qg
打开三类文件:model, data, init。
Model --> Specification 依次加载各个文件。
Inference --> Samples 其实就是监视Init里的四个参数。
Model --> Update 迭代操作一次(Here 每次1000下)
Prior Sensitivity Analysis
The choice of prior(s) distribution must be determined with care, particularly, when the likelihood doesn't dominate the posterior.
If the likelihood dominates the posterior, the posterior distribution will essentially be invariant over a wide range of priors.
When the number of studies is large, the prior distribution will be less important. 数据量越大,先验的选择越不重要。
The non-informative prior distribution will be very useful in the situation when prior information, expectations and beliefs are minimal or not available.
Figure, 先验概率,后验概率 和 似然函数的关系
贝叶斯后验均值估计的最基本特性是伸缩性(shrinkage)。
- 当似然函数的精度h0较大时, 后验均值主要受样本均值支配; 相反,
- 当先验精度h1较大时, 后验均值主要受先验均值支配。
这就是为什么贝叶斯估计通常取先验精度较低的原因(方差给得较大),
也可以看出贝叶斯估计在调整先验精度下可以达到经典估计的效果,从某种意义上说经典估计是贝叶斯估计的特殊形式。
通过两种精度的调整达到对后验均值的估计叫做伸缩性估计特性, 所有贝叶斯估计的均值都具有伸缩性估计这个特性。
最后,推荐一篇至少题目看上去很牛的文章:
官方:http://www.openbugs.net/Manuals/InferenceMenu.html
民间1:http://www.biostat.jhsph.edu/~fdominic/teaching/bio656/labs/labs08/Lab8.IntroWinBUGS.pdf
民间2:http://www.stats.ox.ac.uk/~cholmes/Courses/BDA/Winbugs/winbugs-help.pdf
民间的更好,详细,良心作品。
收敛性检验:
• For models with many parameters, it is inpractical to check convergence for every parameter, so just chose a random selection of relevant parameters to monitor
一个一个地检查。
– For example, rather than checking convergence for every element of a vector of random effects, just chose a random subset (say, the first 5 or 10).
• Examine trace plots of the sample values versus iteration to look for evidence of when the simulation appears to have stabilised: (查看是否有稳定的迹象)
– To obtain ’live’ trace plots for a parameter:
∗ Select Samples from the Inference menu.
∗ Type the name of the parameter in the white box marked node.
∗ Click once with the LMB on the box marked trace: an empty graphics window will appear on screen.
∗ Repeat for each parameter required.
∗ Once you start running the simulations (using the Update Tool, trace plots for these parameters will appear ’live’ in the graphics windows.
– To obtain a trace plot showing the full history of the samples for any parameter for which you have previously set a sample monitor and carried out some updates:
∗ Select Samples from the Inference menu.
∗ Type the name of the parameter in the white box marked node (or select name from pull down list).
∗ Click once with the LMB on the box marked history: a graphics window showing the sample trace will appear.
∗ Repeat for each parameter required.
uniform时,将初始值调高,看明显看出收敛的速度。毕竟在实践当中,我们并不会知道,甚至无法估计参数的大概范围。
以下是model中变量的假设分布换为gaussian分布,收敛快了许多。
[Bayes] openBUGS: this is not the annoying bugs in programming的更多相关文章
- [Math] Hidden Markov Model
链接:https://www.zhihu.com/question/20962240/answer/33438846 霍金曾经说过,你多写一个公式,就会少一半的读者. 还是用最经典的例子,掷骰子. ...
- 本人AI知识体系导航 - AI menu
Relevant Readable Links Name Interesting topic Comment Edwin Chen 非参贝叶斯 徐亦达老板 Dirichlet Process 学习 ...
- [PGM] What is Probabalistic Graphical Models
学术潜规则: 概率图模型提出的意义在于将过去看似零散的topic/model以一种统一的方式串联了起来,它便于从整体上看待这些问题,而非具体解决了某个细节. 举个例子:梯度下降,并非解决神经网络收敛问 ...
- [Scikit-learn] Dynamic Bayesian Network - Kalman Filter
看上去不错的网站:http://iacs-courses.seas.harvard.edu/courses/am207/blog/lecture-18.html SciPy Cookbook:http ...
- 科学计算软件——Octave安装
Octave是一个旨在提供与Matlab语法兼容的开放源代码科学计算及数值分析的工具,是Matlab商业软件的一个强有力的竞争产品. 参考:[ML:Octave Installation] Gener ...
- [Django] Setting up Django Development Environment in Ubuntu 14.04
1. Python Of course you will need Python. Still Python 2.7 is preferred, however if you would like t ...
- Core Java Volume I — 3.5. Operators
3.5. OperatorsThe usual arithmetic operators +, -, *, / are used in Java for addition, subtraction, ...
- 转:PHP – Best Practises
原文来自于:http://thisinterestsme.com/php-best-practises/ There are a number of good practises that you s ...
- Delphi资源大全
A curated list of awesome Delphi frameworks, libraries, resources, and shiny things. Inspired by awe ...
随机推荐
- Object类--toString方法
toString()方法 1.在Object类中定义toString()方法的时候返回对象的哈希code码(对象地址字符串) 直接输出对象: 2.可以通过重写toString()方法表示出对象的属性之 ...
- Sql Server中sql语句自己主动换行
怎么让sql server中的sql语句自己主动换行呢? 例如以下图: 工具--选项--全部语言 watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvamlhbm ...
- 给你的 CentOS 7 安装中文支持
今天给大家分享个给 CentOS 7 安装中文支持的方法,所谓“中文支持”目前明月观测到的是指命令行提示支持中文提示显示,还有就是 Vim 启动后看到的也是有中文提是的界面包括 Vim 内各种提示也会 ...
- cocos2d-x项目创建和打包
1.创建C++的cocos2d-x项目:cocos new test_cpp02 -p com.benmutou.helloWorld -l cpp -d projects C++未编译目录: C++ ...
- 解决微信小程序ios端滚动卡顿的问题
方案1:直接使用微信小程序提供的 “scroll-view " 组件. <scroll-view scroll-y style="height: 100%;"> ...
- 原创:vsphere概念深入系列一:关于vsphere虚拟交换机的端口的数量限制。
总结出来的概念: vm上有多少个虚拟网卡就被分配了多少个vPort.vswitch缺省情况下有8个vmk端口(vport)保留给vmkernel使用.但是当vport不够的时候也可以被使用. 默认第一 ...
- 使用yocs_cmd_vel_mux进行机器人速度控制切换
cmd_vel_mux包从名字就可以推测出它的用途,即进行速度的选择(In electronics, a multiplexer or mux is a device that selects one ...
- pycharm如何解决新建的文件没有后缀的问题
如下设置: 1.settings 2.file and code templates3.点击图中绿色的“+”号,即可打开新建模板页面4.定义模板名字.后缀名保存即可
- 12C -- ORA-65005: missing or invalid file name pattern for file
克隆pdb创建新的pdb的时候遇到了以下的错误,具体过程如下文.数据库版本:12.2.0.1 查看已有pdb的tempfile文件 SQL> select name from v$tempfil ...
- Effective Java 第三版——5. 使用依赖注入取代硬连接资源
Tips <Effective Java, Third Edition>一书英文版已经出版,这本书的第二版想必很多人都读过,号称Java四大名著之一,不过第二版2009年出版,到现在已经将 ...