条件随机场是近几年自然语言处理领域常用的算法之一,常用于句法分析.命名实体识别.词性标注等.在我看来,CRF就像一个反向的隐马尔可夫模型(HMM),两者都是用了马尔科夫链作为隐含变量的概率转移模型,只不过HMM使用隐含变量生成可观测状态,其生成概率有标注集统计得到,是一个生成模型:而CRF反过来通过可观测状态判别隐含变量,其概率亦通过标注集统计得来,是一个判别模型.由于两者模型主干相同,其能够应用的领域往往是重叠的,但在命名实体.句法分析等领域CRF更胜一筹.当然你并不必须学习HMM才能读懂CR…
主要翻译自http://blog.echen.me/2012/01/03/introduction-to-conditional-random-fields/,原作者是MIT的大神,加入了一些我自己的理解. 问题由来 给你某人一天内一系列生活照片,让你为每一张照片添加label(比如唱歌,跳舞,吃饭...),你要怎么做. 一种方式是忽略照片的顺序性,训练出一个classifier.比如你可以拿一个月的快照作为训练样本,然后训练出一个模型.这样来一个新图片,背景很暗,拍摄于早上,模型可能会将其判断…
0. 引言 0x1:为什么会有条件随机场?它解决了什么问题? 在开始学习CRF条件随机场之前,我们需要先了解一下这个算法的来龙去脉,它是在什么情况下被提出的,是从哪个算法演进而来的,它又解决了哪些问题,它有哪些优缺点. 实际上我们可以不太严谨地这么说,HMM -> HEMM -> CRF,它们之间是逐渐演进的结果. 隐马尔可夫模型(Hidden Markov Model,HMM).最大熵马尔可夫模型(Maximum Entropy Markov Model,MEMM).以及条件随机场(Cond…
本文简单整理了以下内容: (一)马尔可夫随机场(Markov random field,无向图模型)简单回顾 (二)条件随机场(Conditional random field,CRF) 这篇写的非常浅,基于 [1] 和 [5] 梳理.感觉 [1] 的讲解很适合完全不知道什么是CRF的人来入门.如果有需要深入理解CRF的需求的话,还是应该仔细读一下几个英文的tutorial,比如 [4] . (一)马尔可夫随机场简单回顾 概率图模型(Probabilistic graphical model,P…
条件随机场真是把我给折磨坏了啊,本以为一本小小的<统计学习方法>攻坚剩下最后一章,心情还是十分愉悦的,打算一口气把它看完,结果真正啃起来真是无比的艰难啊,每一句对我都好像是天书一般,怎么这么多没有接触过的概念啊!什么无向图?什么最大团?搞什么鬼啊,真让人头大现在想想可能就是被这些概念吓到了当时,等你仔细的弄懂了它们是什么意思,理解起来难度就会小很多啦,所以,我决定先从概念开始说起,捋顺一下思路,至于条件随机场先表过不谈! 我们先来看一下整个大框架下,条件随机场在什么位置,让读者心中有数,知道自…
李航,第十一章,条件随机场 参考:[PGM] Markov Networks 携代码:用 Python 通过马尔可夫随机场(MRF)与 Ising Model 进行二值图降噪[推荐!] CRF:http://www.jianshu.com/p/55755fc649b1 概率无向图模型[基本性质] 团与最大团[基本性质] 链接:https://www.zhihu.com/question/35866596/answer/74187736 模型------ 首先什么是随机场呢,一组随机变量,他们样本…
1.CRF的预测算法条件随机场的预测算法是给定条件随机场P(Y|X)和输入序列(观测序列)x,求条件概率最大的输出序列(标记序列)y*,即对观测序列进行标注.条件随机场的预测算法是著名的维特比算法(Vitebi Algorthim). 维特比算法在隐马尔科夫模型的预测算法中已经详细介绍和Python实现过,详见以前的博客: [机器学习][隐马尔可夫模型-4]维特比算法:算法详解+示例讲解+Python实现 2.CRF的预测算法之维特比算法2.1维特比算法简介维特比算法实际使用动态规划解CRF条件…
条件随机场Conditional Random Field-CRF入门级理解   有向图与无向图模型 CRF模型是一个无向概率图模型,更宽泛地说,它是一个概率图模型.现实世界的一些问题可以用概率图模型表示.这里可以用一个简单的例子说明:建立一个简单的图模型来分析一部电影是否会获得高票房.这个例子主要用于介绍概率图模型,其中的观点内容纯属编造.经过“认真”分析,发现一部电影的票房和以下因素有很大的关系: 剧本是否精彩,内容是否充实: 演员阵容是否强大,是否有可以吸引票房的明星: 演员表演是否精彩到…