主要翻译自http://blog.echen.me/2012/01/03/introduction-to-conditional-random-fields/,原作者是MIT的大神,加入了一些我自己的理解. 问题由来 给你某人一天内一系列生活照片,让你为每一张照片添加label(比如唱歌,跳舞,吃饭...),你要怎么做. 一种方式是忽略照片的顺序性,训练出一个classifier.比如你可以拿一个月的快照作为训练样本,然后训练出一个模型.这样来一个新图片,背景很暗,拍摄于早上,模型可能会将其判断…

条件随机场真是把我给折磨坏了啊,本以为一本小小的<统计学习方法>攻坚剩下最后一章,心情还是十分愉悦的,打算一口气把它看完,结果真正啃起来真是无比的艰难啊,每一句对我都好像是天书一般,怎么这么多没有接触过的概念啊!什么无向图?什么最大团?搞什么鬼啊,真让人头大现在想想可能就是被这些概念吓到了当时,等你仔细的弄懂了它们是什么意思,理解起来难度就会小很多啦,所以,我决定先从概念开始说起,捋顺一下思路,至于条件随机场先表过不谈! 我们先来看一下整个大框架下,条件随机场在什么位置,让读者心中有数,知道自…

条件随机场Conditional Random Field-CRF入门级理解   有向图与无向图模型 CRF模型是一个无向概率图模型,更宽泛地说,它是一个概率图模型.现实世界的一些问题可以用概率图模型表示.这里可以用一个简单的例子说明:建立一个简单的图模型来分析一部电影是否会获得高票房.这个例子主要用于介绍概率图模型,其中的观点内容纯属编造.经过“认真”分析,发现一部电影的票房和以下因素有很大的关系: 剧本是否精彩,内容是否充实: 演员阵容是否强大,是否有可以吸引票房的明星: 演员表演是否精彩到…

简介 假设你有冠西哥一天生活中的照片(这些照片是按时间排好序的),然后你很无聊的想给每张照片打标签(Tag),比如这张是冠西哥在吃饭,那张是冠西哥在睡觉,那么你该怎么做呢? 一种方法是不管这些照片的序列性(照片本来是按照时间排序的),然后给每张图片弄一个分类器.例如,给了你冠西哥一个月的生活照作为训练样本(打了Tag的),你可能就会学习到:早上6点黑乎乎的照片可能就是冠西哥在睡觉:有很多亮色的照片可能就是冠西哥在跳舞:有很多车的照片可能就是冠西哥在飙车. 很明显,照片的序列性包含有很多信息,忽视…

…

一.随机场定义 http://zh.wikipedia.org/zh-cn/随机场 随机场(Random field)定义如下: 在概率论中, 由样本空间Ω = {0, 1, …, G − 1}n取样构成的随机变量Xi所组成的S = {X1, …, Xn}.若对所有的ω∈Ω下式均成立,则称π为一个随机场.π(ω) > 0. 一些已有的随机场如:马尔可夫随机场(MRF), 吉布斯随机场 (GRF), 条件随机场 (CRF), 和高斯随机场. 二.马尔可夫随机场(Markov Random Fiel…

本文简单整理了以下内容: (一)马尔可夫随机场(Markov random field,无向图模型)简单回顾 (二)条件随机场(Conditional random field,CRF) 这篇写的非常浅,基于 [1] 和 [5] 梳理.感觉 [1] 的讲解很适合完全不知道什么是CRF的人来入门.如果有需要深入理解CRF的需求的话,还是应该仔细读一下几个英文的tutorial,比如 [4] . (一)马尔可夫随机场简单回顾 概率图模型(Probabilistic graphical model,P…

0. 引言 0x1:为什么会有条件随机场?它解决了什么问题? 在开始学习CRF条件随机场之前,我们需要先了解一下这个算法的来龙去脉,它是在什么情况下被提出的,是从哪个算法演进而来的,它又解决了哪些问题,它有哪些优缺点. 实际上我们可以不太严谨地这么说,HMM -> HEMM -> CRF,它们之间是逐渐演进的结果. 隐马尔可夫模型(Hidden Markov Model,HMM).最大熵马尔可夫模型(Maximum Entropy Markov Model,MEMM).以及条件随机场(Cond…

条件随机场是近几年自然语言处理领域常用的算法之一,常用于句法分析.命名实体识别.词性标注等.在我看来,CRF就像一个反向的隐马尔可夫模型(HMM),两者都是用了马尔科夫链作为隐含变量的概率转移模型,只不过HMM使用隐含变量生成可观测状态,其生成概率有标注集统计得到,是一个生成模型:而CRF反过来通过可观测状态判别隐含变量,其概率亦通过标注集统计得来,是一个判别模型.由于两者模型主干相同,其能够应用的领域往往是重叠的,但在命名实体.句法分析等领域CRF更胜一筹.当然你并不必须学习HMM才能读懂CR…

李航,第十一章,条件随机场 参考:[PGM] Markov Networks 携代码:用 Python 通过马尔可夫随机场(MRF)与 Ising Model 进行二值图降噪[推荐!] CRF:http://www.jianshu.com/p/55755fc649b1 概率无向图模型[基本性质] 团与最大团[基本性质] 链接:https://www.zhihu.com/question/35866596/answer/74187736 模型------ 首先什么是随机场呢,一组随机变量,他们样本…