http://www.hankcs.com/nlp/ner/place-names-to-identify-actual-hmm-viterbi-role-labeling.html 命名实体识别(Named Entity Recognition)也是自然语言处理中的一个难关,特别是中文这样没有大小写等固定形态的语言.上次介绍过<实战HMM-Viterbi角色标注中国人名识别>,这次基于类似的原理,为HanLP实现中文地址地名(NS)的自动识别. 原理 训练 对熟语料自动角色标注,统计单词的角…

这几天写完了人名识别模块,与分词放到一起形成了两层隐马模型.虽然在算法或模型上没有什么新意,但是胜在训练语料比较新,对质量把关比较严,实测效果很满意.比如这句真实的新闻“签约仪式前,秦光荣.李纪恒.仇和等一同会见了参加签约的企业家.”,分词结果:[签约/v, 仪式/n, 前/f, ,/w, 秦光荣/nr, ./w, 李纪恒/nr, ./w, 仇和/nr, 等/u, 一同/d, 会见/v, 了/ul, 参加/v, 签约/v, 的/uj, 企业家/n, ./w],三个人名“秦光荣”“李纪恒”“仇和”…

分词 中文分词 (Word Segmentation, WS) 指的是将汉字序列切分成词序列. 因为在汉语中,词是承载语义的最基本的单元.分词是信息检索.文本分类.情感分析等多项中文自然语言处理任务的基础. 例如,句子 国务院总理李克强调研上海外高桥时提出,支持上海积极探索新机制. 正确分词的结果是 国务院/  总理/  李克强/  调研/  上海/  外高桥/  时/  提出/  ,/  支持/  上海/  积极/  探索/  新/  机制/  . 如果分词系统给出的切分结果是 国务院/  总…

本篇接上一篇内容<HanLP-基于HMM-Viterbi的人名识别原理介绍>介绍一下层叠隐马的原理. 首先说一下上一篇介绍的人名识别效果对比: 1. 只有Jieba识别出的人名 准确率极低,基本为地名或复杂地名组成部分或复杂机构名组成部分.举例如下: [1] 战乱的阿富汗地区,枪支可随意买卖,AK47价格约500人民币 “阿富汗”被识别为人名. [2] 安庆到桂林自驾游如何规划? “桂林”被识别为人名. [3] 2018天津市和平分局招聘社区戒毒.社区康复工作人员成绩查询入口 “康复”被识别为…

代码 import os from pprint import pprint from pyltp import Segmentor, Postagger, Parser, NamedEntityRecognizer, SementicRoleLabeller class LtpParser: def __init__(self): LTP_DIR = "../model/ltp_data_v3.4.0/" self.segmentor = Segmentor() # load_wit…

机器学习实战:用nodejs实现人脸识别   在本文中,我将向你展示如何使用face-recognition.js执行可靠的人脸检测和识别 . 我曾经试图找一个能够精确识别人脸的Node.js库,但是没有找到,因此,我决定自己搞一个!  这个npm包基于dlib实现,因为我发现dlib的识别精度很高. dlib库使用深度学习方法,并附带一些预训练的模型,这些预置的模型,在LFW人脸识别基准测试上可以达到惊人的准确度:99.38% . 为什么要搞这个东西? 最近我一直在尝试使用Node.js来构建…

摘录自:CIPS2016 中文信息处理报告<第二章 语义分析研究进展. 现状及趋势>P14 CIPS2016> 中文信息处理报告下载链接:http://cips-upload.bj.bcebos.com/cips2016.pdf 任何对语言的理解都可以归为语义分析的范畴.一段文本通常由词.句子和段落来构成,根据理解对象的语言单位不同, 语义分析又可进一步分解为词汇级语义分析.句子级语义分析以及篇章级语义分析. 语义分析的目标就是通过建立有效的模型和系统, 实现在各个语言单位 (包括词汇.…

PaddlePaddle出教程啦,教程一部分写的很详细,值得学习. 一期涉及新手入门.识别数字.图像分类.词向量.情感分析.语义角色标注.机器翻译.个性化推荐. 二期会有更多的图像内容. 随便,帮国产框架打广告:加入TechWriter队伍,强大国产深度学习利器.https://github.com/PaddlePaddle/Paddle/issues/787 . . 一.情感分类模型介绍CNN.RNN.LSTM.栈式双向LSTM 教程链接:http://book.paddlepaddle.or…

词义消歧,句子.篇章语义理解基础,必须解决.语言都有大量多种含义词汇.词义消歧,可通过机器学习方法解决.词义消歧有监督机器学习分类算法,判断词义所属分类.词义消歧无监督机器学习聚类算法,把词义聚成多类,每一类一种含义. 有监督词义消歧方法.基于互信息词义消歧方法,两种语言对照,基于大量中英文对照语料库训练模型可词义消歧.来源信息论,一个随机变量中包含另一个随机变量信息量(英文信息中包含中文信息信息量),假设两个随机变量X.Y的概率分别是p(x), p(y),联合分布概率是p(x,y),互信息计算…

1. 引言 从安卓手机收集上来的机型大都为这样: mi|5 mi|4c mi 4c 2014022 kiw-al10 nem-tl00h 收集的机型大都杂乱无章,不便于做统计分析.因此,标注显得尤为重要. 中关村在线有对国内大部分手机的介绍情况,包括手机机型nem-tl00h及其对应的常见名称荣耀畅玩5C.因而,设计机型自动化标注策略如下: 在搜狗搜索中输入机型进行搜索,为了限定第一个返回结果为ZOL网站,加上限定词site:detail.zol.com.cn: 通过第一条返回结果的链接,跳转到…