一.背景 近期研究了一下语言模型,同事推荐了一个比较好用的工具包kenlm,记录下使用过程. 二.使用kenlm训练 n-gram 1.工具介绍:http://kheafield.com/code/kenlm/ 2.工具包的下载地址:http://kheafield.com/code/kenlm.tar.gz 3.解压后运行,./bjam 进行编译 4.使用如下命令进行训练:bin/lmplz -o 5 --verbose_header --text data/chat_log.txt --ar

--  这篇文章是一个学习.分析的博客 --- 1.准备数据与预处理 首先需要一份比较大的中文语料数据,可以考虑中文的维基百科(也可以试试搜狗的新闻语料库).中文维基百科的打包文件地址为 https://dumps.wikimedia.org/zhwiki/latest/zhwiki-latest-pages-articles.xml.bz2 中文维基百科的数据不是太大,xml的压缩文件大约1G左右.首先用 process_wiki_data.py处理这个XML压缩文件,执行:python pr

先处理中文语料.参考上篇笔记 1. 准备model_definition_file文件 官方文档给了例子, plato/example/config/ludwig/metalWOZ_seq2seq_ludwig.yaml --- input_features: - name: user type: text level: word encoder: rnn cell_type: lstm reduce_output: null output_features: - name: system ty

未经允许不可转载 Kenlm相关知识 Kenlm下载地址 kenlm中文版本训练语言模型 如何使用kenlm训练出来的模型C++版本 关于Kenlm模块的使用及C++源码说明 加载Kenlm模块命令 qy@IAT-QYVPN:~/Documents/kenlm/lm$ ../bin/query -n test.arpa *** Kenlm模块C++源码说明 query的主入口文件:query_main.cc query的执行函数文件:ngram_query.hh 注意: 默认执行的是query_

实验环境:Windows 7 / Python 3.6.1 / CoreNLP 3.7.0 一.下载 CoreNLP 在 Stanford NLP 官网 下载最新的模型文件: CoreNLP 完整包 stanford-corenlp-full-2016-10-31.zip:下载后解压到工作目录. 中文模型stanford-chinese-corenlp-2016-10-31-models.jar:下载后复制到上述工作目录. 二.安装 stanza stanza 是 Stanford CoreNL

笔者想说:觉得英文与中文分词有很大的区别,毕竟中文的表达方式跟英语有很大区别,而且语言组合形式丰富,如果把国外的内容强行搬过来用,不一样是最好的.所以这边看到有几家大牛都在中文分词以及NLP上越走越远.哈工大以及北大的张华平教授(NLPIR)的研究成果非常棒! 次,全球用户突破30万.(博客中科院分词系统整理笔记) <大数据搜索与挖掘>张华平:在线看书网址 4.bostonNLP 玻森采用的结构化预测分词模型是传统线性条件随机场(Linear-chain CRF)的一个变种. 分词与词性标注中

当前中文指代消解领域比较活跃的研究者是Chen和Vincent Ng,这两个人近两年在AAAI2014, 2015发了一些相关的文章,研究领域跨越零指代.代词指代.名词指代等,方法也不是很复杂,集中于规则+特征+模型的传统思路.国内集中在苏州大学周国栋老师带领的团队和刘挺.秦兵老师带领的团队,分别在Berkeley Parser.LTP基础上做了一些研究,但是遗憾的是,近年来国内学者好像没有顶会命中记录. 鉴于当前国内的指代消解工具基本上没有开源.同时效果还说得过去的,所以经过大量调研当前中文指

准备工作,先准备 python 环境,下载 BERT 语言模型 Python 3.6 环境 需要安装kashgari Backend pypi version desc TensorFlow 2.x pip install 'kashgari>=2.0.0' coming soon TensorFlow 1.14+ pip install 'kashgari>=1.0.0,<2.0.0' current version Keras pip install 'kashgari<1.0

写在前面 文本分类是nlp中一个非常重要的任务,也是非常适合入坑nlp的第一个完整项目.虽然文本分类看似简单,但里面的门道好多好多,作者水平有限,只能将平时用到的方法和trick在此做个记录和分享,希望大家看过都能有所收获,享受编程的乐趣. 第一部分 模型 Bert模型是Google在2018年10月发布的语言表示模型,一经问世在NLP领域横扫了11项任务的最优结果,可谓风头一时无二.有关于Bert中transformer的模型细节,推荐看这篇.在此不做赘述. ​ ​图一:bert分类模型结构

转载自:http://www.zmonster.me/2016/06/08/use-stanford-nlp-package-in-nltk.html 目录 NLTK 与 Stanford NLP 安装和配置 注意事项 StanfordSegmenter StanfordTokenizer StanfordNERTagger 和 StanfordPOSTagger StanfordParser, StanfordDependencyParser StanfordNeuralDependencyP

详细代码已上传到github: click me Abstract:    Sentiment classification is the process of analyzing and reasoning the sentimental subjective text, that is, analyzing the attitude of the speaker and inferring the sentiment category it contains. Traditional mac

ERNIE是百度自研的持续学习语义理解框架,该框架支持增量引入词汇(lexical).语法 (syntactic) .语义(semantic)等3个层次的自定义预训练任务,能够全面捕捉训练语料中的词法.语法.语义等潜在信息. ERNIE2.0实现了在中英文16个任务上的最优效果,具体效果见下方列表. 一.ERNIE2.0中文效果验证 我们在 9 个任务上验证 ERNIE 2.0 中文模型的效果.这些任务包括:自然语言推断任务 XNLI:阅读理解任务 DRCD.DuReader.CMRC2018:

一.BERT-wwm wwm是Whole Word Masking(对全词进行Mask),它相比于Bert的改进是用Mask标签替换一个完整的词而不是子词,中文和英文不同,英文中最小的Token就是一个单词,而中文中最小的Token却是字,词是由一个或多个字组成,且每个词之间没有明显的分隔,包含更多信息的是词,全词Mask就是对整个词都通过Mask进行掩码. 例如: 论文下载链接:https://arxiv.org/pdf/1906.08101.pdf 二.BERT-wwm-ext 它是BERT

本文记录使用BERT预训练模型,修改最顶层softmax层,微调几个epoch,进行文本分类任务. BERT源码 首先BERT源码来自谷歌官方tensorflow版:https://github.com/google-research/bert 注意,这是tensorflow 1.x 版本的. BERT预训练模型 预训练模型采用哈工大讯飞联合实验室推出的WWM(Whole Word Masking)全词覆盖预训练模型,主要考量是BERT对于中文模型来说,是按照字符进行切割,但是注意到BERT随机

更新中 更新时间:2019-12-06 17:43:27 实验需要,在自己学习的过程中做如下笔记,欢迎指正,欢迎交流. 1. ERNIE简述 ERNIE和BERT一样,也是基于transformer来做,但最重要的不同点是:bert对word做mask,而ernie对命名实体和短语做mask,捕捉更好的语义信息. 先看一下ERNIE 2.0的架构图: Application中,可以看到ernie支持各类NLP任务,在model的部分,基于百度的大数据及先验知识构建任务,进行基于多任务的预训练.

参照当Bert遇上Kerashttps://spaces.ac.cn/archives/6736此示例准确率达到95.5%+ https://github.com/CyberZHG/keras-bert/blob/master/README.zh-CN.md 示例实现 # ! -*- coding:utf-8 -*- import json import numpy as np import pandas as pd from random import choice from keras_be

1.keras_bert 和 kert4keras keras_bert 是 CyberZHG 大佬封装好了Keras版的Bert,可以直接调用官方发布的预训练权重. github:https://github.com/CyberZHG/keras-bert 快速安装:pip install keras-bert kert4keras 是 苏剑林 大佬参考 keras-bert 重新编写的一个 keras 版的 bert,所以使用体验差不多,但 kert4keras 可以适配 albert gi

环境准备 安装pytesseract和PIL 安装这两个包可以借助pip命令行安装 pip install PIL pip install pytesseract 安装识别引擎tesseract-ocr 下载地址: https://digi.bib.uni-mannheim.de/tesseract/ https://github.com/UB-Mannheim/tesseract/wiki 选择对应版本下载 实现及效果 原图 代码 from PIL import Image import py

一.Numpy NumPy系统是Python的一种开源的数值计算包. 包括: 1.一个强大的N维数组对象Array: 2.比较成熟的(广播)函数 库: 3.用于整合C/C++和Fortran代码的工具包: 4.实用的线性代数.傅里叶变换和随机数生成函数. numpy和稀疏矩阵运算包scipy配合使用更加方便. 安装: pip install numpy 二.NLTK Natural Language Toolkit,自然语言处理工具包,在NLP领域中,最常使用的一个Python库. pip in

stanfordcorenlp安装教程&简单使用教程 编译环境:python 3.6 .win10 64位.jdk1.8及以上 1.stanfordcorenlp安装依赖环境 下载安装JDK 1.8及以上版本.安装教程:https://blog.csdn.net/qq_40426415/article/details/80994622 jdk下载地址:https://www.oracle.com/java/technologies/javase-jdk8-downloads.html 下载Sta

@ 目录 PaddleOCR简介 环境配置 PaddleOCR2.0的配置环境 Docker 数据集 文本检测 使用自己的数据集 文本识别 使用自己的数据集 字典 自定义字典 添加空格类别 文本角度分类 文本检测 训练 模型准备 启动训练 断点训练 指标评估 测试检测效果 文本识别 启动训练 评估 预测 文本角度分类 训练 启动训练 数据增强 训练 评估 预测 配置文件说明 Global Optimizer (ppocr/optimizer) Architecture (ppocr/modeli