个人理解: 句子相似性判断.情感分析.实体识别.智能问答,本质基本上都是分类任务. 阅读理解(抽取式.回答式.完形填空)是逐个候选项的分类问题处理. 参考 https://github.com/chineseGLUE/chineseGLUE https://github.com/CLUEbenchmark/CLUE https://github.com/PaddlePaddle/ERNIE http://dy.163.com/v2/article/detail/EAFKC4I205118HA4.…

一个机器学习竞赛中,题目大意如下,本文主要记录数据处理过程,为了模型训练,第一步需要将中文数据集处理为数值类别数据集保存. 基于大数据的运营商投诉与故障关联分析 目标:原始数据集是含大量中文的xls格式的表格,目标处理为数值类别的csv表格. 原始数据集部分切片,如下格式: 目标数据集为,处理成对应的数值类别格式,如下: 解决思路:(处理中文需要注意编码) 总体分两步,1.提取每一列的值(含中文),作为key关键字,value为自增的整数,构造字典.利用了字典的key唯一的特性. 2.根据上一部…

吐血整理:人工智能PDF中文教材资源包2.73G基本包含全部学习资料 人工智能学习书单(关注微信公众号:aibbtcom获取更多资源) 文末附百度网盘下载地址 人工神经网络与盲信号处理 人工神经网络与模糊信号处理 人工智能(AI)程序设计(面向对象语言) 人工智能 人工智能导论 人工智能基础 人工智能及其应用(蔡自兴) 人工智能入门 人工智能人工神经网络及其语言AI&ANNProgramming in Emacs Lisp 人工智能哲学 深度学习 中文版 深度学习21天学习 深度学习基础(Fun…

NLP & 中文分词 中文分词 (Word Segmentation, WS) 指的是将汉字序列切分成词序列. 中文自然语言处理系统 https://www.ltp-cloud.com/intro#cws https://ltp.ai/…

工作中,总是要使用各种中文数据集,每次使用数据集都要花费不少的时间进行寻找,写预处理代码,结合不同的模型和框架做出相应的处理.有的时候好不容易找到合适的数据集,但是却因为网络问题,无法下载,下载了很长一段时间,突然弹出 timeout. 既浪费时间,也浪费精力. 所以,就决定自己造个轮子,搞定这个问题. 考虑到这个包要能有很好的多框架兼容性,并且还要有很好的性能和源码的架构.找来找去,最终找到了 Huggingface 的 Datasets 库,这个包有着非常好的框架兼容性,性能和源码架构,是一…

      一,软件准备 coreseek4.1 (包含coreseek测试版和mmseg最新版本,以及测试数据包[内置中文分词与搜索.单字切分.mysql数据源.python数据源.RT实时索引等测试配置]) Mysql源码包 (必须选择与你已安装mysql的版本一致) 为了避免安装中出现依赖包缺失,你需要打一句鸡血: yum install make gcc g++ gcc-c++ libtool autoconf automake imake mysql-devel libxml2-dev…

Github https://github.com/sebastianruder/NLP-progress 官方网址 https://nlpprogress.com/ NLP-Progress 同时涵盖了传统的NLP任务,如依赖解析和词性标注,和一些新的任务,如阅读理解和自然语言推理.它的不仅为读者提供这些任务的 baseline 和 标准数据集,还记录了这些问题的state-of-the-art. 下面小编简单列举了几个NLP-Progress 记录的任务: Coreference resol…

安装2012后,一直没注意到中文的问题.直到有一天,突然发现字段内容竟然是“??”,然后一通查,原来是排序规则需要改变: 选择数据库->右键属性->选项,将排序规则改成“Chinese_PRC_CI_AS”,然后保存就好了. 当然,任何事情不可能一帆风顺,尤其是我们这么庞大的DBMS.所以就出现了“5030错误”,然后就比较曲折了: 1)首先要将数据库改成单用户模式:在查询窗口执行“ALTER DATABASE db_database SET SINGLE_USER WITH ROLLBACK…

分词是中文自然语言处理的基础.目前常用的分词算法有 1.张华平博士的NShort中文分词算法. 2.基于条件随机场(CRF)的中文分词算法. 这两种算法的代表工具包分别是jieba分词系统和哈工大的LTP语言技术平台.下面就分别演示这两个工具的使用方法. jieba包有两个分词函数,cut和cut_for_search,后者主要为搜索引擎设计,粒度更细.jieba.cut(sentence,cut_all=False,HMM=True)方法接受三个输入参数: 需要分词的字符串:cut_all 参…

之前在其他博客文章有提到如何对英文进行分词,也说后续会增加解释我们中文是如何分词的,我们都知道英文或者其他国家或者地区一些语言文字是词与词之间有空格(分隔符),这样子分词处理起来其实是要相对容易很多,但是像中文处理起来就没有那么容易,因为中文字与字之间,词与词之间都是紧密连接在一起的,所以第一件事需要处理的就是如何确认词.中文文章的最小组成单位是字,但是独立的字并不能很好地传达想要表达整体的意思或者说欠缺表达能力,所以一篇成文的文章依旧是以词为基本单位来形成有意义的篇章,所以词是最小并且能独立活…