论文题目: ERNIE: Enhanced Language Representation with Informative Entities(THU/ACL2019) 本文的工作也是属于对BERT锦上添花,将知识图谱的一些结构化信息融入到BERT中,使其更好地对真实世界进行语义建模.也就是说,原始的bert模型只是机械化地去学习语言相关的“合理性”,而并学习不到语言之间的语义联系,打个比喻,就比如掉包xia只会掉包,而不懂每个包里面具体是什么含义.于是,作者们的工作就是如何将这些额外的知识告诉…

自然语言表征模型最近受到非常多的关注,很多研究者将其视为 NLP 最重要的研究方向之一.例如在大规模语料库上预训练的 BERT,它可以从纯文本中很好地捕捉丰富的语义模式,经过微调后可以持续改善不同 NLP 任务的性能.因此,我们获取 BERT 隐藏层表征后,可用于提升自己任务的性能. 但是,已有的预训练语言模型很少考虑知识信息,具体而言即知识图谱(knowledge graphs,KG),知识图谱能够提供丰富的结构化知识事实,以便进行更好的知识理解.简而言之,预训练语言模型只知道语言相关的「合理…

从人工智能学科诞生之初起,自然语言处理(NLP)就是人工智能核心的研究问题之一.NLP的重要性是毋庸置疑的,它能够实现以自然语言交流为特征的高级人机交互,使机器能“阅读”所有以文字形式记录的人类知识,并提供各种高层智能服务的基础和关键技术. 目前在NLP领域最受瞩目的要数谷歌的NLP模型BERT(Bidirectional Encoder Representa-tions from Transformers),它在Trans-former的基础上,借助海量跨领域语料和超高计算能力,通过多任务预训…

一.什么是知识图谱 知识(Knowledge)可以理解为 精炼的数据,知识图谱(Knowledge Graph)即是对知识的图形化表示,本质上是一种大规模语义网络 (semantic network) – 富含实体(entity). 概念(concepts) 及其之间的各种语义关系 (semantic relationships),比如 知识图谱和人工智能: 知识图谱的理想状态: 给所有IOT设备和机器人都挂一个背景知识库,因为对于人类来说,对一个事物的理解取决于这个人关于事物的相关背景知识,对…

原创作者 | 杨健 论文标题: K-BERT: Enabling Language Representation with Knowledge Graph 收录会议: AAAI 论文链接: https://ojs.aaai.org/index.php/AAAI/article/view/5681 项目地址: https://github.com/autoliuweijie/K-BERT 01 背景论述 笔者在前面的论文解读中提到过ERNIE使用基于自注意力机制来克服异构向量的融合,而KEPLER…

论文标题:Mask and Reason: Pre-Training Knowledge Graph Transformers for Complex Logical Queries 论文地址: https://arxiv.org/abs/2208.07638 论文会议: KDD 2022 17.(2022.8.16)KDD-kgTransformer:复杂逻辑查询的预训练知识图谱Transformer 17.(2022.8.16)KDD-kgTransformer:复杂逻辑查询的预训练知识图谱…

16.(2022)Chip-BCKG-基于临床指南的中国乳腺癌知识图谱的构建与应用 论文标题: Construction and Application of Chinese Breast Cancer Knowledge Graph Based on Clinical Guidelines 论文会议: Chip 16.(2022)Chip-BCKG-基于临床指南的中国乳腺癌知识图谱的构建与应用 摘要 1.引言 2.相关工作 2.1 知识提取 2.2 医学KG 3.乳腺癌知识图谱构建 3.1 本…

论文标题: Mining On Alzheimer's Diseases Related Knowledge Graph to Identity Potential AD-related Semantic Triples for Drug Repurposing 论文地址: https://arxiv.org/pdf/2202.08712 论文期刊: BMC Bioinformatics 2022 9.(2022.2.17)BMC Bioinformatics-挖掘阿尔茨海默病相关KG来确定潜在…

12.(2022.5.4)ACL-SimKGC:基于PLM的简单对比KGC 12.(2022.5.4)ACL-SimKGC:基于PLM的简单对比KGC 摘要 1.引言 2.相关工作 2.1 知识图补全(KGC) 2.2 预训练语言模型(PLM) 2.3 对比学习 3.模型方法 3.1 符号 3.2 模型结构 3.3 负采样 3.3.1 批内负采样(IB) 3.3.2 批前负采样(PB) 3.3.3 自我负采样(SN) 3.3.4 负采样处理 3.4 基于图的重排序 3.5 训练和推断 摘要 知识…

知识图谱综述(2021.4) 论文地址:A Survey on Knowledge Graphs: Representation, Acquisition, and Applications 目录 知识图谱综述(2021.4) 摘要 1.简介 2.概述 3.知识表示学习(KRL) 3.1 表示空间 3.1.1 点空间 3.1.2 复向量空间 3.1.3 高斯分布 3.1.4 流形和群 3.2 评分函数 3.2.1 基于距离的评分函数 3.2.2 基于语义匹配的评分函数 3.3 编码模型 3.3.…