awesome-nlp  A curated list of resources dedicated to Natural Language Processing Maintainers - Keon Kim, Martin Park Please read the contribution guidelines before contributing. Please feel free to pull requests, or email Martin Park (sp3005@nyu.edu…

Awesome-Pytorch-list 2018-08-10 09:25:16 This blog is copied from: https://github.com/Epsilon-Lee/Awesome-pytorch-list Pytorch & related libraries pytorch : Tensors and Dynamic neural networks in Python with strong GPU acceleration. pytorch extras :…

Recurrent Neural Network 2016年07月01日  Deep learning  Deep learning 字数:24235   this blog from: http://jxgu.cc/blog/recent-advances-in-RNN.html    References Robert Dionne Neural Network Paper Notes Baisc Improvements 20170326 Learning Simpler Language…

26 THINGS I LEARNED IN THE DEEP LEARNING SUMMER SCHOOL In the beginning of August I got the chance to attend the Deep Learning Summer School in Montreal. It consisted of 10 days of talks from some of the most well-known neural network researchers. Du…

本文是对文献 <Graph Neural Networks: A Review of Methods and Applications> 的内容总结,详细内容请参照原文. 引言 大量的学习任务都要求能处理包含丰富的元素间关联关系的图数据,例如物理系统建模.疾病分类以及文本和图像等非结构数据的学习等.图形神经网络(GNNs)是一种连接模型,通过图形节点之间的消息传递捕获图形的依赖性. 图(Graph)是一种对一组对象(node)及其关系(edge)进行建模的数据结构.由于图结构的强大表示能力,近…

重现baseline 我们选择重现CODEnn模型(论文:Deep Code Search),因为它结构简单.端到端可训练,且相比其它方法拥有较高的性能. Baseline原理 为了根据给定的query(文本)查询相关的代码,需要计算文本和所有代码之间的相似度,从而选择相似度最高的k个代码作为查询结果.由于文本与代码为异构数据,需要将它们编码到统一的embedding space中.CODEnn是一种端到端模型,用两个encoder分别将文本和代码编码到同一高维空间中,并用cosine simi…

复现极限模型 codenn 原理 其原理大致是将代码特征映射到一个向量,再将描述文字也映射到一个向量,将其cos距离作为loss训练. 对于代码特征,原论文提取了函数名.调用API序列和token集:对于描述文字,通常选取docstring(Python)或函数上方或内部注释(JavaScript).对于函数名.token集,会按照驼峰命名和下划线命名进一步划分成更小的词法单元,而API序列则保留不再分割. 所有的这些词素,对于有序的会使用RNN或其变种处理,再将RNN每一个词的输出进行池化:对…

转自:https://github.com/andrewt3000/DL4NLP Deep Learning for NLP resources State of the art resources for NLP sequence modeling tasks such as machine translation, image captioning, and dialog. My notes on neural networks, rnn, lstm Deep Learning for NL…

0. 算法概述 决策树(decision tree)是一种基本的分类与回归方法.决策树模型呈树形结构(二分类思想的算法模型往往都是树形结构) 0x1:决策树模型的不同角度理解 在分类问题中,表示基于特征对实例进行分类的过程,它可以被看作是if-then的规则集合:也可以被认为是定义在特征空间与类空间上的条件概率分布 1. if-then规则集合 决策树的属性结构其实对应着一个规则集合:由决策树的根节点到叶节点的每条路径构成的规则组成:路径上的内部特征对应着if条件,叶节点对应着then结论. 决…

1. 蒙特卡罗方法(Monte Carlo method) 0x1:从布丰投针实验说起 - 只要实验次数够多,我就能直到上帝的意图 18世纪,布丰提出以下问题:设我们有一个以平行且等距木纹铺成的地板(如图), 现在随意抛一支长度比木纹之间距离小的针,求针和其中一条木纹相交的概率.并以此概率,布丰提出的一种计算圆周率的方法——随机投针法.这就是蒲丰投针问题(又译“布丰投针问题”). 我们来看一下投针算法的步骤: 取一张白纸,在上面画上许多条间距为a的平行线 取一根长度为l(l≤a) 的针,随机地向…