目录 1.Memory Networks 框架 流程 损失函数 QA 问题 一些扩展 小结 2.End-To-End Memory Networks Single Layer 输入模块 算法流程 Multiple Layer 网络参数设置细节 QA 问题 3 Key-Value Memory Networks 4 Dynamic Memory Networks Input Module Question Module Episodic Memory Module Attention mechan…

目录 1 Recurrent Entity Network Introduction 模型构建 Input Encoder Dynamic Memory Output Model 总结 2 hierarchical Memory Networks MIPS 3 Hierarchical Memory Networks for Answer Selection on Unknown Words 4 Gated End-to-End Memory Networks 参考 1 Recurrent En…

​  前言  本文介绍一篇CVPR2020的论文,它在paperswithcode上获得了16887星,谷歌学术上有261的引用次数. 论文主要介绍了目标检测现有的研究进展.anchor-based和anchor-free的背景和各自的方法差异,并提出了一种新的正负样本选择方案,用于消除这两者之间的差距. 注:论文讲述了很多关于anchor方面的知识,这篇文章保留了较多原论文中的内容,在介绍新方法的同时,可作为深入理解anchor的文章. 论文:Bridging the Gap Between…

[论文标题]Collaborative Memory Network for Recommendation Systems    (SIGIR'18) [论文作者]—Travis Ebesu (Santa Clara University).—Bin Shen (Google).—Yi Fang (Santa Clara University) [论文链接]Paper(10-pages // Double column) [摘要] 在现代网络平台上,推荐系统对于保持用户对个性化内容的关注起着至关…

继上一篇:Memory Network 1. 摘要 引入了一个神经网络,在一个可能很大的外部记忆上建立了一个recurrent attention模型. 该体系结构是记忆网络的一种形式,但与该工作中的模型不同,它是端到端培训的,因此在培训期间需要的监督明显更少,这使得它更适合实际环境. 它还可以看作是RNNsearch的扩展,适用于每个输出符号执行多个计算步骤的情况.该模型的灵活性允许我们将其应用于各种任务,如(合成的)问题回答[22]和语言建模. 对于前者,我们的方法是与记忆网络竞争,但缺乏监…

2015年,Facebook首次提出Memory Network. 应用领域:NLP中的对话系统. 1. 研究背景 大多数机器学习模型缺乏一种简单的方法来读写长期记忆. 例如,考虑这样一个任务:被告知一组事实或一个故事,然后必须回答关于这个主题的问题. 循环神经网络(RNN) 经过训练来预测下一个(一组)单词的输出.----> 记忆通常太小,并且不能准确地记住过去的事实(知识被压缩到密集的向量中). RNNs在记忆方面有困难. 然而,例如,在视觉和听觉领域,观看一部电影并回答有关它的问题需要长时…

今天我们剖析的也是推荐领域的经典论文,叫做Wide & Deep Learning for Recommender Systems.它发表于2016年,作者是Google App Store的推荐团队.这年刚好是深度学习兴起的时间.这篇文章讨论的就是如何利用深度学习模型来进行推荐系统的CTR预测,可以说是在推荐系统领域一次深度学习的成功尝试. 著名的推荐模型Wide & deep就是出自这篇论文,这个模型因为实现简单,效果不俗而在各大公司广泛应用.因此它同样也可以认为是推荐领域的必读文章之…

循环神经网络(RNN) 人们不是每一秒都从头开始思考,就像你阅读本文时,不会从头去重新学习一个文字,人类的思维是有持续性的.传统的卷积神经网络没有记忆,不能解决这一个问题,循环神经网络(Recurrent Neural Networks)可以解决这一个问题,在循环神经网络中,通过循环可以解决没有记忆的问题,如下图: 看到这里,你可能还是不理解为什循环神经网络就可以有记忆.我们把这个图展开: 可以看出,我们输入 \(X_0\) 后,首先警告训练,得到输出 \(h_0\),同时会把这个输出传递给下一…

递归神经网络 人类并不是每时每刻都从头开始思考.正如你阅读这篇文章的时候,你是在理解前面词语的基础上来理解每个词.你不会丢弃所有已知的信息而从头开始思考.你的思想具有持续性. 传统的神经网络不能做到这点,而且这似乎也是它的主要缺陷.比如,你想对电影中每个点发生的事件类型进行分类.目前还不清楚传统神经网络如何利用之前事件的推理来得出后来事件. 递归神经网络能够解决这一问题.这些网络中具有循环结构,能够使信息持续保存. 递归神经网络具有循环结构 在上图中,一组神经网络A,接收参数,输出,循环A可以使…

这篇博客会介绍点云的基本知识,重点介绍最近两年发表的部分经典论文,有什么建议欢迎留言! 点云基本介绍 点云是某个坐标系下的点的数据集,包含了丰富的信息,可以是三维坐标X,Y,Z.颜色.强度值.时间等等.下面两张图分别展示了点云在三维空间可视化以后的效果和数据格式.点云的数据获取方式有很多种,比较常见的是三维激光扫描仪进行数据采集,它有三大类: 星载(星载LiDAR采用卫星平台,运行轨道高.观测视野广,基本可以测量到地球的每一个角落,为三维控制点和数字高程模型的获取提供了新的途径,有些星载激光雷达…