我准备跟随码农场hankcs大神的脚步,学习一下斯坦福的CS224n课程. 关于该课程的简介,hankcs大神已经写得很清楚了.…

斯坦福CS224n作业一 softmax 作业要求如下: 解析:题目要求我们证明\(softmax\)函数具有常数不变性. 解答:对于\(x+c\)的每一维来说,有如下等式成立: \[softmax(x+c)_{i}=\frac{e^{x_{i}+c}}{\sum_{j}e^{x_{j}+c}}=\frac{e^{x_{i}}*e^{c}}{\sum_{j}(e^{x_{j}}*e^{c})}=\frac{e^{x_{i}}*e^{c}}{\sum_{j}(e^{x_{j}})*e^{c}}=\…

[NLP CS224N笔记]Lecture 1 - Introduction of NLP [NLP CS224N笔记]Lecture 2 - Word Vector Representations: word2vec…

I. Word meaning Meaning的定义有很多种,其中有: the idea that is represented by a word,phrase,etc. the idea that a person wants to express by using words, signs, etc. 1.Discrete representation 那么在计算机中是如何获取一个word的meaning的呢?常见的解决办法是使用像WordNet之类的数据集,它包含了同义词(synonym…

个人博客地址: https://yifdu.github.io/2018/10/30/CS224n%E7%AC%94%E8%AE%B0%EF%BC%88%E4%B8%80%EF%BC%89/#more…

一.课程网站: http://web.stanford.edu/class/cs224n/archive/WWW_1617/index.html 二.视频(中文字幕) http://www.mooc.ai/course/494 三.课堂笔记(PPT课件讲解) http://www.hankcs.com/tag/cs224n/ 四.lecture notes中文翻译 https://huangzhanpeng.github.io/categories/CS224n%E8%AF%BE%E7%A8%8…

如何表示词语的意思 语言学中meaning近似于"指代,代指,符号". 计算机中如何处理词语的意思 过去一直采用分类词典,计算语言学中常见的方式时WordNet那样的词库,比如NLTK中可以通过WordNet查询熊猫的上位词(hypernums),得到"食肉动物","动物"之类的上位词.也可以查询"good"的同义词,如"just". 离散表示(discrete representation)的问题 这种离…

注:这是2017年课程的lecture8.一直都在用RNN,但是对它内部的构造不甚了解,所以这次花了一个下午加一个晚上看了CS224n中关于RNN的推导,不敢说融会贯通,算是比以前清楚多了.做个笔记,便于日后查阅. Overview 主要讲了以下几个内容: 传统语言模型 RNN和RNN语言模型 一些问题(梯度消失爆炸问题)和训练技巧 RNN的其他应用 双向RNN和多层RNN 传统语言模型 语言模型 首先介绍语言模型的概念,简言之,语言模型描述了一个单词序列的概率,原文是a language mo…

cs224n 斯坦福网址,里面包含讲课视频,ppt,代码,学习完后做一个问答系统 http://web.stanford.edu/class/cs224n/index.html 下载anaconda,里面包含python和python第三方的包,pytorch https://repo.anaconda.com/archive 下载pycharm 或者 jupyter word2vec图解(原文翻译) https://mp.weixin.qq.com/s/Yq_-1eS9UuiUBhNNAIxC…

视频链接 相关资源 Notes 笔记下载 笔记2 需要挂梯子,不然不显示图片,如果用ssr,要调到全局模式 转自:bitJoy CS224N(1.8)introduction and Word Vectors CS224N(1.10)Word Vectors 2 and Word Senses CS224N(1.15 & 1.17)Backpropagation CS224N(1.22)Dependency Parsing CS224N(1.24)Language Models and RNNs…