深度学习--全连接层.高阶应用.GPU加速 MSE均方差 Cross Entropy Loss:交叉熵损失 Entropy 熵: 1948年,香农将统计物理中熵的概念,引申到信道通信的过程中,从而开创了信息论这门学科,把信息中排除了冗余后的平均信息量称为"信息熵".香农定义的"熵"又被称为香农熵或信息熵,即 其中标记概率空间中所有可能的样本,表示该样本的出现几率,是和单位选取相关的任意常数. 针对此问题,熵越大,不确定程度就越大,对于其中信息量的讨论参考知乎. ​…
Google开源了TensorFlow(GitHub),此举在深度学习领域影响巨大,因为Google在人工智能领域的研发成绩斐然,有着雄厚的人才储备,而且Google自己的Gmail和搜索引擎都在使用自行研发的深度学习工具. 对于希望在应用中整合深度学习功能的开发者来说,GitHub上其实还有很多不错的开源项目值得关注,首先我们推荐目前规模人气最高的TOP3: 一.Caffe.源自加州伯克利分校的Caffe被广泛应用,包括Pinterest这样的web大户.与TensorFlow一样,Caffe…
目录 声学模型 GRU-CTC DFCNN DFSMN 语言模型 n-gram CBHG 数据集 本文搭建一个完整的中文语音识别系统,包括声学模型和语言模型,能够将输入的音频信号识别为汉字. 声学模型使用了应用较为广泛的递归循环网络中的GRU-CTC的组合,除此之外还引入了科大讯飞提出的DFCNN深度全序列卷积神经网络,也将引入阿里的架构DFSMN. 语言模型有传统n-gram模型和基于深度神经网络的CBHG网络结构,该结构是谷歌用于TTS任务中的tacotron系统,本文中将该系统部分结构移植…
Caffe(http://caffe.berkeleyvision.org/)是一个清晰而高效的深度学习框架,其作者是博士毕业于UC Berkeley的贾扬清(http://daggerfs.com/),他眼下在Google工作. Caffe是纯粹的C++/CUDA架构.支持命令行.Python和MATLAB接口:能够在CPU和GPU直接无缝切换: Caffe::set_mode(Caffe::GPU); Caffe的优势 1.     上手快:模型与对应优化都是以文本形式而非代码形式给出. C…
<深度学习与计算机视觉 算法原理.框架应用>全书共13章,分为2篇,第1篇基础知识,第2篇实例精讲.用通俗易懂的文字表达公式背后的原理,实例部分提供了一些工具,很实用. <大数据架构详解:从数据获取到深度学习>从架构.业务.技术三个维度深入浅出地介绍了大数据处理领域端到端的知识. <深度学习与计算机视觉 算法原理.框架应用>PDF,带书签,347页. <大数据架构详解:从数据获取到深度学习>PDF,带书签,373页. 配套源代码. 网盘下载:http://1…
一. 前提 多GPU交互在神经网络是常见的,所以在安装caffe之前需要安装NCCL,来保证多GPU之间的相互交流.  多GPU,这里指的是2个及2个以上英伟达显卡,而不是笔记本中的集显和独显. 二.安装NCCL 1.下载编译  shell终端 cd nccl make CUDA_HOME=/user/local/cuda-7.5 test #注意自己的cuda路径 1 2 1 2 2.测试和配置环境变量  shell终端 export LD_LIBRARY_PATH=$LD_LIBRARY_P…
比较OpenBLAS,Intel MKL和Eigen的矩阵相乘性能 对于机器学习的很多问题来说,计算的瓶颈往往在于大规模以及频繁的矩阵运算,主要在于以下两方面: (Dense/Sparse) Matrix – Vector product (Dense/Sparse) Matrix – Dense Matrix product 如何使机器学习算法运行更高效摆在我们面前,很多人都会在代码中直接采用一个比较成熟的矩阵运算数学库,面对繁多的数学库,选择一个合适的库往往会令人头疼,这既跟你的运算环境有关…
什么是TensorFlow TensorFlow是谷歌在去年11月份开源出来的深度学习框架.开篇我们提到过AlphaGo,它的开发团队DeepMind已经宣布之后的所有系统都将基于TensorFlow来实现.TensorFlow一款非常强大的开源深度学习开源工具.它可以支持手机端.CPU.GPU以及分布式集群.TensorFlow在学术界和工业界的应用都非常广泛.在工业界,基于TensorFlow开发的谷歌翻译.谷歌RankBrain等系统都已经上线.在学术界很多我在CMU.北大的同学都表示Te…
最新最全的文章请关注我的微信公众号:数据拾光者. 摘要:本篇主要分析Youtube深度学习推荐系统,借鉴模型框架以及工程中优秀的解决方案从而应用于实际项目.首先讲了下用户.广告主和抖音这一类视频平台三者之间的关系:就是平台将视频资源作为商品免费卖给用户,同时将用户作为商品有偿卖给广告主,仅此而已.平台想获取更高的收益就必须提升广告的转化效率,而前提是吸引用户增加观看视频的时长,这里就涉及到视频推荐的问题.因为Youtube深度学习推荐系统是基于Embedding做的,所以第二部分讲了下Embed…
PaddlePaddle会和Python一样流行吗? 深度学习引擎最近经历了开源热.2013年Caffe开源,很快成为了深度学习在图像处理中的主要框架,但那时候的开源框架还不多.随着越来越多的开发者开始关注人工智能,AI 巨头们纷纷选择了开源的道路:2015年9月Facebook开源了用于在Torch上更快速地训练神经网络的模块,11月Google开源 TensorFlow,2016年1月微软开源CNTK.最近,百度也宣布开源深度学习引擎 PaddlePaddle. 在这场深度学习的框架之争中,…