由康奈尔大学运营维护着的arXiv网站,是一个在学术论文还未被出版时就将之向所有人开放的地方.这里汇聚了无数科学领域中最前沿的研究,机器学习也包括在内.它反映了学术界当前的整体趋势,我们看到,近来发布的机器学习研究有许多都与深度学习有关. Huho Larochelle博士是加拿大舍布鲁克大学(Université de Sherbrooke)机器学习教授,Twitter的研究员,有名的神经网络研究者,以及深度学习狂热爱好者.从2015年夏天开始,他就一直在撰写并发布他对于arXiv上他感兴趣的
传统机器学习依赖良好的特征工程.深度学习解决有效特征难人工提取问题.无监督学习,不需要标注数据,学习数据内容组织形式,提取频繁出现特征,逐层抽象,从简单到复杂,从微观到宏观. 稀疏编码(Sparse Coding),基本结构组合.自编码器(AutoEncoder),用自身高阶特征编码自己.期望输入/输出一致,使用高阶特征重构自己. Hinton教授在Science发表文章<Reducing the dimensionality of data with neural networks>,讲解自