摘自陶哲轩演讲http://www.youku.com/playlist_show/id_5267259.htmlA frog in a well 井底之蛙 Aristotle        亚里士多德 summmer solstice 夏至 = June solstice lunar eclipse    月食 * were caused by the moon falling into(passing through) the earth's shadow. equator        …

最近在学深度学习相关的东西,在网上搜集到了一些不错的资料,现在汇总一下: Free Online Books  by Yoshua Bengio, Ian Goodfellow and Aaron Courville Neural Networks and Deep Learning42 by Michael Nielsen Deep Learning27 by Microsoft Research Deep Learning Tutorial23 by LISA lab, University…

##机器学习(Machine Learning)&深度学习(Deep Learning)资料(Chapter 2)---#####注:机器学习资料[篇目一](https://github.com/ty4z2008/Qix/blob/master/dl.md)共500条,[篇目二](https://github.com/ty4z2008/Qix/blob/master/dl2.md)开始更新------#####希望转载的朋友**一定要保留原文链接**,因为这个项目还在继续也在不定期更新．希望看到…

稀疏表示 分为 2个过程:1. 获得字典(训练优化字典:直接给出字典),其中字典学习又分为2个步骤:Sparse Coding和Dictionary Update:2. 用得到超完备字典后,对测试数据进行稀疏编码Sparse Coding,求出稀疏矩阵. 1. 训练字典的方法:MOD,K-SVD,Online ... MOD (Method of Optimal Direction): Sparse Coding其采用的方法是OMP贪婪算法; Dictionary Update采用的是最小二乘法…

转自:http://www.math.org.cn/forum.php?mod=viewthread&tid=14819&extra=&page=1 原作者: wcboy 现在的论坛质量比以前差了,大部分都是来解题问答的,而且层次较低.以前论坛中,Qullien很令人印象深刻,但愿他能在国外闯出一片天空.现在 基础数学版代数&数论子版中那几个讨论代数几何的还不错.不期望目前论坛出现很多高层次高手,高层次高手应该站在好课题上高观点讨论数学,出 现这样的网友,看他们的言论非常过…

此文主要总结的是一种随机算法,旨在判断一个expander图上两点是否连通.复杂度O(logn).算法思路清奇. expander graph博大精深,如果对expander graph的生成,family感兴趣,可以去看一下陶哲轩巨巨巨神的博客What's new,里面有篇博文讲了这些问题. 个人理解,算法可以归纳成一句话:如果expander图G是连通的,那么概率分布p在图G上随机游走l=O(logn)步后会高度逼近等概率分布. 证明见下:第一张图约定了一些符号,第二张图证明了定义的(显然大…

章节:电子笔记本的思考(1)   陶哲轩在<解题·成长·快乐——陶哲轩教你学数学>中着重强调,用纸笔来“缓存”思维对于数学解题的重要性: 用选定的符号表达你所知道的信息,并画一个示意图.把所有信息写在纸上,有三点好处: a)解题时,便于思考: b)陷入困境时,可以盯着纸进行思考: c)把知道的写下来,这个过程本身可以激发新的灵感和联想. 但请注意,不要写下过多的信息和细节.一种折中的办法是着重强调那些你认为最有用的事实,而把那些令人怀疑的.冗杂的或异想天开的想法写在另一张草稿纸上.   同样地…

[原创精品]程序员最强大的利器,本文以下内容全都是作者EverStenis(胡佳吉)的原创,未经授权不得转载,抄袭必究. 我想问大家一个问题,对于我们程序员来说,在我们的武器工具库中,最强大的一件利器是什么? 答案是:电子笔记本(也就是,云笔记). 学会如何高效使用这件工具,可以让我们编程效率以及做事规划事半功倍! 陶哲轩在<解题·成长·快乐——陶哲轩教你学数学>中着重强调,用纸笔来“缓存”思维对于数学解题的重要性: 用选定的符号表达你所知道的信息,并画一个示意图.把所有信息写在纸上,有三点好…

标题:等差素数列 2,3,5,7,11,13,....是素数序列. 类似:7,37,67,97,127,157 这样完全由素数组成的等差数列,叫等差素数数列. 上边的数列公差为30,长度为6. 2004年,格林与华人陶哲轩合作证明了:存在任意长度的素数等差数列. 这是数论领域一项惊人的成果! 有这一理论为基础,请你借助手中的计算机,满怀信心地搜索: 长度为10的等差素数列,其公差最小值是多少? 注意:需要提交的是一个整数,不要填写任何多余的内容和说明文字. 思路:筛法打表+枚举公差 (比赛的时候…

/*——————————————————————————————————————————————————————————— [结果填空题]T1 (分值:5) 题目:购物单 小明刚刚找到工作,老板人很好,只是老板夫人很爱购物. 老板忙的时候经常让小明帮忙到商场代为购物. 小明很厌烦,但又不好推辞. 这不,XX大促销又来了!老板夫人开出了长长的购物单,都是有打折优惠的. 小明也有个怪癖,不到万不得已,从不刷卡,直接现金搞定. 现在小明很心烦,请你帮他计算一下, 需要从取款机上取多少现金,才能搞定这次…

版权声明: 本文为博主Bravo Yeung(知乎UserName同名)的原创文章,欲转载请先私信获博主允许,转载时请附上网址 http://blog.csdn.net/lzuacm. HDUoj 5391 - Zball in Tina Town 在线提交: http://acm.hdu.edu.cn/showproblem.php?pid=5391 Time Limit: 3000/1500 MS (Java/Others) Memory Limit: 262144/262144 K (Ja…

1. 标题: 购物单 小明刚刚找到工作,老板人很好,只是老板夫人很爱购物.老板忙的时候经常让小明帮忙到商场代为购物.小明很厌烦,但又不好推辞. 这不,XX大促销又来了!老板夫人开出了长长的购物单,都是有打折优惠的. 小明也有个怪癖,不到万不得已,从不刷卡,直接现金搞定. 现在小明很心烦,请你帮他计算一下,需要从取款机上取多少现金,才能搞定这次购物. 取款机只能提供100元面额的纸币.小明想尽可能少取些现金,够用就行了. 你的任务是计算出,小明最少需要取多少现金. 以下是让人头疼的购物单,为了保护…

最近一直在学习实时渲染,不免要接触线性代数.而渲染中,一定会用到矩阵,当我再次去复习我之前看的书时,发现<Unity3D 实战核心技术详解>关于矩阵就有几处错误 ,特标注出来. 书的第一章<3D数学与Unity>,1.3.2讲矩阵缩放.1.3.3讲矩阵的旋转.缩放是一个矩阵,后面旋转针对绕三个不同的轴的旋转矩阵(x.y.z),总共4个矩阵,其中3个是错误的,只有一个绕y轴旋转是正确的.我不确定是印刷问题,还是作者本身对矩阵了解和掌握的就不深入,但出现这样的低级错误实属不该. 我直接…

图灵数学·统计学丛书01-概率论及其应用(第1卷·第3版)-[美]William.Feller-人民邮电出版社.pdf 图灵数学·统计学丛书01-金融数学:衍生产品定价引论-[英]M·巴克斯特&A·伦尼-叶中行&王桂兰&林建忠(译)-人民邮电出版社-2006.pdf 图灵数学·统计学丛书02-偏微分方程数值解(第2版)-[英]K·W·莫顿-人民邮电出版社-2006.pdf 图灵数学·统计学丛书03-流形上的微积分:高等微积分中的一些经典定理的现代化处理(双语版)-[美]M·斯皮瓦克…

低维模型与深度模型的殊途同归 有助理解核心,陌生概念需要加强理解. 对于做机器学习,和做图像视觉的研究者来说,过去的十年是非常激动人心的十年.以我个人来讲,非常有幸接触了两件事情: 第一件是压缩感知(compressive sensing),高维空间的低维模型,利用其稀疏低秩的性质,带来一场图像处理的革命. 第二件就是大家非常熟悉的深度学习.今天我以视觉为例,探讨低维模型和深度模型如何为了一个共同的目的从两个完全对立的方向走到了一起. 从结果来看,压缩感知和深度学习都让我们能在像素级别处理图像的…

标题:等差素数列 2,3,5,7,11,13,....是素数序列. 类似:7,37,67,97,127,157 这样完全由素数组成的等差数列,叫等差素数数列. 上边的数列公差为30,长度为6. 2004年,格林与华人陶哲轩合作证明了:存在任意长度的素数等差数列. 这是数论领域一项惊人的成果! 有这一理论为基础,请你借助手中的计算机,满怀信心地搜索: 长度为10的等差素数列,其公差最小值是多少? 注意:需要提交的是一个整数,不要填写任何多余的内容和说明文字. 比赛的时候有点混乱,结果连暴力都没暴力…

一. 购物单 小明刚刚找到工作,老板人很好,只是老板夫人很爱购物.老板忙的时候经常让小明帮忙到商场代为购物.小明很厌烦,但又不好推辞. 这不,XX大促销又来了!老板夫人开出了长长的购物单,都是有打折优惠的. 小明也有个怪癖,不到万不得已,从不刷卡,直接现金搞定. 现在小明很心烦,请你帮他计算一下,需要从取款机上取多少现金,才能搞定这次购物. 取款机只能提供100元面额的纸币.小明想尽可能少取些现金,够用就行了. 你的任务是计算出,小明最少需要取多少现金. 以下是让人头疼的购物单,为了保护隐私,物…

Ref: http://blog.csdn.net/daunxx/article/details/51596877 Ref: https://www.youtube.com/watch?v=ipb2MhSRGdw Ref: nullege.com/codes Lasso Regression |-- Coordinate descent |-- Least Angle Regression |-- ElasticNet |-- Compressive sensing Lasso回归模型 是一个用…

一直在读<陶哲轩实分析>,陶的书非常的严谨,环环相扣,但是也有个缺点就是计算性的例子和应用方面的例子太少了.所以就又找了本柯朗的<微积分与数学分析>搭配着看.柯朗的书的习题与陶的风格完全不同,里面有大量的考察技巧性的习题,有些题相当有难度,第一卷又没有提供习题答案.我试着解了一小部分习题,放到这里,供有需要的同学参考.能力有限,有些题确实搞不定,有些题给的答案可能是错的.所以仅供参考. 柯朗微积分与数学分析习题选解(1.2 节 d) 第 3 题 反证法: 假设在[0,1] 区间内,…

一直在读<陶哲轩实分析>,陶的书非常的严谨,环环相扣,但是也有个缺点就是计算性的例子和应用方面的例子太少了.所以就又找了本柯朗的<微积分与数学分析>搭配着看.柯朗的书的习题与陶的风格完全不同,里面有大量的考察技巧性的习题,有些题相当有难度,第一卷又没有提供习题答案.我试着解了一小部分习题,放到这里,供有需要的同学参考.能力有限,有些题确实搞不定,有些题给的答案可能是错的.所以仅供参考. 柯朗微积分与数学分析习题选解(1.3 节 c) 1(a) 试证明一条直线同高于一次的多项式的图形…

一直在读<陶哲轩实分析>,陶的书非常的严谨,环环相扣,但是也有个缺点就是计算性的例子和应用方面的例子太少了.所以就又找了本柯朗的<微积分与数学分析>搭配着看.柯朗的书的习题与陶的风格完全不同,里面有大量的考察技巧性的习题,有些题相当有难度,第一卷又没有提供习题答案.我试着解了一小部分习题,放到这里,供有需要的同学参考.能力有限,有些题确实搞不定,有些题给的答案可能是错的.所以仅供参考. 柯朗微积分与数学分析习题选解(1.3 节 b) 这一小节只有一道习题.这道题还是有些难度的,我是…

一直在读<陶哲轩实分析>,陶的书非常的严谨,环环相扣,但是也有个缺点就是计算性的例子和应用方面的例子太少了.所以就又找了本柯朗的<微积分与数学分析>搭配着看.柯朗的书的习题与陶的风格完全不同,里面有大量的考察技巧性的习题,有些题相当有难度,第一卷又没有提供习题答案.我试着解了一小部分习题,放到这里,供有需要的同学参考.能力有限,有些题确实搞不定,有些题给的答案可能是错的.所以仅供参考. 柯朗微积分与数学分析习题选解(1.1 节 e) 第四题 两个正数 a ,b 的调和平均值 ε 定…

一直在读<陶哲轩实分析>,陶的书非常的严谨,环环相扣,但是也有个缺点就是计算性的例子和应用方面的例子太少了.所以就又找了本柯朗的<微积分与数学分析>搭配着看.柯朗的书的习题与陶的风格完全不同,里面有大量的考察技巧性的习题,有些题相当有难度,第一卷又没有提供习题答案.我试着解了一小部分习题,放到这里,供有需要的同学参考.能力有限,有些题确实搞不定,有些题给的答案可能是错的.所以仅供参考. 柯朗微积分与数学分析习题选解(1.1 节 a) 第一题 1(a) 反证法:如果 a + x 是有…

1.标题: 购物单 小明刚刚找到工作,老板人很好,只是老板夫人很爱购物.老板忙的时候经常让小明帮忙到商场代为购物.小明很厌烦,但又不好推辞. 这不,XX大促销又来了!老板夫人开出了长长的购物单,都是有打折优惠的.    小明也有个怪癖,不到万不得已,从不刷卡,直接现金搞定.    现在小明很心烦,请你帮他计算一下,需要从取款机上取多少现金,才能搞定这次购物. 取款机只能提供100元面额的纸币.小明想尽可能少取些现金,够用就行了.    你的任务是计算出,小明最少需要取多少现金. 以下是让人头疼的…

第一题 标题: 购物单 小明刚刚找到工作,老板人很好,只是老板夫人很爱购物.老板忙的时候经常让小明帮忙到商场代为购物.小明很厌烦,但又不好推辞. 这不,XX大促销又来了!老板夫人开出了长长的购物单,都是有打折优惠的. 小明也有个怪癖,不到万不得已,从不刷卡,直接现金搞定. 现在小明很心烦,请你帮他计算一下,需要从取款机上取多少现金,才能搞定这次购物. 取款机只能提供100元面额的纸币.小明想尽可能少取些现金,够用就行了. 你的任务是计算出,小明最少需要取多少现金. 以下是让人头疼的购物单,为了保…

稀疏编码(sparse coding)和低秩矩阵(low rank)的区别        上两个小结介绍了稀疏编码的生命科学解释,也给出一些稀疏编码模型的原型(比如LASSO),稀疏编码之前的探讨文章就不说了,今天开始进入机器学习领域的稀疏表达.稀疏编码进入机器学习领域后,出现了很多应用,比如计算视觉领域的图像去噪,去模糊,物体检测,目标识别和互联网领域的推荐系统(Collaborative filtering)用到的low rank,其实sparsecoding和low rank有点区别,前者…

声明:本人属于绝对的新手,刚刚接触“稀疏表示”这个领域.之所以写下以下的若干个连载,是鼓励自己不要急功近利,而要步步为赢!所以下文肯定有所纰漏,敬请指出,我们共同进步! 踏入“稀疏表达”(Sparse Representation)这个领域,纯属偶然中的必然.之前一直在研究压缩感知(Compressed Sensing)中的重构问题.照常理来讲,首先会找一维的稀疏信号(如下图)来验证CS理论中的一些原理,性质和算法,如测量矩阵为高斯随机矩阵,贝努 利矩阵,亚高斯矩阵时使用BP,MP,OMP等重构…

compressive sensing(CS) 又称 compressived sensing ,compressived sample,大意是在采集信号的时候(模拟到数字),同时完成对信号压缩之意.中文的翻译成"压缩感知",意思变得至少不太好理解了. 数码相机镜头收集了大量的数据,然后再压缩,压缩时丢弃掉90%的数据.如果有CS,如果你的照相机收集了如此多的数据只是为了随后的删除,那么为什么不一开始就丢弃那90%的数据,直接去除冗余信息不仅可以节省电池电量,还能节省空间. 感知压缩难…

总结一下最近看的压缩感知(Compressed Sensiong)的内容. 它是在采样过程中完成了数据压缩的过程. 一. 将模拟信号转换为计算机能够处理的数字信号,必然要经过采样的过程.问题在于,应该用多大的采样频率,即采样点应该多密多疏,才能完整保留原始信号中的信息呢? 奈奎斯特给出了答案——信号最高频率的两倍.一直以来,奈奎斯特采样定律被视为数字信号处理领域的金科玉律. 为什么是两倍?因为时域以τ为间隔进行采样,频域会以1/τ为周期发生周期延拓.那么如果采样频率低于两倍的信号最高频率,信号在…

版权声明:本文作者靖心,靖空间地址:http://blog.csdn.net/kenden23/,未经本作者同意不得转载. https://blog.csdn.net/kenden23/article/details/25339917 Discrete.Mathematics.and.Its.Applications这本书是离散数学的经典书籍,好好读一读,系统化一下自己的知识. 书本上会有介绍非常多杰出的数学家,如高斯, 这样名垂青史的大人物. 只是读到263页的时候被一个年轻的脸孔震惊到了,看…