1 Introduction 1.1 概念:一个程序被认为能从经验E中学习,解决任务 T,达到性能度量值P,当且仅当, 有了经验E后,经过P评判, 程序在处理 T 时的性能有所提升. 1.2 机器学习分类:监督学习 supervised learning : 回归(regression).分类(classification)非监督学习 unsupervised learning : 聚类(clustering).非聚类(non-clustering) 2 Linear Regression(一个…

1 神经网络的提出 线性回归和逻辑回归能很好的解决特征变量较少的问题,但对于变量数量增加的复杂非线性问题,单纯增加二次项和三次项等特征项的方法计算代价太高. 2 神经网络算法 2.1 神经元 模拟神经元的模型: 模型的参数即模型的去权重. 2.2 神经网络 如图是一个三层神经网络模型,第一层为输入层,第二层为隐藏层,第三层为输出层.每条边上有一个权值θ. ai(j):第j层单元i的“激励” θ(j):第j层到第j+1层单元的权值矩阵. 若第j层单元数为sj,第j+1层单元数为sj+1,则θ(j)…

1 逻辑回归 1. classification 分类 eg:垃圾邮件分类.交易是否是欺诈.肿瘤类别.分类的结果是离散值. 2. sigmoid函数 使用线性方法来判断分类问题,会出现上图中的问题,需要人工判断分界点.有些特殊的样本点,也会使得分界点发生漂移,影响准确性.我们希望我们的分类器输出范围在0~1之间,此时分类问题转化为边界问题.sigmoid函数能保证数据在0~1之间,并且越趋近于无穷大,输出趋近于1. 假设函数预测的是对于输入x,输出为1的概率. 3. cost function…

1 多元线性回归 1.1 假设函数 多元线性回归是指有多个特征特征变量的情况.此时我们修改假设函数hθ(x)=θ0+θ1∗x为hθ(x)=θ0+θ1x1+θ2x2+⋯+θnxn.设x0=1,x为特征向量,θ为参数向量,则hθ(x)=θTx. 1.2 cost function与梯度下降 cost函数依然选择平方误差函数梯度下降方法也没有变: 1.3 特征约简 当变量的范围差别很大时,梯度下降法就会收敛的很慢,此时我们使输入的变量大致属于相同的范围来加速梯度下降.两种方法:特征缩放.均值归一化(x…

吴恩达(Andrew Ng)机器学习课程:课程主页 由于博客编辑器有些不顺手,所有的课程笔记将全部以手写照片形式上传.有机会将在之后上传课程中各个ML算法实现的Octave版本. Linear Regression with One Variable Linear Algebra Review Linear Regression with Multiple Variables Octave/Matlab Tutorial…

1.斯坦福大学公开课机器学习 (吴恩达 Andrew Ng) http://open.163.com/special/opencourse/machinelearning.html 笔记 http://cs229.stanford.edu/syllabus.html http://www.cnblogs.com/jerrylead/default.html?page=3 http://www.cnblogs.com/madrabbit/ https://blog.csdn.net/xiahouz…

上一篇  ※※※※※※※※  [回到目录]  ※※※※※※※※  下一篇 这一章的内容比较简单,主要是MATLAB的一些基础教程,如果之前没有学过matlab建议直接找一本相关书籍,边做边学,matlab的编程入门还是比较容易的. 在这里想讲一下matlab和Python的区别: 吴恩达教授在刚开始教机器学习课程的时候,主要用的是matlab/octave,他给出的理由是利用matlab/octave学生能够更快更好地学习并掌握机器学习算法.这只是当时的情况,在后期吴恩达教授深度学习课程的教学中…

说明 该文为笔者在微信公众号:吴恩达deeplearningai 所推送<机器学习训练秘籍>系列文章的学习笔记,公众号二维码如下,1到15课课程链接点这里 该系列文章主要是吴恩达先生在机器学习方面的经验分享和基础教程,每一章十分短小,旨在让我们能在碎片化的时间中一点点熟悉机器学习的相关知识. 想看该系列文章英文版最新章节的同学请点击这里进行邮件订阅 第1至15章 1.2.3.决策方案很重要 -方案示例: 1.获取更多的数据,即收集更多猫的图片 2.收集更加多样化的训练数据集,比如处于不常见位置…

之前经学长推荐,开始在B站上看Andrew Ng的机器学习课程.其实已经看了1/3了吧,今天把学习笔记补上吧. 吴恩达老师的Machine learning课程共有113节(B站上的版本https://www.bilibili.com/video/av9912938).这篇学习笔记是结合第一.二部分(我所理解的): 第一部分:概览机器学习,介绍其中的一些专业名词及定义.Section 1-26 第二部分:如何使用Octave实现机器学习中的基本算法(Ocatave就是开源版的Matlab).Se…

强烈安利吴恩达老师的<Machine Learning>课程,讲得非常好懂,基本上算是无基础就可以学习的课程. 课程地址 强烈建议在线学习,而不是把视频下载下来看.视频中间可能会有一些问题让你回答,这种互动的方式挺好的. 然后由于我个人的笔记是做在Onenote的笔记本里的,公式输入方法和markdown还是蛮不一样的,就不把自己的笔记放在博客里了.(而且感觉自己在瞎做) 最后强烈安利另外一位朋友的笔记.有word版,markdown版,pdf版,html版等等,业界良心!…