声明:本系列文章转载自微信公众号HULU,本人只是搬运工,仅供学习,如有不妥,后续告知删除. 嗨,欢迎回来,希望你能保持定期回顾的好习惯噢!下面是Hulu机器学习问题与解答系列的前8篇内容,点击主题名即可进入. 1. 模型评估 2. SVM模型 3. 优化简介 4. 采样 5. 余弦距离 6. PCA算法 7. 非监督学习算法与评估 8. 强化学习(一),强化学习(二) 你可以留言发表复习之后的新感悟,说不定会在新的推送中看到你自己的思考- 不明白的地方也欢迎向作者提问,小编会在第一时间给予反馈…

Index Awesome 备注 1 Awesome Machine Learning 机器学习资源大全中文版 2 Awesome Artificial Intelligence 人工智能 3 Awesome AwesomenessAwesome Awesome的平方,还有个立方但是不经典 4 Awesome Deep Learning 深度学习 5 Awesome Very Deep Learning 非常深的深度学习 6 Applied Deep Learning Resources 深度学…

1. Boosting算法基本思路 提升方法思路:对于一个复杂的问题,将多个专家的判断进行适当的综合所得出的判断,要比任何一个专家单独判断好.每一步产生一个弱预测模型(如决策树),并加权累加到总模型中,可以用于回归和分类问题:如果每一步的弱预测模型生成都是依据损失函数的梯度方向,则称之为梯度提升(Gradient boosting). 梯度提升算法首先给定一个目标损失函数,它的定义域是所有可行的弱函数集合(基函数):提升算法通过迭代的选择一个负梯度方向上的基函数来逐渐逼近局部极小值.这种在函数域…

https://blog.csdn.net/sinat_35512245/article/details/78796328…

41.线性分类器与非线性分类器的区别以及优劣 如果模型是参数的线性函数,并且存在线性分类面,那么就是线性分类器,否则不是.常见的线性分类器有:LR,贝叶斯分类,单层感知机.线性回归常见的非线性分类器:决策树.RF.GBDT.多层感知机SVM两种都有(看线性核还是高斯核)线性分类器速度快.编程方便,但是可能拟合效果不会很好非线性分类器编程复杂,但是效果拟合能力强 42.数据的逻辑存储结构(如数组,队列,树等)对于软件开发具有十分重要的影响,试对你所了解的各种存储结构从运行速度.存储效率和适用场合等…

1. Bagging的策略 从样本集中重采样(有放回)选出\(n\)个样本,定义子样本集为\(D\): 基于子样本集\(D\),所有属性上建立分类器,(ID3,C4.5,CART,SVM等): 重复以上步骤\(m\)步,即获得了\(m\)个分类器: 最后根据这\(m\)个分类器进行投票,决定输入样本属于哪一类. 2. 随机森林 随机森林在Bagging基础上做了修改: 从样本中重复自抽样(Bootstrap)选出\(n\)个样本,定义子样本集为\(D\): 基于样本集\(D\),从所有属性中随机…

k 近邻法(K-nearest neighbor)是一种基本的分类方法 基本思路: 给定一个训练数据集,对于新的输入实例,在训练数据集中找到与该实例最邻近的k个实例,这k个实例多数属于某个类别,就把输入实例分为这个类. 算法: 输入:训练数据集 \(T=\{(x_{1},y_{1}),(x_{2},y_{2}),...,(x_{n},y_{n})\}\) 其中 \(x_{i}\) 是训练集实例的特征向量(features vectors),\(y_{i}\) 是训练集实例的类别,\(i=1,2,…

概述 支持向量机是一种二分类模型,间隔最大使它有别于感知机.支持向量机学习方法由简至繁的模型:线性可分支持向量机(linear support vector machine in linearly separable data),线性支持向量机(linear support vector machine),非线性支持向量机(non-linear support vector machine). 简单模型是复杂模型的基础,也是复杂模型的特殊情况.当训练数据线性可分的时候,通过硬间隔最大化(hard…

决策树是一种基本的分类与回归方法.分类决策树是一种描述对实例进行分类的树形结构,决策树由结点和有向边组成.结点由两种类型,内部结点表示一个特征或属性,叶结点表示一个类. 1. 基础知识 熵 在信息学和概率统计中,熵(entropy)是表示随机变量不确定性的度量.设\(X\)是一个取有限个值得离散随机变量,其概率分布为:\[P(X = x_i) = p_i, i = 1,2,3,...,n\] 则随机变量\(X\)的熵定义为:\[H(X) = - \sum_{i=1}^{n}p_i\log{p_i…

1.斯坦福大学公开课机器学习 (吴恩达 Andrew Ng) http://open.163.com/special/opencourse/machinelearning.html 笔记 http://cs229.stanford.edu/syllabus.html http://www.cnblogs.com/jerrylead/default.html?page=3 http://www.cnblogs.com/madrabbit/ https://blog.csdn.net/xiahouz…