参考:http://www.zhihu.com/question/26768865 总结: 1)在线学习:SVM不支持在线学习,LR支持 2)不平衡数据:SVM不依赖于数据的分布,所以数据是否平衡影响不是很大(有影响的):LR依赖于数据的分布所以不平衡的数据需要进行平衡处理 3)[解释2]SVM只受少数点的影响,同一类的数据的数量并不影响分类效果:LR每一个数据点对分类平面都是有影响的,它的影响力远离它到分类平面的距离指数递减 4)规范化:SVM依赖数据表达的距离测度,所以需要对数据先做norm…

(一)线性可分 我们忽略建立目标函数的过程,直接写出目标函数. 原问题: 首先,我们得到了目标函数: 这是一个凸优化问题,直接可以用软件可以求解: 对偶问题: 原问题根据一系列的变换,可写成: 满足某些条件,写成对偶目标函数,可以写成: 先优化w,b,再优化α,问题变得简单一些了. 将上述条件代入对偶目标函数,变成有α约束的max优化问题,并整理(目标式添加一个负号,变成min问题): (待续)…

支持向量机可以分为三类: 线性可分的情况 ==> 硬间隔最大化 ==> 硬间隔SVM 近似线性可分的情况 ==> 软间隔最大化 ==> 线性支持向量机 线性不可分的情况 ==> 核技巧/软间隔最大化 ==> 非线性SVM 硬间隔向量机(hard margin svm) 任务:寻找一条与所有支持向量距离最远的决策边界,这条决策边界就是\(0 = w^T X + b\),即: \[w^T X_i + b > 0 , y_i > 0 \\ w^T X_i + b…

LR & SVM 的区别 相同点 LR和SVM都是分类算法. 如果不考虑核函数,LR和SVM都是线性分类算法,也就是说他们的分类决策面都是线性的. LR和SVM都是监督学习算法. LR和SVM都是判别模型. 不同点 损失函数不一样 支持向量机只考虑局部的边界线附近的点,而逻辑回归考虑全局(远离的点对边界线的确定也起作用). 在解决非线性问题时,支持向量机采用核函数的机制,而LR通常不采用核函数的方法在计算决策面时,SVM算法里只有少数几个代表支持向量的样本参与了计算,也就是只有少数几个样本需要参…

本文为本人复习LR时,笔记整理.以备后续查阅. 注意:录制脚本时,选择不同的协议下录制时设置选项也是不相同的,我们这里介绍的是基于协议web(http/html)录制选项设置. 对于web(http/html)使用什么样的录制方式,这里HTML提供了2个大类的录制方式. 一.HTML -based script 这种方式录制出来的脚本是基于HTML基础的 点击HTML advanced ,打开高级选项.可以看到Script type 提供了基于HTML方式下的2种不同的脚本类型. 1.基于解释用…

http://blog.csdn.net/dinosoft/article/details/51813615 前言 对于深度学习,新手我推荐先看UFLDL,不做assignment的话,一两个晚上就可以看完.毕竟卷积.池化啥的并不是什么特别玄的东西.课程简明扼要,一针见血,把最基础.最重要的点都点出来 了. cs231n这个是一个完整的课程,内容就多了点,虽然说课程是computer vision的,但80%还是深度学习的内容.图像的工作暂时用不上,我就先略过了. 突然发现这两个课程都是斯坦福的…

本文总结ML面试常见的问题集 转载来源:https://blog.csdn.net/v_july_v/article/details/78121924 31.下列哪个不属于CRF模型对于HMM和MEMM模型的优势(B ) A. 特征灵活  B. 速度快  C. 可容纳较多上下文信息  D. 全局最优首先,CRF,HMM(隐马模型),MEMM(最大熵隐马模型)都常用来做序列标注的建模.隐马模型一个最大的缺点就是由于其输出独立性假设,导致其不能考虑上下文的特征,限制了特征的选择最大熵隐马模型则解决了…

1.Information publication:www2013 author:Yongzheng Zhang 2.What 用社交媒体用户特征 预测用户购买商品类别(排序问题) 3.Dataset facebook-ebay 4.How input: facebook 用户特征(demographics, facebook categories,facebook likes, facebook n-grams) output:  类别排序 method:每个类创建一个分类器/回归器,每个类预…

原帖地址: http://blog.csdn.net/jjzhoujun2010 http://blog.csdn.net/yf210yf/article/details/6700391 http://www.cnblogs.com/lixiaoming90/archive/2013/03/21/2973837.html 1.开发环境: 开发板是 OK6410 PC操作系统 Ubuntu 14.04 USB 转串口线 2.安装配置minicom: 2.1 下载安装minicom sudo apt…

作者:朱建平 腾讯云技术总监,腾讯TEG架构平台部专家工程师 1.关于人工智能的若干个错误认知 人工智能是AI工程师的事情,跟我没有什么关系 大数据和机器学习(AI) 是解决问题的一种途径和手段,具有通用性,是一个基础的技能.当前我们工作中还有很多决策,是基于经验和预定的规则,未来这部分决策可以通过AI让我们做得更合理更好一些. 人工智能太厉害了,未来会取代人类 随着人工智能的发展,特别去年谷歌的AlphaGo围棋战胜代表人类的顶级棋手李世石,更是引爆了整个互联网.于是,网上不少人开始了很多担忧…