一.SVM 1.应用场景: 文本和图像分类. 2.优点: 分类效果好:有效处理高维空间的数据:无局部最小值问题:不易过拟合(模型中含有L2正则项): 3.缺点: 样本数据量较大需要较长训练时间:噪声不能太多:对缺失数据敏感: 二.决策树   1.应用: 金融和电子商务 2.优点: 同时处理多种类型的数据:适合大量样本的数据:对部分数据缺失不敏感: 3.缺点: 容易过拟合:对属性具有强关联性时效果不好: 三.adaboost 1.应用: 特征选择:回归问题: 2.优点: 精度高:不易过拟合: 3.…

转摘自http://www.cnblogs.com/denny402/p/5032839.html opencv3中的ml类与opencv2中发生了变化,下面列举opencv3的机器学习类方法实例: 用途是opencv自带的ocr样本的分类功能,其中神经网络和adaboost训练速度很慢,效果还是knn的最好: #include <opencv2/opencv.hpp> #include <iostream> using namespace std; using namespace…

相同点:都是线性分类算法 不同点: 1.损失函数不同 LR:基于“给定x和参数,y服从二项分布”的假设,由极大似然估计推导 SVM: hinge loss + L2 regularization的标准表示,基于几何间隔最大化原理推导 $\sum^N_{i=1}[1 - y_i(w*x_i + b)]_+ + \lambda ||w||^2$ 这两个损失函数的目的都是增加对分类影响较大的数据点的权重,减少与分类关系较小的数据点的权重.SVM的处理方法是只考虑support vectors($W^*…

# -*- coding: utf-8 -*- import numpy as np from sklearn import svm from sklearn.model_selection import train_test_split from sklearn.externals import joblib from sklearn.tree import DecisionTreeClassifier from sklearn.metrics import zero_one_loss fro…

数据来自 UCI 数据集 匹马印第安人糖尿病数据集 载入数据 # -*- coding: utf-8 -*- import pandas as pd import matplotlib matplotlib.rcParams['font.sans-serif']=[u'simHei'] matplotlib.rcParams['axes.unicode_minus']=False from sklearn.tree import DecisionTreeClassifier from sklea…

一面: 1.自我介绍 2.平时用什么编程语言比较多 python,另外学过C语言和JAVA 3.c语言里指针占多少内存 答成8位了,应该根据机器而言是16位或32位 4.python里的map函数,讲一下它的作用和返回值 传入一个函数和一个list,将这个函数作用于这个list的每个元素上.返回值是一个新的list. 5.什么是梯度下降法 6.手写代码:归并两个有序数组 7.知不知道什么数据结构的查找的时间复杂度是O(1) 哈希表,也就是python中的dict 8.哈希表的原理是什么 利用哈希…

原文:http://blog.sina.com.cn/s/blog_818f5fde0102vvpy.html 在大大小小的面试过程中,多次被问及这个问题:“请说一下逻辑回归(LR)和支持向量机(SVM)之间的相同点和不同点”.第一次被问到这个问题的时候,含含糊糊地说了一些,大多不在点子上,后来被问得多了,慢慢也就理解得更清楚了,所以现在整理一下,希望对以后面试机器学习方向的同学有所帮助(至少可以瞎扯几句,而不至于哑口无言ha(*^-^*)). (1)为什么将LR和SVM放在一起来进行比较? 回…

参考资料(要是对于本文的理解不够透彻,必须将以下博客认知阅读): 1. https://zhuanlan.zhihu.com/p/86263786 2.https://blog.csdn.net/liuy9803/article/details/80598652 3.https://blog.csdn.net/perfect1t/article/details/83684995 4.GBDT算法原理以及实例理解(!!) 5.Adaboost算法原理分析和实例+代码(简明易懂)(!!) 目录 1.…

之前一篇博客中介绍了Logistics Regression的理论原理:http://www.cnblogs.com/bentuwuying/p/6616680.html. 在大大小小的面试过程中,经常会有这个问题:"请说一下逻辑回归(LR)和支持向量机(SVM)之间的相同点和不同点".现在整理一下,希望对以后面试机器学习方向的同学有所帮助. (1)为什么将LR和SVM放在一起来进行比较? 回答这个问题其实就是回答LR和SVM有什么相同点. 第一,LR和SVM都是分类算法. 看到这里很…

一.相同点 第一,LR和SVM都是分类算法(SVM也可以用与回归) 第二,如果不考虑核函数,LR和SVM都是线性分类算法,也就是说他们的分类决策面都是线性的. 这里要先说明一点,那就是LR也是可以用核函数的.总之,原始的LR和SVM都是线性分类器,这也是为什么通常没人问你决策树和LR什么区别,你说一个非线性分类器和一个线性分类器有什么区别? 第三,LR和SVM都是监督学习算法. 第四,LR和SVM都是判别模型. 这里简单讲解一下判别模型和生成模型的差别: 判别式模型(Discriminative…