最近开始学习机器学习的相关理论知识,准备把自己的整个学习心得整理汇集成博客,一来可以督促自己,二来可以整理思路,对问题有一个更加透彻的理解,三来也可以放在网上和大家分享讨论,促进交流. 由于这次的学习过程主要是以数学理论以及对应的编程为主,因此,整个过程中,我将以Kaggle上的Titanic上的数据作为练习背景. 今天以logistic regression为主,主要包括理论部分以及对应的编程实验结果. 理论部分 logistic regression主要应用于二值分类问题,首先我们需要引入伯…

逻辑回归(Logistic Regression)是广义线性回归的一种.逻辑回归是用来做分类任务的常用算法.分类任务的目标是找一个函数,把观测值匹配到相关的类和标签上.比如一个人有没有病,又因为噪声的干扰,条件的描述的不够完全,所以可能不确定正确,还希望得到一个概率,比如有病的概率是80%.也即P(Y|X),对于输入X,产生Y的概率,Y可取两类,1或者0. 推导 Sigmod函数 相当于线性模型的计算结果来逼近真实01标记的对数几率. 他的导数: 对数线性模型 概率P的值域是[0,1],线性函数…

Logistic模型和SVM都是用于二分类,现在大概说一下两者的区别 ① 寻找最优超平面的方法不同 形象点说,Logistic模型找的那个超平面,是尽量让所有点都远离它,而SVM寻找的那个超平面,是只让最靠近中间分割线的那些点尽量远离,即只用到那些"支持向量"的样本--所以叫"支持向量机". ② SVM可以处理非线性的情况 即,比Logistic更强大的是,SVM还可以处理非线性的情况.​ ③Logistic regression 和 SVM本质不同在于loss f…

Sigmoid Function \[ \sigma(z)=\frac{1}{1+e^{(-z)}} \] feature: axial symmetry: \[ \sigma(z)+ \sigma(-z)=1 \] gradient: \[ \frac{\partial\sigma(z)}{\partial z} = \sigma(z)[1-\sigma(z)] \] 由性质1 可知, \[ \frac{\partial\sigma(z)}{\partial z} = \sigma(z) \s…

最近在研究机器学习,使用的工具是spark,本文是针对spar最新的源码Spark1.6.0的MLlib中的logistic regression, linear regression进行源码分析,其理论部分参考:http://www.cnblogs.com/ljy2013/p/5129610.html 下面我们跟随我的demo来一步一步解剖源码,首先来看一下我的demo: package org.apache.spark.mllib.classification import org.apac…

logistic regression,这个算法只能解决简单的线性二分类,在众多的机器学习分类算法中并不出众,但它能被改进为多分类,并换了另外一个名字softmax, 这可是深度学习中响当当的分类算法. Reference: denny的学习专栏  // 臭味相投的一个博客 Xml保存图片的方法和读取的方式. Mat显示内部的多个图片. Mat::t() 显示矩阵内容. 本文用它来进行手写数字分类. 在opencv3.0中提供了一个xml文件,里面存放了40个样本,分别是20个数字0的手写体和2…

Content: 2 Logistic Regression. 2.1 Classification. 2.2 Hypothesis representation. 2.2.1 Interpreting hypothesis output. 2.3 Decision boundary. 2.3.1 Non-linear decision boundaries. 2.4 Cost function for logistic regression. 2.4.1 A convex logistic r…

This is the 2nd part of the series. Read the first part here: Logistic Regression Vs Decision Trees Vs SVM: Part I In this part we’ll discuss how to choose between Logistic Regression , Decision Trees and Support Vector Machines. The most correct ans…

Classification is one of the major problems that we solve while working on standard business problems across industries. In this article we’ll be discussing the major three of the many techniques used for the same, Logistic Regression, Decision Trees…

参考自: http://blog.sina.com.cn/s/blog_74cf26810100ypzf.html http://blog.sina.com.cn/s/blog_64ecfc2f0101ranp.html ---------------------------------------------------------------------- Logistic regression (逻辑回归)是当前业界比较常用的机器学习方法,用于估计某种事物的可能性.比如某用户购买某商品的可…