【Machine Learning】分类与回归 区别

一、分类与回归的区别

两类监督学习

• Classification
• Regression

分类和回归的区别在于输出变量的类型（而非输入变量）。

定性输出称为分类，或者说是离散变量预测（discrete）eg. X—— true or false；
定量输出称为回归，或者说是连续变量预测（continuous）eg.X—— Y = 2X。

举个例子：
预测明天是阴、晴还是雨，就是一个分类任务；
预测明天的气温是多少度，这是一个回归任务。

P.S.泛化是机器学习的关键

二、相关术语概念（terms）

2.1 Instances 实例

Sets of inputs

find function to map inputs(instance) to outputs.

2.2 concept 概念

concept 概念——函数或映射关系（take input and maps into some kind of output）
Target Concept 目标概念 —— actual answer

Example：如果你要教我什么是高，你的脑海中就存在哪些东西高，哪些东西不高的概念。
so，你怎么才能教会我呢？

2.3 hypothesis class 假设类

the set of all concepts that you're willing to entertain
all possible function we care about.

2.4 Sample (Training set 训练集)

data paired with labels,which is the correct output

2.5 Candidate(候选者)

concept possible to be target concept

2.6 Testing Set （测试集）

Memorize——》 Generalization (泛化)

典型分类算法——决策树之ID3算法