异常检测的目标是发现与大部分其他对象不同的对象.通常,异常对象被称作离群点(Outlier). 异常检测也称偏差检测(Deviation detection),因为异常对象的属性值明显偏离期望的或者常见的属性值. 异常检测也称为例外挖掘,因为异常在某种意义上是例外的. 应用场景: 欺诈检测 入侵检测 生态系统失调 公共卫生 医疗 异常检测方法 基于模型的技术 基于邻近度的技术 基于密度的技术 统计方法: 检测一元正态分布中的离群点,常用方法是高斯正态分布 多元正态分布的离群点,Mahalanob…

基于原型的聚类 模糊c均值使用模糊逻辑和模糊集合论的概念,提出一种聚类方案,它很像K均值,但是不需要硬性地将对象分派到一个簇中.模糊c均值算法有时也称为FCM 混合模型聚类采取这样的访谈,簇集合可以用一个混合分布建模,每个分布对应一个簇.EM(Expectation-Maximization)期望最大化算法 基于自组织映射SOM的聚类方法在一个框架内进行聚类,该框架要求簇具有预先指定的相互联系.SOFM/SOM 基于密度的聚类 基于网格的聚类,其基本思想是将每个属性的可能值分割成许多相邻的区间,…

1. 聚类分析仅根据在数据中发现的描述对象及其关系的信息,将数据对象分组. 其目标是组内的对象相互之间是相似的或者相关的,而不同组中的对象是不同的或者不相关的. 2.聚类分析的重要技术 K均值:K均值是基于原型的.划分的聚类技术.它试图发现用户指定个数k的簇(由质心代表) 邻近度函数 质心 目标函数 曼哈顿距离L1 中位数 最小化对象到其簇质心的L1距离和 平方欧几里得距离L2平方 均值 最小化对象到其簇质心的L2距离的平方和 余弦 均值 最大化对象与其簇质心的余弦相似度和 Bregman散度…

1FP树…

Apriori算法是一种最有影响的挖掘布尔关联规则频繁项集的算法.其核心是基于两阶段频集思想的递推算法.该关联规则在分类上属于单维.单层.布尔关联规则.在这里,所有支持度大于最小支持度的项集称为频繁项集,简称频集 该算法的基本思想 是:首先找出所有的频集,这些项集出现的频繁性至少和预定义的最小支持度一样.然后由频集产生强关联规则,这些规则必须满足最小支持度和最小可信度.然后使用第1步找到的频集产生期望的规则,产生只包含集合的项的所有规则,其中每一条规则的右部只有一项,这里采用的是中规则的定义.一…

1.基于规则的分类器 2.最近邻分类器 3.贝叶斯分类器 4.人工神经网络 5.支持向量机 6.组合方法 7.不平衡类问题 8.多类问题…

处理联系属性: 基于离散化的方法 基于统计学的方法 非离散化方法 处理概念分层 定义在一个特定领域的各种实体或者概念的多层组织.概念分层可以用有向无环图DAG来标示. 序列模式 可选计数方案 COBJ CWIN CMINWIN CDIST_O CDIST 子图模式…

关联规则的强度可以用support度和confidence(置信)度来度量 关联规则发现  给定事务的集合T,关联规则发现是指找出支持度大于等于minsup并且置信度大于等于minconf的所有规则,其中minsup和minconf是对应的支持度和置信度阈值. 关联规则挖据 频繁项集产生:其目标是发现满足最小支持度阈值的所有项集,这些项集称作频繁项集 规则的产生:其目标是从上一步发现的频繁项集中提取所有高置信度的规则,这些规则称之为强规则. 算法与数据结构 Apriori DIC 树投影 FP树…

1.分类的基本概念 分类任务就是通过学习得到一个目标函数f,把每个属性集x映射到一个预先定义的类标号y 目标函数也称为分类模型. 2. 解决分类问题的一般方法: 决策树分类法 基于规则的分类法 神经网络 支持向量机 朴素贝叶斯分类法 3.决策树归纳 通常采用贪心策略,在选择划分数据的属性时,采用一系列局部最优决策来构造决策树,hunt算法就是一种这样的算法. Hunt算法是许多决策树算法的基础,包括ID3,C4.5,CART等 决策树归纳的设计问题 如何分裂训练记录?选择最佳划分的度量,增益是一…

1.频率和众数 frequency(vi)=具有属性值vi的对象数/m 分类属性的众数mode是具有最高频率的值. 2.百分位数 3.位置度量:均值和中位数 4.散布度量:极差和方差 绝对平均偏差 AAD:absolute average deviation 中位数绝对偏差MAD:median absolute deviation 四分位数极差IQR:interquartile range 5.多元汇总统计 6.汇总数据的其他方法:倾斜度…