第三章 标称:转换成0,1来算,或者用非对称二元属性 二元:x1,x2的分布取00,01,10,11的二元属性个数,列表,算比例.不对称的二元属性就忽略00的属性个数 序数:转换成排位rif,度量:rif-1/mf-1 数值:欧几里得距离,曼哈顿距离,范数,切比雪夫距离 混合类型: 第六章:frequent pattern 1.关联分析及其度量 绝对支持度:出现的频次:相对支持度:出现的概率 支持度:联合概率A->B的支持度support=P(AB):置信度:条件概率confidence=P(B…

Apriori算法 优点:易编码实现 缺点:在大数据集上可能较慢 适用数据类型:数值型或者标称型 算法过程: 关联分析是一种在大规模数据集中寻找有意思的关系的任务,这里的有意思的关系有两种:频繁项集(frequent item sets)或关联规则(association rules).支持度(support):一个项集的支持度被定义为数据集中该项集的记录所占的比例.置信度(confidence):关联规则A->B的置信度表示为support(A,B)/support(A) 单纯暴力做的话有2^…

对apriori关联关系算法研究了一段时间,网上能搜到的例子,大部分是python写的,数据集长得像下面这样: [[I1,I2,I5],[I2,I4],[I2,I3],[I1,I2,I4],[I1,I3],[I2,I3],[I1,I3],[I1,I2,I3,I5],[I1,I2,I3]] 而实际的交易数据,一般存储到关系型数据库中,数据是按下面的样子保存: TRAN_SEQ_NO,ITEM 1,I1 1,I2 1,I5 2,I2 2,I4 . .8,I5 9,I1 9,I2 9,I3 而且pyt…

SAS中的聚类分析方法总结 说起聚类分析,相信很多人并不陌生.这篇原创博客我想简单说一下我所理解的聚类分析,欢迎各位高手不吝赐教和拍砖. 按照正常的思路,我大概会说如下几个问题: 1.     什么是聚类分析? 2.     聚类分析有什么用? 3.     聚类分析怎么做? 下面我将分聚类分析概述.聚类分析算法及sas实现.案例三部分来系统的回答这些问题. 聚类分析概述 1.     聚类分析的定义 中国有句俗语叫"物以类聚,人以群分"--剔除这句话的贬义色彩.说白了就是物品根据物品…

前言: 找工作时(IT行业),除了常见的软件开发以外,机器学习岗位也可以当作是一个选择,不少计算机方向的研究生都会接触这个,如果你的研究方向是机器学习/数据挖掘之类,且又对其非常感兴趣的话,可以考虑考虑该岗位,毕竟在机器智能没达到人类水平之前,机器学习可以作为一种重要手段,而随着科技的不断发展,相信这方面的人才需求也会越来越大. 纵观IT行业的招聘岗位,机器学习之类的岗位还是挺少的,国内大点的公司里百度,阿里,腾讯,网易,搜狐,华为(华为的岗位基本都是随机分配,机器学习等岗位基本面向的是博士)等…

K-means(K均值)是基于数据划分的无监督聚类算法. 一.基本原理       聚类算法可以理解为无监督的分类方法,即样本集预先不知所属类别或标签,需要根据样本之间的距离或相似程度自动进行分类.聚类算法可以分为基于划分的方法.基于联通性的方法.基于概率分布模型的方法等,K-means属于基于划分的聚类方法. 基于划分的方法是将样本集组成的矢量空间划分为多个区域{Si}i=1k,每个区域都存在一个区域相关的表示{ci}i=1k,通常称为区域中心.对于每个样本,可以建立一种样本到区域中心的映射q…

在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement),这时通常采用的方法就是计算样本间的“距离”(Distance).采用什么样的方法计算距离是很讲究,甚至关系到分类的正确与否. 本文的目的就是对常用的相似性度量作一个总结. 本文目录: 1. 欧氏距离 2. 曼哈顿距离 3. 切比雪夫距离 4. 闵可夫斯基距离 5. 标准化欧氏距离 6. 马氏距离 7. 巴氏距离(Bhattacharyya Distance) 8. 汉明距离(Hamming dista…

ROCK (RObust Clustering using linKs)  聚类算法‏是一种鲁棒的用于分类属性的聚类算法.该算法属于凝聚型的层次聚类算法.之所以鲁棒是因为在确认两对象(样本点/簇)之间的关系时考虑了他们共同的邻居(相似样本点)的数量,在算法中被叫做链接(Link)的概念.而一些聚类算法只关注对象之间的相似度. ROCK 算法中用到的四个关键概念 邻居(Neighbors):如果两个样本点的相似度达到了阈值(θ),这两个样本点就是邻居.阈值(θ)有用户指定,相似度也是通过用户指定的…

前言: 本文总结的常见机器学习算法(主要是一些常规分类器)大概流程和主要思想. 朴素贝叶斯: 有以下几个地方需要注意: 1. 如果给出的特征向量长度可能不同,这是需要归一化为通长度的向量(这里以文本分类为例),比如说是句子单词的话,则长度为整个词汇量的长度,对应位置是该单词出现的次数. 2. 计算公式如下: 其中一项条件概率可以通过朴素贝叶斯条件独立展开.要注意一点就是 的计算方法,而由朴素贝叶斯的前提假设可知, = ,因此一般有两种,一种是在类别为ci的那些样本集中,找到wj出现次数的总和,然…

# coding:utf-8 import numpy as np import matplotlib.pyplot as plt def dis(x, y): #计算距离 return np.sum(np.power(y - x, 2)) def dataN(length,k):#生成数据 z=range(k) c=[5]*length a1= [np.sin(i*2*np.pi/k) for i in range(k)] a2= [np.cos(i*2*np.pi/k) for i in r…