感知机 随机生成一些点和一条原始直线,然后用感知机算法来生成一条直线进行分类,比较差别 导入包并设定画图尺寸 import numpy as np import matplotlib.pyplot as plt %matplotlib inline plt.rcParams['font.sans-serif'] = ['SimHei'] # 用来正常显示中文标签 plt.rcParams['axes.unicode_minus'] = False # 用来正常显示负号 plt.rcParams[…

最近在自学机器学习,记录下一些学习记录 如何用python实现一个简单的感知机 需要安装numpy库,即下面用到的np 简单的说就是 通过计算权重向量w和输入向量x的线性组合,判断该线性组合是否大于某个阀值,如果是,输出1,不是,输出-1 根据判断结果与正确结果对比,调整权重向量w,得到最佳的权重向量.从而可以预测新的值属于哪一类 更新权重值的公式 n是学习率值在0.0-1.0之间,yi是正确值,yi^是预测值,xji是x在j点的值 class Perceptron(object): "&quo…

from numpy import * import operator def createDataSet(): group = array([[3,104],[2,100],[1,81],[101,10],[99,5],[98,2]]) labels = ['爱情片','爱情片','爱情片','动作片','动作片','动作片'] return group, labels def classify0(inX, dataSet, labels, k): dataSetSize = dataSet.…

from itertools import combinations from copy import deepcopy # 导入数据,并剔除支持度计数小于min_support的1项集 def load_data(data): I_dict = {} for i in data: for j in i: I_dict[j] = I_dict.get(j, 0) + 1 F_dict = deepcopy(I_dict) for k in I_dict.keys(): if F_dict.get…

原理:计算当前点(无label,一般为测试集)和其他每个点(有label,一般为训练集)的距离并升序排序,选取k个最小距离的点,根据这k个点对应的类别进行投票,票数最多的类别的即为该点所对应的类别.代码实现(数据集采用的是iris): import numpy as np from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn import n…

来表示.第二个元素是表示期望输出的值. 这个数组定义例如以下: training_data = [  (array([0,0,1]), 0),  (array([0,1,1]), 1),  (array([1,0,1]), 1),  (array([1,1,1]), 1),  ] 从上训练数据能够看到布尔运算符OR的关系例如以下: 接着下来使用随机函数来生成三个0和1之间的权重值.作为初始化值: w = random.rand(3)   到如今能够声明一些变量了,列表变量errors是保存着误差…

教你用Python实现简单监督学习算法 监督学习作为运用最广泛的机器学习方法,一直以来都是从数据挖掘信息的重要手段.即便是在无监督学习兴起的近日,监督学习也依旧是入门机器学习的钥匙. 这篇监督学习教程适用于刚入门机器学习的小白. 当然了,如果你已经熟练掌握监督学习,也不妨快速浏览这篇教程,检验一下自己的理解程度~ 什么是监督学习? 在监督学习中,我们首先导入包含有训练属性和目标属性的数据集.监督学习算法会从数据集中学习得出训练样本和其目标变量之间的关系,然后将学习到的关系对新样本(未被标记的样本…

之前在<机器学习---感知机(Machine Learning Perceptron)>一文中介绍了感知机算法的理论知识,现在让我们来实践一下. 有两个数据文件:data1和data2,分别用于PLA和Pocket Algorithm.可在以下地址下载:https://github.com/RedstoneWill/MachineLearningInAction/tree/master/Perceptron%20Linear%20Algorithm/data. 先回顾一下感知机算法: 1,初始…

Python之路,Day21 - 常用算法学习   本节内容 算法定义 时间复杂度 空间复杂度 常用算法实例 1.算法定义 算法(Algorithm)是指解题方案的准确而完整的描述,是一系列解决问题的清晰指令,算法代表着用系统的方法描述解决问题的策略机制.也就是说,能够对一定规范的输入,在有限时间内获得所要求的输出.如果一个算法有缺陷,或不适合于某个问题,执行这个算法将不会解决这个问题.不同的算法可能用不同的时间.空间或效率来完成同样的任务.一个算法的优劣可以用空间复杂度与时间复杂度来衡量. 一…

感知机: 假设输入空间是\(\chi\subseteq R^n\),输出空间是\(\gamma =\left( +1,-1\right)\).输入\(\chi\in X\)表示实例的特征向量,对应于输入空间的点:输出\(y\in \gamma\)表示实例的类别.由输入空间到输出空间的如下函数: \[ f\left( x\right) =sign\left( wx+b\right) \] 称为感知机.其中,w和b为感知机模型的参数,sign是符号函数,即: \[ sign\left( x\righ…