线性回归 给定一个数据点集合 X 和对应的目标值 y,线性模型的目标就是找到一条使用向量 w 和位移 b 描述的线,来尽可能地近似每个样本X[i] 和 y[i]. 数学公式表示为\(\hat{y}=Xw+b\) 目标函数是最小化所有点的平方误差 \(\sum_{i=1}^{n} (\hat{y_i}-y_i)^2\) ⼀个神经⽹络就是⼀个由节点(神经元)和有向边组成的集合.我们⼀ 般把⼀些节点组成层,每⼀层先从下⾯⼀层的节点获取输⼊,然后输出给上⾯的层使⽤.要计算⼀ 个节点值,我们需要将输⼊节点…

学习的过程 使用mxnet作为教程的深度学习库,重点介绍高层抽象包gluon 双轨学习法,既教授大家从零实现,也教授大家使用gluon实现模型:前者为了理解深度学习的底层设计,后者将大家从繁琐的模型设计和实现中解放处理 机器学习 机器学习的四要素: 数据 数据是越多越好,有图片.文本.声音.影像.结构化数据等 模型 建立数据和标签中间的联系.又包括: 损失函数 优化算法,如何将参数向着损失减少的方向调整 常见的监督学习 回归问题 分类问题 标签标注 搜索与排序 推荐系统 机器翻译 无监督学习 聚…

监督学习 就是人们常说的分类,通过已有的训练样本(即已知数据以及其对应的输出)去训练得到一个最优模型(这个模型属于某个函数的集合,最优则表示在某个评价准则下是最佳的),再利用这个模型将所有的输入映射为相应的输出,对输出进行简单的判断从而实现分类的目的,也就具有了对未知数据进行分类的能力. 举个简单的例子,小时候老师教我们看图识物,图片是输入,老师的判断是输出,我们通过跟读.写来训练自己,久而久之大脑中会形成一些泛化得模型,以后遇到实物时不需要老师的提醒就可以知道这是什么类型的. 比较经典的监督学…

ubantu16.04+mxnet +opencv+cuda8.0 环境搭建 建议:环境搭建完成之后,不要更新系统(内核) 转载请注明出处: 微微苏荷 一 我的安装环境 系统:ubuntu16.04 显卡:gt940m python: 2.7.12 GCC:5.3.0 (ubuntu 默认是5.4, 关于降级,后边有叙述) 二 安装步骤 (一) gcc降级 (可选/安装opencv2.4.13则必选) 根据需要,opencv安装时提示,gcc 不支持5.3以上版本,所以降级. 方法1:5.4 =…

原文:https://github.com/dmlc/mxnet/issues/797 神经网络本质上是一种语言,我们通过它来表达对应用问题的理解.例如我们用卷积层来表达空间相关性,RNN来表达时间连续性.根据问题的复杂性和信息如何从输入到输出一步步提取,我们将不同大小的层按一定原则连接起来.近年来随着数据的激增和计算能力的大幅提升,神经网络也变得越来越深和大.例如最近几次imagnet竞赛的冠军都使用有数十至百层的网络.对于这一类神经网络我们通常称之为深度学习.从应用的角度而言,对深度学习最重…

安装完MXNet之后,运行了官网的手写体识别的例子,这个相当于深度学习的Hello world了吧.. http://mxnet.io/tutorials/python/mnist.html 运行的过程中开始想的是新建一个文件夹专门存放我的工程,但是在导入mxnet的过程中又出现了错,于是将minist的脚本文件放在了与mxnet平行的目录下,可以运行,并且十分节省显存!!但是有以下的问题: 1.在GTX1080的显卡上训练,网络是不收敛的,但是在980或者更旧的显卡上就可以,在github上也…

今天尝试安装windows版本的MXNET,在按照官网的运行了python的setup之后,import mxnet时出现如下错误:cannot import name libinfo,在网上查找发现别人也遇到过,大致的原因是dll没有找到,参考网上的说明,将dll全部放在D:\MXNet\python目录下,然后在此目录下运行该命令,则可以正常导入. 如果按照官网的说明,是将mxnet包安装在了anaconda的sitepackages目录中的,也就是在随便一个目录下执行import mxne…

第一次用卷积,看的别人的模型跑的CIFAR-10,不过吐槽一下...我觉着我的965m加速之后比我的cpu算起来没快多少..正确率64%的样子,没达到模型里说的75%,不知道问题出在哪里 import numpy as np import os import mxnet as mx import logging import cPickle def unpickle(file): with open(file,'rb') as fo: dict = cPickle.load(fo) return…

反正基本上是给自己看的,直接贴写过注释后的代码,可能有的地方理解不对,你多担待,看到了也提出来(基本上对未来的自己说的),三层跑到了97%,毕竟是第一个例子,主要就是用来理解MXNet怎么使用. #导入需要的模块 import numpy as np #numpy只保存数值,用于数值运算,解决Python标准库中的list只能保存对象的指针的问题 import os #本例子中没有使用到 import gzip #使用zlib来压缩和解压缩数据文件,读写gzip文件 import struct…

使用自己准备的mnist数据集,将0-9的bmp图像分别放到0-9文件夹下,然后用mxnet训练. 1.制作rec数据集 (1).制作list…