1:训练的batch_size太小 1.       当数据量足够大的时候可以适当的减小batch_size,由于数据量太大,内存不够.但盲目减少会导致无法收敛,batch_size=1时为在线学习. 2.  batch的选择,首先决定的是下降方向,如果数据集比较小,则完全可以采用全数据集的形式.这样做的好处有两点, 1)全数据集的方向能够更好的代表样本总体,确定其极值所在. 2)由于不同权重的梯度值差别巨大,因此选取一个全局的学习率很困难. 3.  增大batchsize的好处有三点: 1)内

Caffe_Loss 损失函数为深度学习中重要的一个组成部分,各种优化算法均是基于Loss来的,损失函数的设计好坏很大程度下能够影响最终网络学习的好坏.派生于 \(LossLayer\),根据不同的Loss层有不同的参数; 1.基本函数 主要包含构造函数,前向.后向以及Reshape,部分有SetUp的函数,每层都有Loss参数 explicit XXXLossLayer(const LayerParameter& param): LossLayer<Dtype>(param),dif

本文主要参考caffe官方文档[<Fine-tuning a Pretrained Network for Style Recognition>](http://nbviewer.jupyter.org/github/BVLC/caffe/blob/master/examples/02-fine-tuning.ipynb) 是第二篇案例.笔者对其进行了为期一周的断断续续的研究,笔者起先对python/caffe并不了解+英语不好,阅读+理解的时间有点长,前前后后过了不下十遍终于从这第二篇文档看

Goal of training a model is to find a set of weights and biases that have low loss, on average, across all examples. —— Descending into ML: Training and Loss 注释:教程中的 loss ≠ 平均方差,而是指单个 labeled example 的方差(也就是误差 loss ),这里的 reducing loss 是指减小整体的误差(就是 MS

公式推导:https://github.com/zimenglan-sysu-512/paper-note/blob/master/focal_loss.pdf 使用的代码:https://github.com/zimenglan-sysu-512/Focal-Loss 在onestage的网络中,正负样本达到1:1000,这就会出现两个问题:1.样本不平衡   2.负样本主导loss.虽然负样本的loss小(因为大量的负样本是easy example,大量负样本是准确率很高的第0类),但个数众

Caffe 是一个高效的深度学习框架,鉴于不想折腾装个双系统,最近鼓捣了下用caffe源码在windows进行编译.非常感谢Yangqing Jia博士的caffe开源代码.Neil Z.Shao's博客的指导,以及happynear的工程文件提供的帮助.本博客caffe里C/C++部分编译主要参考了Neil Z.Shao's博客,python wapper 和 matlab wapper编译主要参考了happynear的工程文件.鉴于编译过程并未记录下详细流程,步骤不详之处可参考上述两个资料.

学习总结于国立台湾大学 :李宏毅老师 Author: Ian Goodfellow • Paper: https://arxiv.org/abs/1701.00160 • Video: https://channel9.msdn.com/Events/Neural-Information-Processing-Systems-Conference/Neural-Information-Processing-Systems-Conference-NIPS-2016/Generative-Adver

说是实现,其实并不是我自己实现的 亮出代码:https://github.com/yunjey/pytorch-tutorial/tree/master/tutorials/03-advanced/neural_style_transfer # -*- coding: utf-8 -*- from __future__ import division from torch.backends import cudnn from torch.autograd import Variable from

目录 0 前言 1 简介 2 数据准备 2.1 导入数据 2.2 检查空值 2.3 正则化 Normalization 2.4 更改数据维度 Reshape 2.5 标签编码 2.6 分割交叉验证集 3 CNN 3.1 定义网络模型 3.2 设置优化器和退火器 optimizer and annealer 3.3 数据增强 4 评估模型 4.1 训练和交叉验证曲线 4.2 混淆矩阵 Confusion matrix 5 生成结果 0 前言 比赛网址:https://www.kaggle.com/

1.bouding box regression总结: rcnn使用l2-loss 首先明确l2-loss的计算规则: L∗=(f∗(P)−G∗)2,∗代表x,y,w,h    整个loss : L=Lx+Ly+Lw+Lh 也就是说,按照l2-loss的公式分别计算x,y,w,h的loss,然后把4个loss相加就得到总的bouding box regression的loss.这样的loss是直接预测bbox的 绝对坐标与绝对长宽. 改进1:   问题:如果直接使用上面的l2-loss,loss

在配置py-faster-rcnn的过程中,我遇到一些问题,记录如下 py-faster-rcnn文件夹下面有一个caffe-fast-rcnn文件夹 这个过程中,我们需要编译caffe, rbgirshick 大神的caffe和caffe官网的版本不太一样 我第一次直接照搬caffe的makefile.config,导致了很多错误 rbgirshick 大神说,需要打开 WITH_PYTHON_LAYER := 1                     和  USE_CUDNN := 1 N

包含三部分:1.WGAN改进点  2.代码修改  3.训练心得 一.WGAN的改进部分: 判别器最后一层去掉sigmoid    (相当于最后一层做了一个y = x的激活) 生成器和判别器的loss不取log 每次更新判别器的参数之后把它们的绝对值截断到不超过一个固定常数c 不要用基于动量的优化算法(包括momentum和Adam),推荐RMSProp,SGD也行        (这部分很玄学) 去掉sigmoid会出现什么问题? 优点: 去掉sigmoid 只要二者存在差值就会学习让他们尽量小

''' Created on 2017年7月23日 @author: weizhen ''' #导入库 from __future__ import division,print_function,absolute_import import tflearn import speech_data import tensorflow as tf #定义参数 #learning rate是在更新权重的时候用,太高可用很快 #但是loss大,太低较准但是很慢 learning_rate=0.0001

Denoising Implicit Feedback for Recommendation Authors: 王文杰,冯福利,何向南,聂礼强,蔡达成 WSDM'21 新加坡国立大学,中国科学技术大学,山东大学 论文链接:http://staff.ustc.edu.cn/~hexn/papers/WSDM_2021_ADT.pdf,https://arxiv.org/pdf/2006.04153.pdf 本文链接:https://www.cnblogs.com/zihaojun/p/157040

教学目标:1.使学生了解JAVA课程的性质.定位.作用:为什么要学习JAVA?让学生知道如何学好JAVA: 教学内容: 一.        问几个问题 1.             你们到这里来干什么的? 来学习JAVA程序设计 为什么要来学习JAVA呢? 找个好工作,拿到高薪水 2.             怎么样才能达到你们的目标呢? 有的同学说学好JAVA就可以了,但是如何才能学好呢? 学好JAVA的几个关键 1.             认认真真上课 2.             按时按

使用python接口来运行caffe程序,主要的原因是python非常容易可视化.所以不推荐大家在命令行下面运行python程序.如果非要在命令行下面运行,还不如直接用 c++算了. 推荐使用jupyter notebook,spyder等工具来运行python代码,这样才和它的可视化完美结合起来. 因为我是用anaconda来安装一系列python第三方库的,所以我使用的是spyder,与matlab界面类似的一款编辑器,在运行过程中,可以查看各变量的值,便于理解,如下图: 只要安装了anac

小喵的唠叨话:前一篇博客,我们做完了L-Softmax的准备工作.而这一章,我们开始进行前馈的研究. 小喵博客: http://miaoerduo.com 博客原文:  http://www.miaoerduo.com/deep-learning/基于caffe的large-margin-softmax-loss的实现(中).html 四.前馈 还记得上一篇博客,小喵给出的三个公式吗?不记得也没关系. 这次,我们要一点一点的通过代码来实现这些公式.小喵主要是GPU上实现前后馈的代码,因为这个层只

小喵的唠叨话:在写完上一次的博客之后,已经过去了2个月的时间,小喵在此期间,做了大量的实验工作,最终在使用的DeepID2的方法之后,取得了很不错的结果.这次呢,主要讲述一个比较新的论文中的方法,L-Softmax,据说单model在LFW上能达到98.71%的等错误率.更重要的是,小喵觉得这个方法和DeepID2并不冲突,如果二者可以互补,或许单model达到99%+将不是梦想. 再次推销一下~ 小喵的博客网址是: http://www.miaoerduo.com 博客原文:  http://

@tags: caffe 机器学习 在机器学习(暂时限定有监督学习)中,常见的算法大都可以划分为两个部分来理解它 一个是它的Hypothesis function,也就是你用一个函数f,来拟合任意一个输入x,让预测值t(t=f(x))来拟合真实值y 另一个是它的cost function,也就是你用一个函数E,来表示样本总体的误差. 而有时候还会出现loss function,感觉会和cost function混淆. 上quora看了下,有个同名问题,回答的人不多,upvote更少..回答者里面

如同前几篇的可视化,这里采用的也是jupyter notebook来进行曲线绘制. // In [1]: #加载必要的库 import numpy as np import matplotlib.pyplot as plt %matplotlib inline import sys,os,caffe #设置当前目录 caffe_root = '/home/bnu/caffe/' sys.path.insert(0, caffe_root + 'python') os.chdir(caffe_ro

在caffe中,网络的结构由prototxt文件中给出,由一些列的Layer(层)组成,常用的层如:数据加载层.卷积操作层.pooling层.非线性变换层.内积运算层.归一化层.损失计算层等:本篇主要介绍loss层 1. loss层总述 下面首先给出全loss层的结构设置的一个小例子(定义在.prototxt文件中) layer { name: "loss" type: "SoftmaxWithLoss" //loss fucntion的类型 bottom: &qu