导数偏导数的数学定义 参考资料1和2中对导数偏导数的定义都非常明确.导数和偏导数都是函数对自变量而言.从数学定义上讲,求导或者求偏导只有函数对自变量,其余任何情况都是错的.但是很多机器学习的资料和开源库都涉及到标量对向量求导.比如下面这个pytorch的例子. import torch x = torch.tensor([1.0, 2.0, 3.0], requires_grad=True) y = x ** 2 + 2 z = torch.sum(y) z.backward() print(x…

平常都是无脑使用backward,每次看到别人的代码里使用诸如autograd.grad这种方法的时候就有点抵触,今天花了点时间了解了一下原理,写下笔记以供以后参考.以下笔记基于Pytorch1.0 Tensor Pytorch中所有的计算其实都可以回归到Tensor上,所以有必要重新认识一下Tensor.如果我们需要计算某个Tensor的导数,那么我们需要设置其.requires_grad属性为True.为方便说明,在本文中对于这种我们自己定义的变量,我们称之为叶子节点(leaf nodes)…

首先看这个自动求导的参数: grad_variables:形状与variable一致,对于y.backward(),grad_variables相当于链式法则dz/dx=dz/dy × dy/dx 中的 dz/dy.grad_variables也可以是tensor或序列. retain_graph:反向传播需要缓存一些中间结果,反向传播之后,这些缓存就被清空,可通过指定这个参数不清空缓存,用来多次反向传播. create_graph:对反向传播过程再次构建计算图,可通过backward of b…

Pytorch入门 简单容易上手,感觉比keras好理解多了,和mxnet很像(似乎mxnet有点借鉴pytorch),记一记. 直接从例子开始学,基础知识咱已经看了很多论文了... import torch import torch.nn as nn import torch.nn.functional as F # Linear 层 就是全连接层 class Net(nn.Module): # 继承nn.Module,只用定义forward,反向传播会自动生成 def __init__(se…

好久没有写博客了,这一次就将最近看的pytorch 教程中的lstm+crf的一些心得与困惑记录下来. 原文 PyTorch Tutorials 参考了很多其他大神的博客,https://blog.csdn.net/cuihuijun1hao/article/details/79405740 https://www.jianshu.com/p/97cb3b6db573 至于原理,非常建议读这篇英文博客,写的非常非常非常好!!!!!!值得打印出来细细品读!!!!!!!!!!!!!!!!!!!!!!…

好久没有写博客了,这一次就将最近看的pytorch 教程中的lstm+crf的一些心得与困惑记录下来. 原文 PyTorch Tutorials 参考了很多其他大神的博客,https://blog.csdn.net/cuihuijun1hao/article/details/79405740 https://www.jianshu.com/p/97cb3b6db573 至于原理,非常建议读这篇英文博客,写的非常非常非常好!!!!!!值得打印出来细细品读!!!!!!!!!!!!!!!!!!!!!!…

class torch.nn.LSTM(*args, **kwargs) 参数列表 input_size:x的特征维度 hidden_size:隐藏层的特征维度 num_layers:lstm隐层的层数,默认为1 bias:False则bih=0和bhh=0. 默认为True batch_first:True则输入输出的数据格式为 (batch, seq, feature) dropout:除最后一层,每一层的输出都进行dropout,默认为: 0 bidirectional:True则为双向l…

retain_graph参数的作用 官方定义: retain_graph (bool, optional) – If False, the graph used to compute the grad will be freed. Note that in nearly all cases setting this option to True is not needed and often can be worked around in a much more efficient way. D…

pytorch-backword函数的理解 函数:\(tensor.backward(params)\) 这个params的维度一定要和tensor的一致,因为tensor如果是一个向量y = [y1,y2,y3],那么传入的params=[a1,a2,a3],这三个值是系数,那么是什么的系数呢? 假定对x =[ x1,x2]求导,那么我们知道, \(dy/dx\) 为: 第一列: \(dy1/dx1,dy2/dx1,dy3/dx1\) 第二列:\(dy1/dx2, dy2/dx2,dy3/dx…

在学习的过程中遇见了一个问题,就是当使用backward()反向传播时传入参数的问题: net.zero_grad() #所有参数的梯度清零 output.backward(Variable(t.ones(1, 10))) #反向传播 这里的backward()中为什么需要传入参数Variable(t.ones(1, 10))呢?没有传入就会报错: RuntimeError: grad can be implicitly created only for scalar outputs 这个错误的…

先放一张表,可以看成是二维数组 行(列)索引 索引0 索引1 索引2 索引3 索引0 0 1 2 3 索引1 4 5 6 7 索引2 8 9 10 11 索引3 12 13 14 15 看一下下面例子代码: 针对0维(输出为行形式) >>> import torch as t >>> a = t.arange(0,16).view(4,4) >>> a tensor([[ 0, 1, 2, 3], [ 4, 5, 6, 7], [ 8, 9, 10,…

张量是一棵树 长久以来,张量和其中维度的概念把我搞的晕头转向. 一维的张量是数组,二维的张量是矩阵,这也很有道理. 但是给一个二维张量,让我算出它每一行的和,应该用 sum(dim=0) 还是 sum(dim=1)? 这个问题还得让我想个一会儿. 更别说四维的张量是什么,一百维的张量又是什么,这种问题了,我不知道,想想就头大. 但是直到把张量看成一棵树,许多问题就迎刃而解~ 如下图所示,分别表示三种不同形状的张量: 基本规律是: 不算最上边的树根节点,剩下的节点有几层,那这个张量就是几维的.(换…

张量==容器 张量是现代机器学习的基础,他的核心是一个容器,多数情况下,它包含数字,因此可以将它看成一个数字的水桶. 张量有很多中形式,首先让我们来看最基本的形式.从0维到5维的形式 0维张量/标量:装在水桶中的每个数字称为“标量”.标量就是一个数字. 1维张量/标量:数组,一维张量,也被视为“向量",可以把向量视为一个单列或者单行的数字. 2维张量:矩阵.典型的例子就是邮件列表,比如我们有10000个人,每个人都有7个特征(名字,性别,城市等等),张量具有形状,形状是一个水桶,既装着我们数据也…

原文: http://www.voidcn.com/article/p-rtzqgqkz-bpg.html 最近看了下 PyTorch 的损失函数文档,整理了下自己的理解,重新格式化了公式如下,以便以后查阅. 注意下面的损失函数都是在单个样本上计算的,粗体表示向量,否则是标量.向量的维度用 N 表示. nn.L1Loss loss(x,y)=1N∑i=1N|x−y| nn.SmoothL1Loss 也叫作 Huber Loss,误差在 (-1,1) 上是平方损失,其他情况是 L1 损失. los…

原文:https://blog.csdn.net/hustchenze/article/details/79154139 Pytorch的数据类型为各式各样的Tensor,Tensor可以理解为高维矩阵.与Numpy中的Array类似.Pytorch中的tensor又包括CPU上的数据类型和GPU上的数据类型,一般GPU上的Tensor是CPU上的Tensor加cuda()函数得到.通过使用Type函数可以查看变量类型.一般系统默认是torch.FloatTensor类型.例如data = to…

整理一下看到的自定义数据读取的方法,较好的有一下三篇文章, 其实自定义的方法就是把现有数据集的train和test分别用 含有图像路径与label的list返回就好了,所以需要根据数据集随机应变. 所有图片都在一个文件夹1 之前刚开始用的时候,写Dataloader遇到不少坑.网上有一些教程 分为all images in one folder 和 each class one folder.后面的那种写的人比较多,我写一下前面的这种,程式化的东西,每次不同的任务改几个参数就好. 等训练的时候写…

目录 1. make_grid() 2. join与os.path.join() 3. 读文件写文件 4. json操作 5. tensorboard使用 6. python shutil.move 移动文件 7. numpy.squeeze()函数 8. numpy中transpose和swapaxes 9. inplace操作 10. torch.nn.MaxUnpool2d() 11. pytorch learning rate decay 12. os.walk 13. replace…

文章来源: https://zhuanlan.zhihu.com/p/35675109 https://www.aiuai.cn/aifarm646.html 之前用pytorch是手动记录数据做图,总是觉得有点麻烦.学习了一下tensorboardX,感觉网上资料有点杂,记录一下重点.由于大多数情况只是看一下loss,lr,accu这些曲线,就先总结这些,什么images,audios以后需要再总结. 1.安装:有各种方法,docker安装,使用logger.py脚本调用感觉都不简洁.现在的t…

pytorch笔记 optimizer.zero_grad() 将梯度变为0,用于每个batch最开始,因为梯度在不同batch之间不是累加的,所以必须在每个batch开始的时候初始化累计梯度,重置为0. for epoch in range(num_epoches):# 每个epoch for inputs,labels in dataloader:# 每个batch optimizer.zero_grad()# 初始化梯度 outputs = model(inputs)# 正向 _,pred…

pytorch笔记 - torchvision.utils.make_grid torchvision.utils.make_grid torchvision.utils.make_grid(tensor, nrow=8, padding=2, normalize=False, range=None, scale_each=False) # 将一小batch图片变为一张图.nrow表示每行多少张图片的数量. # 给一个batch为4的图片,h和w分别为32,channel为3,看看结果 imag…

  PyTorch Hook¶ 为什么要引入hook? -> hook可以做什么? 都有哪些hook? 如何使用hook?   1. 为什么引入hook?¶ 参考:Pytorch中autograd以及hook函数详解 在pytorch中的自动求梯度机制(Autograd mechanics)中,如果将tensor的requires_grad设为True, 那么涉及到它的一系列运算将在反向传播中自动求梯度. In [0]: x = torch.randn(5, 5) # requires_grad…

原文地址:https://zhuanlan.zhihu.com/p/31494491 上次我总结了在PyTorch中建立随机数Tensor的多种方法的区别. 这次我把常用的Tensor的数学运算总结到这里,以防自己在使用PyTorch做实验时,忘记这些方法应该传什么参数. 总结的方法包括: Tensor求和以及按索引求和:torch.sum() torch.Tensor.indexadd() Tensor元素乘积:torch.prod(input) 对Tensor求均值.方差.极值: torch…

转自:https://www.jianshu.com/p/73686691cf13 下面是几种常写的方式 第一种方式 normalize = transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225]) transformList = [] transformList.append(transforms.RandomResizedCrop(transCrop)) transformList.append(transforms…

转自:https://blog.csdn.net/Vivianyzw/article/details/81061765 东风的地方 1. 直接加载预训练模型 在训练的时候可能需要中断一下,然后继续训练,也就是简单的从保存的模型中加载参数权重: net = SNet() net.load_state_dict(torch.load("model_1599.pkl")) 这种方式是针对于之前保存模型时以保存参数的格式使用的: torch.save(net.state_dict(), &qu…

文章来源 https://www.cnblogs.com/king-lps/p/8570021.html 1. PyTorch进行训练和测试时指定实例化的model模式为:train/eval eg: class VAE(nn.Module): def __init__(self): super(VAE, self).__init__() ... def reparameterize(self, mu, logvar): if self.training: std = logvar.mul(0.…

文章来源:https://www.jianshu.com/p/01577e86e506 pytorch中的 2D 卷积层 和 2D 反卷积层 函数分别如下: class torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, groups=1, bias=True) class torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_si…

~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ 本文目录 1. xavier初始化 2. kaiming初始化 3. 实际使用中看到的初始化 3.1 ResNeXt,densenet中初始化 3.2 wide-residual-networks中初始化(MSRinit) ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~ 转载请注明出处: http://www.cnblogs.com/darkknightzh/p/8297793.html…

pytorch笔记2 用到的关于plt的总结 plt.scatter scatter(x, y, s=None, c=None, marker=None, cmap=None, norm=None, vmin=None, vmax=None, alpha=None, linewidths=None, verts=None, edgecolors=None, *, data=None, **kwargs) 其他参数大致解释一下,x输入自变量list,y输入因变量list. c是颜色,可以是list…

转自:知乎 目录: 保存模型与加载模型 冻结一部分参数,训练另一部分参数 采用不同的学习率进行训练 1.保存模型与加载 简单的保存与加载方法: # 保存整个网络 torch.save(net, PATH) # 保存网络中的参数, 速度快,占空间少 torch.save(net.state_dict(),PATH) #-------------------------------------------------- #针对上面一般的保存方法,加载的方法分别是: model_dict=torch.…

参考自<Pytorch autograd,backward详解>: 1 Tensor Pytorch中所有的计算其实都可以回归到Tensor上,所以有必要重新认识一下Tensor. 如果我们需要计算某个Tensor的导数,那么我们需要设置其.requires_grad属性为True.为方便说明,在本文中对于这种我们自己定义的变量,我们称之为叶子节点(leaf nodes),而基于叶子节点得到的中间或最终变量则可称之为结果节点. 另外一个Tensor中通常会记录如下图中所示的属性: data:…