如何访问tensorflow官方网站 tensorflow官方网站变为:https://tensorflow.google.cn/ 安装深度学习框架 0. ubuntu查看CUDA和cuDNN版本 CUDA: cat /usr/local/cuda/version.txt cuDNN: cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2 1. keras tensorflow 1.5 和 keras 2.1.4搭配 tensor…

classify.fastai Classifier based on fastai 欢迎访问:https://github.com/pprp/classify.fastai/ 字符识别分类器-基于fastai进行构造 以往的fastai教程都是很简单的几行进行一个模型的训练,对初学者来说看起来很简单.但是仅仅训练一个分类的网络是远远不够的,我们还需要各种指标对分类的效果进行评判. 这个库集中了目前比较好的几篇中文博客,并且在此基础上查阅了fastai的API教程(…

1.ImageDataBunch 对数据封装的很好,包括预处理都在这里面完成了 2.models 现有模型及权重 2-1  create_body 可以用来获取现有模型的主体结构 2-2 create_head 可以用来创建 分类器的全连接层,加了 flat, norm归一化在里面,效果比较好 3.learner, 数据,模型,loss函数与 学习方法的合体 3-1 create_cnn 用来创建 fastai内置好的 lerner, 效果比较好. 之前没完全弄得,弄个模型就想网 create_…

一.conda常用命令 1.创建一个虚拟环境env_name,后面跟的是创建这个环境时,同时安装的软件包 conda create -n env_name python=3.6 2.通过克隆创建一个环境 conda create -n env_name --clone env_name1 3.在虚拟软件中,安装软件包 conda install --name env_name  pkg_name 或者先进入到虚拟环境中,再安装 source activate env_name conda ins…

by Wenqi Sun 1 min read Categories Deep Learning Tags Fastai CNN Application 1. 使用现有数据集进行分类 图像数据为Oxford-IIIT Pet Dataset(12类猫和25类狗,共37类),这里仅使用原始图片集images.tar.gz 数据准备 import numpy as np from fastai.vision import * from fastai.metrics import error_rate…

本文为fastai官方教程编译版本.若有错误,欢迎指正. 总目录: *查看数据:本节为初级教程,介绍怎样快速的查看你的数据和模型预测结果.* 推理学习器(Inference Learner):本节为中级教程,介绍怎样为(模型)推理创建学习器. 自定义类ItemList(Custom ItemList):本节为高级教程,介绍如何创建类ItemBase与类ItemList. 使用极小的代价实现深度学习:本节介绍如何使用较少的GPU资源实现推理,和避免重启笔记内核的时间. 查看数据 本文目录: 查看输…

Fastai简介 在深度学习领域,最受学生欢迎的MOOC课程平台有三个:Fast.ai.deeplearning.ai /Coursera和Udacity.Fastai作为其中之一,是一个课程平台,一个讨论社区,也是一个PyTorc的顶层框架.Fastai的理念就是:Making neural nets uncool again,让神经网络没那么望而生畏,其课程也是采用项目驱动的方式教学.经过Fast.ai团队和PyTorch团队的共同努力,我们迎来了一个为计算机视觉.文本.表格数据.时间序列.…

在学习了python中的一些机器学习的相关模块后,再一次开始了深度学习之旅.不过与上次的TensorFlow框架不同,这一次接触的是fast.ai这样一个东西.这个框架还不稳定,网上也没有相关的中文文档.唯一一个学习站点就是 fastai 这样一个论坛,另外就是里面的公开课程. 性别识别模型使用体验: http://www.ctsch.cn/?page_id=11 请确认上传的图片中有人,否则对于其他类型的图片,也就当男女论处,目前在它的世界中只有男女. 附上fastai项目的相关连接: Git…

报错信息: name 'ConvLearner' is not defined 在最新的fast ai包中,ConvLearner已经被create_cnn取代,所以替换为下列语句就好了: learn = create_cnn(data, models.resnet34, metrics=error_rate) 还可能遇到的问题是:jupyter notebook在运行这个的时候卡住了,一直无法执行完,解决的方法是:将pytorch降级安装为1.0.0的(我原本使用的是1.0.1)的,亲测有效.…

VGG:3*3Imagenet:7*7,9*9论文中证明3*3更胜一筹,但是用多少并没有定论微调:删掉模型的中间只对最后一层微调:model.pop,就删掉了最后一层 如何决定训练多少层?:·看论文上的可视化结构,清楚每一层的语义层次,哪一层的语义操作和自己的模型相关  ·试验 欠拟合:使用的模型不够复杂不够强大到能完成你的任务 或者 没有足够的参数:过拟合:参数太多,训练时间太长,训练集上的准确率远远高于测试集和验证集,意味着模型变得过分严格的识别训练集上的内容 如何把vgg的权重加到去掉dr…

链接:https://pan.baidu.com/s/1UuQ8gJ2qXLvPK2rdIqWCMQ 提取码:ghn9…

文章发布于公号[数智物语] (ID:decision_engine),关注公号不错过每一篇干货. 转自 | 磐创AI(公众号ID:xunixs) 作者 | AI小昕 编者按:近年来,自然语言处理(NLP)的应用程序已经无处不在.NLP使用率的快速增长主要归功于通过预训练模型实现的迁移学习概念,迁移学习本质上是在一个数据集上训练模型,然后使该模型能够适应在不同的数据集上执行不同的NLP操作.这一突破使得每个人都能轻松地开启NLP任务,尤其是那些没有时间和资源从头开始构建NLP模型的人.所以,使用预…

转载 https://zhuanlan.zhihu.com/p/49271699 首发于深度学习前沿笔记 写文章   从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史 张俊林 你所不知道的事 179 人赞了该文章 Bert最近很火,应该是最近最火爆的AI进展,网上的评价很高,那么Bert值得这么高的评价吗?我个人判断是值得.那为什么会有这么高的评价呢?是因为它有重大的理论或者模型创新吗?其实并没有,从模型创新角度看一般,创新不算大.但是架不住效果太好了,基本刷新了很…

Summary on deep learning framework --- PyTorch  Updated on 2018-07-22 21:25:42  import osos.environ["CUDA_VISIBLE_DEVICES"]="4" 1. install the pytorch version 0.1.11  ## Version 0.1.11 ## python2.7 and cuda 8.0 sudo pip install http://…

 sklearn实战-乳腺癌细胞数据挖掘(博主亲自录制视频) https://study.163.com/course/introduction.htm?courseId=1005269003&utm_campaign=commission&utm_source=cp-400000000398149&utm_medium=share adaboost(adaptive boost) bootsting is a fairly simple variation on bagging…

一.下载 git clone https://github.com/fastai/fastai.git 或者直接下载下来 二.安装pytorch 去官网安装建议安装即可 https://pytorch.org 如果下载失败,去这里 https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/win-64/ 三.解决错误 教程中有import fastai 模块,不需要pip安装,源码中提供了,把 fastai 文件夹加入到路径下即可:…

fast-ai系统资料https://www.jianshu.com/p/2fe22a6b0ecb 中文视频 https://www.bilibili.com/video/av10156946/index_6.html#page=9 https://edu.csdn.net/course/play/5192/94180 GPU:图像处理器/图形卡--线代.矩阵 <---游戏 为什么使用英伟达的gpu:因为其支持一种程序编制CUDA 谷歌为了所有人都能使用:推出P2~ 亚马逊aws山注册账号 OV…

项目地址:https://github.com/bharathgs/Awesome-pytorch-list 列表结构: NLP 与语音处理 计算机视觉 概率/生成库 其他库 教程与示例 论文实现 PyTorch 其他项目 自然语言处理和语音处理 该部分项目涉及语音识别.多说话人语音处理.机器翻译.共指消解.情感分类.词嵌入/表征.语音生成.文本语音转换.视觉问答等任务,其中有一些是具体论文的 PyTorch 复现,此外还包括一些任务更广泛的库.工具集.框架. 这些项目有很多是官方的实现,其中…

简评:快来一起快乐地学习吧. 随着 PyTorch 生态系统和社区继续为开发人员提供有趣的新项目和教育资源,今天(12 月 7日)在 NeurIPS 会议上发布了 PyTorch 1.0 稳定版.研究人员和工程师现在可以轻松地利用开源深度学习框架的新功能,包括可在 eager 和图形执行模式之间无缝转换的混合前端,改进分布式训练,用于高性能研究的纯 C++ 前端,以及与云平台深度集成. PyTorch 1.0 加速了将 AI 从研究原型设计转移到生产部署所涉及的工作流程,并使其更易于使用.在过去…

动态图 vs. 静态图 在 fast.ai,我们在选择框架时优先考虑程序员编程的便捷性(能更方便地进行调试和更直观地设计),而不是框架所能带来的模型加速能力.这也正是我们选择 PyTorch 的理由,因为它是一个具有动态图机制的灵活框架. 依据采用动态计算或是静态计算的不同,可以将这些众多的深度学习框架划分成两大阵营,当然也有些框架同时具有动态计算和静态计算两种机制(比如 MxNet 和最新的 TensorFlow).动态计算意味着程序将按照我们编写命令的顺序进行执行.这种机制将使得调试更加容易…

最近刚开始学习深度学习,参考了一篇深度学习的入门文章,原文链接:https://medium.freecodecamp.org/everything-you-need-to-know-to-master-convolutional-neural-networks-ef98ca3c7655. 文章内容就是kaggle上的一个competition,识别图像中是否存在航拍仙人掌,使用了Pytorch框架,原文代码有些许错误,经改正后代码如下: import numpy as np import pa…

​ 0 序篇 2015年11月,Google正式发布了Tensorflow的白皮书并开源TensorFlow 0.1 版本. 2017年02月,Tensorflow正式发布了1.0.0版本,同时也标志着稳定版的诞生. 2019年10月,TensorFlow在经历七个多月(2019年3月1日-2019年10月1日)的 2.0 Alpha 版本的更新迭代后发布 2.0 正式版. 2.0 正式版官方介绍视频 https://v.qq.com/x/page/b3003v2g8dq.html 虽然 2.0…

从Word Embedding到Bert模型—自然语言处理中的预训练技术发展史 Bert最近很火,应该是最近最火爆的AI进展,网上的评价很高,那么Bert值得这么高的评价吗?我个人判断是值得.那为什么会有这么高的评价呢?是因为它有重大的理论或者模型创新吗?其实并没有,从模型创新角度看一般,创新不算大.但是架不住效果太好了,基本刷新了很多NLP的任务的最好性能,有些任务还被刷爆了,这个才是关键.另外一点是Bert具备广泛的通用性,就是说绝大部分NLP任务都可以采用类似的两阶段模式直接去提升效果,这…

keras和tensorflow的版本对应关系,可参考: Framework Env name (--env parameter) Description Docker Image Packages and Nvidia Settings TensorFlow 1.14 tensorflow-1.14 TensorFlow 1.14.0 + Keras 2.2.5 on Python 3.6. floydhub/tensorflow TensorFlow-1.14 TensorFlow 1.13…

论文解读:Radam:ON THE VARIANCE OF THE ADAPTIVE LEARNING RATE AND BEYOND 1,目的 想找到一个比较好的优化器,能够在收敛速度和收敛的效果上都比较号. 目前sgd收敛较好,但是慢. adam收敛快,但是容易收敛到局部解. 常用解决adam收敛问题的方法是,自适应启动方法. 2,adam方法的问题 adam在训练的初期,学习率的方差较大. 根本原因是因为缺少数据,导致方差大. 学习率的方差大,本质上自适应率的方差大. 可以控制自适应率的方…

zhuazai:https://blog.csdn.net/sty945/article/details/79830915 前言 ls命令 ls -a ls -l ll du命令 du -s du -s * du -s * | sort -nr 我的DIY_Bash 在linux任意位置都可以使用这个目录下的脚本 注意 前言 最近几乎大部分工作都在linux上进行的,发现在工作过程中经常要查看当前目录下的文件大小,但是每次都是用ls命令每次都是以字节形式显示的,看起来特别不爽.于是开始了再lin…

我最近的文章中,专门为想学Pytorch的新手推荐了一些学习资源,包括教程.视频.项目.论文和书籍.希望能对你有帮助:一.PyTorch学习教程.手册 (1)PyTorch英文版官方手册:https://pytorch.org/tutorials/.对于英文比较好的同学,非常推荐该PyTorch官方文档,一步步带你从入门到精通.该文档详细的介绍了从基础知识到如何使用PyTorch构建深层神经网络,以及PyTorch语法和一些高质量的案例. (2)PyTorch中文官方文档:https://pyt…

Mish:一个新的SOTA激活函数,ReLU的继任者 CVer 昨天   以下文章来源于AI公园 ,作者ronghuaiyang AI公园 专注分享干货的AI公众号,图像处理,NLP,深度学习,机器学习,应有尽有.希望大家能在AI的乐园中快乐玩耍. 点击上方“CVer”,选择加"星标"或“置顶” 重磅干货,第一时间送达 本文转载自:AI公园 作者:Less Wright 编译:ronghuaiyang 导读 对激活函数的研究一直没有停止过,ReLU还是统治着深度学习的激活函数,不过,这…

**序言:**Adam自2014年出现之后,一直是受人追捧的参数训练神器,但最近越来越多的文章指出:Adam存在很多问题,效果甚至没有简单的SGD + Momentum好.因此,出现了很多改进的版本,比如AdamW,以及最近的ICLR-2018年最佳论文提出的Adam改进版Amsgrad.那么,Adam究竟是否有效?改进版AdamW.Amsgrad与Adam之间存在什么联系与区别?改进版是否真的比Adam更好呢?相信这篇文章将会给你一个清晰的答案. (内容翻译整理自网络) Adam Roller…

Important note: You should always work on a duplicate of the course notebook. On the page you used to open this, tick the box next to the name of the notebook and click duplicate to easily create a new version of this notebook. You will get errors ea…