1.构建一个简单的网络层 from __future__ import absolute_import, division, print_function import tensorflow as tf tf.keras.backend.clear_session() import tensorflow.keras as keras import tensorflow.keras.layers as layers # 定义网络层就是:设置网络权重和输出到输入的计算过程 class MyLayer…
1.一般的模型构造.训练.测试流程 # 模型构造 inputs = keras.Input(shape=(784,), name='mnist_input') h1 = layers.Dense(64, activation='relu')(inputs) h1 = layers.Dense(64, activation='relu')(h1) outputs = layers.Dense(10, activation='softmax')(h1) model = keras.Model(inp…
与此问题斗争了整整十天.win10,keras2.4.3,CUDA 10.1,CUDNN 7.6, tensorflow 2.3.0,驱动程序nvida 452 该问题出现在BiLSTM(GPU加速)的快速运算过程中,但凡在BiLSTM的后端添加任何层,处理百万数据时,往往训练几个epoch,甚至是几十个batch就会崩溃. 期间试过了无数的方法.包括. 1)误认为是显存问题 2)分批加载至内存,清空,重新model 3)降低keras版本,一个版本一个版本试错,从2.4.3降到2.3.0,成功…
.caret, .dropup > .btn > .caret { border-top-color: #000 !important; } .label { border: 1px solid #000; } .table { border-collapse: collapse !important; } .table td, .table th { background-color: #fff !important; } .table-bordered th, .table-bordere…
系列文章目录: Tensorflow2.0 介绍 Tensorflow 常见基本概念 从1.x 到2.0 的变化 Tensorflow2.0 的架构 Tensorflow2.0 的安装(CPU和GPU) Tensorflow2.0 使用 "tf.data" API "tf.keras"API 使用GPU加速 安装配置GPU环境 使用Tensorflow-GPU 3 TensorFlow2.0使用 3.2 "tf.keras"API Keras是一…
本次使用的是2.0测试版,正式版估计会很快就上线了 tf2好像更新了蛮多东西 虽然教程不多 还是找了个试试 的确简单不少,但是还是比较喜欢现在这种写法 老样子先导入库 import tensorflow as tf import tensorflow_datasets as tfds import numpy as np import matplotlib.pyplot as plt import math import tqdm import tqdm.auto tqdm.tqdm = tqd…
此篇教程参考自TensorFlow 2.0 + Keras Crash Course,在原文的基础上进行了适当的总结与改编,以适应于国内开发者的理解与使用,水平有限,如果写的不对的地方欢迎大家评论指出.觉得文章有用的话麻烦点赞,想看原文可以点击链接kx上网访问. ​ 0 序 TensorFlow经过四年的发展,逐渐成为深度学习与机器学习框架的霸主,市场占有率与用户都遥遥领先于其他竞争对手.下图为下图是KDnuggets网站对2018年的机器学习框架的使用做的一个调查统计.可以可以看出当时Tens…
使用TensorFlow2.0导入from tensorflow.keras import layers会出现Cannot find reference 'keras' in __init__.py提示 这虽然不影响程序的运行,但是会导致程序没有提示,并且没有办法点击进入源码,可以通过导入from tensorflow.python.keras import layers来解决这个问题…
第1章 Tensorfow简介与环境搭建 本门课程的入门章节,简要介绍了tensorflow是什么,详细介绍了Tensorflow历史版本变迁以及tensorflow的架构和强大特性.并在Tensorflow1.0.pytorch.Tensorflow2.0之间做了对比.最后通过实战讲解了在Google cloud和AWS两个平台上的环境配置. 1-1 课程导学试看 1-2 Tensorflow是什么 1-3 Tensorflow版本变迁与tf1.0架构 1-4 Tensorflow2.0架构试…
.caret, .dropup > .btn > .caret { border-top-color: #000 !important; } .label { border: 1px solid #000; } .table { border-collapse: collapse !important; } .table td, .table th { background-color: #fff !important; } .table-bordered th, .table-bordere…
最近学习神经网络,tensorflow,看了好多视频,查找了好多资料,感觉东西都没有融入自己的思维中.今天用tensorflow2.0写了一个MNIST手写体的版本,记录下学习的过程. 复现手写体识别的基本步骤:准备数据,处理数据,搭建模型,迭代训练模型,使用模型. 一.全连接模型 1.导入数据集(此次编写运行均在notebook) 先引入所需模块,在用tf.keras下载数据 2.分析图片的大小 1)用shape查看数量大小:2)通过指定[0][1]来查看具体图像尺寸,lable存储的是ima…
背景 tensorflow2.0 相比于1.0 有很大变化,1.0版本的placeholder,Session都没有了,2.0版本强推使用keras.keras是一个比较高层的api,确实挺好用的,一些基本模型使用起来很方便,本文主要写了几种常用场景下的编程规范指南,都是自己总结出来的如果大家有更好的想法可以在评论中留言. 目的 编程规范的目的是,从构架速度.清晰.可扩展几个方面考虑. 编程规范 比较简单的顺序模型比较简单的模型直接使用Sequential比较好,也可以使用Model构建 较复杂…
系列文章目录: Tensorflow2.0 介绍 Tensorflow 常见基本概念 从1.x 到2.0 的变化 Tensorflow2.0 的架构 Tensorflow2.0 的安装(CPU和GPU) Tensorflow2.0 使用 "tf.data" API "tf.keras"API 使用GPU加速 安装配置GPU环境 使用Tensorflow-GPU 4 使用GPU加速 4.1 安装配置GPU环境 1. 安装GPU版TF 在2.2节中我们已经安装了CPU版…
目录: Tensorflow2.0 介绍 Tensorflow 常见基本概念 从1.x 到2.0 的变化 Tensorflow2.0 的架构 Tensorflow2.0 的安装(CPU和GPU) Tensorflow2.0 的使用 使用 GPU 加速 从现在开始我们就正式进入TensorFlow2.0的学习了,在这一系列文章里我们将重点介绍TensorFlow的基础知识和使用方法,为后面我们使用TensorFlow去解决一些实际的问题做好准备.2019年3月的TensorFlow开发者峰会上,T…
国内的新冠肺炎疫情从发现至今已经持续3个多月了,这场起源于吃野味的灾难给大家的生活造成了诸多方面的影响. 有的同学是收入上的,有的同学是感情上的,有的同学是心理上的,还有的同学是体重上的. 那么国内的新冠肺炎疫情何时结束呢?什么时候我们才可以重获自由呢? 本篇文章将利用TensorFlow2.0建立时间序列RNN模型,对国内的新冠肺炎疫情结束时间进行预测. 一,准备数据 本文的数据集取自tushare,获取该数据集的方法参考了以下文章. <https://zhuanlan.zhihu.com/p…
一.  数据集的准备与预处理 1 . 收集dataset (大量用户名--包含正常用户名与非法用户名) 包含两个txt文件  legal_name.txt  ilegal_name.txt. 如下图所示 2. 用文件进行预处理 # Data sets import os import pandas as pd DATAPATH = "../dataset" POS = os.path.join(DATAPATH, "legal_name.txt") POS_OUTP…
0 前言 TensorFlow 2.0,今天凌晨,正式放出了2.0版本. 不少网友表示,TensorFlow 2.0比PyTorch更好用,已经准备全面转向这个新升级的深度学习框架了. ​ 本篇文章就带领大家用最简单地方式安装TF2.0正式版本(CPU与GPU),由我来踩坑,方便大家体验正式版本的TF2.0. 废话不多说现在正式开始教程. 1 环境准备 我目前是在Windows10上面,使用conda管理的python环境,通过conda安装cuda与cudnn(GPU支持),通过pip安装的t…
TF2.0默认为动态图,即eager模式.意味着TF能像Pytorch一样不用在session中才能输出中间参数值了,那么动态图和静态图毕竟是有区别的,tf2.0也会有写法上的变化.不过值得吐槽的是,tf2.0启动速度仍然比Pytorch慢的多. 操作被记录在磁带中(tape)这是一个关键的变化.在TF0.x到TF1.X时代,操作(operation)被加入到Graph中.但现在,操作会被梯度带记录,我们要做的仅仅是让前向传播和计算损失的过程发生在梯度带的上下文管理器中. with tf.Gra…
tensorflow2.0 使用keras一般通过tensorflow.keras来使用,但是pycharm没有提示,原因是因为实际的keras路径放在tensorflow/python/keras,但是在程序中tensorflow有没有python这个目录,解决方法如下: try: import tensorflow.python.keras as keras except: import tensorflow.keras as keras 这样pycharm既可以有提示,同时也不需要在程序运…
bert模型在tensorflow1.x版本时,也是先发布的命令行版本,随后又发布了bert-tensorflow包,本质上就是把相关bert实现封装起来了. tensorflow2.0刚刚在2019年10月左右发布,谷歌也在积极地将之前基于tf1.0的bert实现迁移到2.0上,但近期看还没有完全迁移完成,所以目前还没有基于tf2.0的bert安装包面世,因为近期想基于现有发布的模型做一个中文多分类的事情,所以干脆就弄了个基于命令行版本的.过程中有一些坑,随之记录下来. 1. colab:因为…
简介 在上一篇博客:数据挖掘入门系列教程(十一点五)之CNN网络介绍中,介绍了CNN的工作原理和工作流程,在这一篇博客,将具体的使用代码来说明如何使用keras构建一个CNN网络来对CIFAR-10数据集进行训练. 如果对keras不是很熟悉的话,可以去看一看官方文档.或者看一看我前面的博客:数据挖掘入门系列教程(十一)之keras入门使用以及构建DNN网络识别MNIST,在数据挖掘入门系列教程(十一)这篇博客中使用了keras构建一个DNN网络,并对keras的做了一个入门使用介绍. CIFA…
1. 简介 本篇文章先简单介绍论文思路,然后使用Tensoflow2.0.Keras API复现算法部分.包括: 自定义模型 自定义损失函数 自定义评价指标RMSE 就题目而言<AutoRec: Autoencoders Meet Collaborative Filtering>,自编码机遇见协同过滤,可见是使用自编码机结合协同过滤思想进行的算法.论文经过数据集Movielens和Netfix验证有不错的效果,更重要的是它是对特征交叉引入深度学习的开端,论文两页,简单易懂. 2. 算法模型 令…
DeepCrossing是在AutoRec之后,微软完整的将深度学习应用在推荐系统的模型.其应用场景是搜索推荐广告中,解决了特征工程,稀疏向量稠密化,多层神经网路的优化拟合等问题.所使用的特征在论文中描述为两个大类数值型(文中couting feature)和类别型.如下图 对于数值型特征可以直接拼接在Embedding向量之后,类别多的特征需要经过Embedding过程.要多说一句,数值的统计特征包括了过去广告点击率,这个在以后实际应用中设计特征可以考虑. 其优化目标就是广告的点击率,即CTR…
1. 简介 NCF是协同过滤在神经网络上的实现--神经网络协同过滤.由新加坡国立大学与2017年提出. 我们知道,在协同过滤的基础上发展来的矩阵分解取得了巨大的成就,但是矩阵分解得到低维隐向量求内积是线性的,而神经网络模型能带来非线性的效果,非线性可以更好地捕捉用户和物品空间的交互特征.因此可以极大地提高协同过滤的效果. 另外,NCF处理的是隐式反馈数据,而不是显式反馈,这具有更大的意义,在实际生产环境中隐式反馈数据更容易得到. 本篇论文展示了NCF的架构原理,以及实验过程和效果. 2. 网络架…
前言 ​ 当一个TensorFlow模型训练出来的时候,为了投入到实际应用,所以就需要部署到服务器上.由于我本次所做的项目是一个javaweb的图像识别项目.所有我就想去寻找一下java调用TensorFlow训练模型的办法. 由于TensorFlow很久没更新的缘故,网上的博客大都是18/19年的,并且是基于TensorFlow1.0的,对于现在使用的TensorFlow2.0不太友好. 下面我简述一下TensorFlow1.0时期的方法: 1.动态模型生成不便 需要将训练的.h5模型转换成.…
本人人工智能初学者,现在在学习TensorFlow2.0,对一些学习内容做一下笔记.笔记中,有些内容理解可能较为肤浅.有偏差等,各位在阅读时如有发现问题,请评论或者邮箱(右侧边栏有邮箱地址)提醒. 若有小伙伴需要笔记的可复制的html或ipynb格式文件,请评论区留下你们的邮箱,或者邮箱(右侧边栏有邮箱地址)联系本人. 感谢:[深度学习] Keras 如何使用fit和fit_generator…
1 引言 TensorFlow2.0版本已经发布,虽然不是正式版,但预览版都发布了,正式版还会远吗?相比于1.X,2.0版的TensorFlow修改的不是一点半点,这些修改极大的弥补了1.X版本的反人类设计,提升了框架的整体易用性,绝对好评! 不多说了,赶紧来学习一波吧,做最先吃螃蟹的那一批人!先从TensorFlow的基本数据结构——张量(tensor)开始. 2 创建 2.1 constant()方法 >>> import tensorflow as tf >>>…
版本: python3.5 Anaconda 4.2.0 tensorflow2.0 cpu版本 1.安装命令 pip3 install tensorflow==2.0.0.0a0 -i https://pypi.tuna.tsinghua.edu.cn/simple/ # -i表示重新指定镜像,提高下载速度 2.报错以及解决方法 (1)报错: “Cannot remove entries from nonexistent file c:\program files\anaconda3\lib\…
用tensorflow2.0 版回顾了一下mnist的学习 代码如下,感觉这个版本下的mnist学习更简洁,更方便 关于tensorflow的基础知识,这里就不更新了,用到什么就到网上取搜索相关的知识 # encoding: utf-8 import numpy as np import tensorflow as tf import matplotlib.pyplot as plt #加载下载好的mnist数据库 60000张训练 10000张测试 每一张维度(28,28) path = r'…
虽说是按<TensorFlow深度学习>这本书来学习的,但是总会碰到新的问题!记录下这些问题,有利于巩固知新. 之前学过一些tensorflow1.0的知识,到RNN这章节,后面没有再继续下去,这里又重新开始学习tensorflow2.0,想必会有豁然开朗的感觉. 环境搭建:Anaconda+CUDA+cuDNN+PyCharm+tensorflow Windows的cmd环境安装 下一次更新线性numpy拟合的例子和tensorflow基础理论部分.…