[Tensorflow] 使用 model.save_weights() 保存 Keras Subclassed Model
import numpy as np import matplotlib.pyplot as plt import os import time import tensorflow as tf tf.enable_eager_execution() # create data X = np.linspace(-1, 1, 5000) np.random.shuffle(X) y = 0.5 * X + 2 + np.random.normal(0, 0.05, (5000,)) # plot data plt.scatter(X, y) plt.show() # split data X_train, y_train = X[:4000], y[:4000] X_test, y_test = X[4000:], y[4000:] # tf.data BATCH_SIZE = 32 BUFFER_SIZE = 512 dataset = tf.data.Dataset.from_tensor_slices((X_train, y_train)).batch(BATCH_SIZE).shuffle(BUFFER_SIZE) # subclassed model UNITS = 1 class Model(tf.keras.Model): def __init__(self): super(Model, self).__init__() self.fc = tf.keras.layers.Dense(units=UNITS) def call(self, inputs): return self.fc(inputs) model = Model() optimizer = tf.train.AdamOptimizer() # loss function def loss_function(real, pred): return tf.losses.mean_squared_error(labels=real, predictions=pred) EPOCHS = 30 checkpoint_dir = './save_subclassed_keras_model_training_checkpoints' if not os.path.exists(checkpoint_dir): os.makedirs(checkpoint_dir) # training loop for epoch in range(EPOCHS): start = time.time() epoch_loss = 0 for (batch, (x, y)) in enumerate(dataset): x = tf.cast(x, tf.float32) y = tf.cast(y, tf.float32) x = tf.expand_dims(x, axis=1) y = tf.expand_dims(y, axis=1) # print(x) # tf.Tensor([...], shape=(BATCH_SIZE, 1), dtype=float32) # print(y) # tf.Tensor([...], shape=(BATCH_SIZE, 1), dtype=float32) with tf.GradientTape() as tape: predictions = model(x) # print(predictions) # tf.Tensor([...], shape=(BATCH_SIZE, 1), dtype=float32) batch_loss = loss_function(real=y, pred=predictions) grads = tape.gradient(batch_loss, model.variables) optimizer.apply_gradients(zip(grads, model.variables), global_step=tf.train.get_or_create_global_step()) epoch_loss += batch_loss if (batch + 1) % 10 == 0: print('Epoch {} Batch {} Loss {:.4f}'.format(epoch + 1, batch + 1, batch_loss/int(x.shape[0]))) print('Epoch {} Loss {:.4f}'.format(epoch + 1, epoch_loss/len(X_train))) print('Time taken for 1 epoch {} sec\n'.format(time.time() - start)) # save checkpoint checkpoint_prefix = os.path.join(checkpoint_dir, 'ckpt') if (epoch + 1) % 10 == 0: model.save_weights(checkpoint_prefix.format(epoch=epoch), overwrite=True) _model = Model() _model.load_weights(tf.train.latest_checkpoint(checkpoint_dir)) _model.build(input_shape=tf.TensorShape([BATCH_SIZE, 1])) _model.summary() test_dataset = tf.data.Dataset.from_tensor_slices(X_test).batch(1) for (batch, x) in enumerate(test_dataset): x = tf.cast(x, tf.float32) x = tf.expand_dims(x, axis=1) print(x) predictions = _model(x) print(predictions) exit()
[Tensorflow] 使用 model.save_weights() 保存 Keras Subclassed Model的更多相关文章
- [Tensorflow] 使用 model.save_weights() 保存 / 加载 Keras Subclassed Model
在 parameters.py 中,定义了各类参数. # training data directory TRAINING_DATA_DIR = './data/' # checkpoint dire ...
- [Tensorflow] 使用 tf.train.Checkpoint() 保存 / 加载 keras subclassed model
在 subclassed_model.py 中,通过对 tf.keras.Model 进行子类化,设计了两个自定义模型. import tensorflow as tf tf.enable_eager ...
- keras系列︱Sequential与Model模型、keras基本结构功能(一)
引自:http://blog.csdn.net/sinat_26917383/article/details/72857454 中文文档:http://keras-cn.readthedocs.io/ ...
- Keras(一)Sequential与Model模型、Keras基本结构功能
keras介绍与基本的模型保存 思维导图 1.keras网络结构 2.keras网络配置 3.keras预处理功能 模型的节点信息提取 config = model.get_config() 把mod ...
- [Model] LeNet-5 by Keras
典型的卷积神经网络. 数据的预处理 Keras傻瓜式读取数据:自动下载,自动解压,自动加载. # X_train: array([[[[ 0., 0., 0., ..., 0., 0., 0.], [ ...
- xen 保存快照的实现之 —— device model 状态保存
xen 保存快照的实现之 —— device model 状态保存 实现要点: 设备状态保存在 /var/lib/xen/qemu-save.x 文件这个文件由 qemu-dm 产生,也由 qemu- ...
- AI - TensorFlow - 示例05:保存和恢复模型
保存和恢复模型(Save and restore models) 官网示例:https://www.tensorflow.org/tutorials/keras/save_and_restore_mo ...
- 如何保存Keras模型
我们不推荐使用pickle或cPickle来保存Keras模型 你可以使用model.save(filepath)将Keras模型和权重保存在一个HDF5文件中,该文件将包含: 模型的结构,以便重构该 ...
- Python之TensorFlow的模型训练保存与加载-3
一.TensorFlow的模型保存和加载,使我们在训练和使用时的一种常用方式.我们把训练好的模型通过二次加载训练,或者独立加载模型训练.这基本上都是比较常用的方式. 二.模型的保存与加载类型有2种 1 ...
随机推荐
- c语言有头循环单链表
/************************************************************************* > File Name: singleLin ...
- 【Swift】学习笔记(二)——基本运算符
运算符是编程中用得最多的,其包含一元,二元和三元 三种运算符.swift也和其他编程语言一样基本就那些,以下总结一下,也有它特有的运算符.比方区间运算符 1.一元运算符 = 赋值运算符,用得最多的 ...
- tesnorflow conv deconv,padding
1.padding test input = tf.placeholder(tf.float32, shape=(1,2, 2,1)) simpleconv=slim.conv2d(input,1,[ ...
- Restful WebService简介
RESTful Web Services已经渐渐開始流行, 主要是用于解决异构系统之间的通信问题.非常多站点和应用提供的API,都是基于RESTful风格的Web Services,比較就有Googl ...
- 服务器端将复合json对象传回前端
前端接收后端传过来的JSON对象,对前端来说,传过来的确实就是JSON对象:但后端,类型则灵活得多,可以是IList<>等类型,当然也可以是newtonsoft的JObject类型.反正在 ...
- 关于编译(javac),import,package的再理解
1.若我们在A.java中用到了类B,当我们仅仅用 javac A.java 编译A时,编译器也会去寻找B,若类B依然是源文件,也会自动编译它.在使用javac和java命令时,有一个参数选项 -ve ...
- 解决ES集群状态异常教程(存在UNASSIGNED)
解决ES集群状态异常教程(存在UNASSIGNED)_百度经验 https://jingyan.baidu.com/article/9158e00013f787a255122843.html
- Bootstrap Dropdown 源码分析
/* ======================================================================== * Bootstrap: dropdown.js ...
- python datatime日期和时间值模块
datetime.time():是一个时间类,这个类接受4个参数,分别代表时,分,秒,毫秒.参数的默认值是为0 #!/usr/bin/env python #coding:utf8 import da ...
- vue 目录结构介绍
1 初始目录如下: 2 目录结构介绍 bulid:最终帆布的代码存放位置 config:配置目录,包括端口号等 node_modules:npm加载的项目依赖模块 src:z这里是我们要开发的目录,基 ...