restore not found的错误(问题2)
最近在写gan,那么就牵扯到在一个session中加载两个图,restore的时候会有问题。如这篇文章写的(http://blog.csdn.net/u014659656/article/details/53954793),见文末
所以关键就是构造的Saver 最好带Variable参数,这样加载第二个图的时候才不会找不到变量。
这个issue里写的比较好:https://github.com/tensorflow/tensorflow/issues/212
最终解决方案:
all_vars = tf.all_variables()
model_one_vars = [k for k in all_vars if k.name.startswith(FLAGS.model_one_scope)]
model_two_vars = [k for k in all_vars if k.name.startswith(FLAGS.model_two_scope)]
j_pq_vars = [k for k in all_vars if k.name.startswith('j_pq')]
tf.train.Saver(model_one_vars).restore(sess, model_one_checkpoint)
tf.train.Saver(model_two_vars).restore(sess, model_two_checkpoint)
saver = tf.train.Saver(j_pq_vars)
model.py,里面含有 ModelV 和 ModelP,另外还有 modelP.py 和 modelV.py 分别只含有 ModelP 和 ModeV 这两个对象,先使用 modelP.py 和 modelV.py 分别训练好模型,然后再在 model.py 里加载进来:
# -*- coding: utf8 -*-
import tensorflow as tf
class ModelV():
def __init__(self):
self.v1 = tf.Variable(66, name="v1")
self.v2 = tf.Variable(77, name="v2")
self.save_path = "model_v/model.ckpt"
self.init = tf.global_variables_initializer()
self.saver = tf.train.Saver()
self.sess = tf.Session()
def train(self):
self.sess.run(self.init)
print 'v2', self.v2.eval(self.sess)
self.saver.save(self.sess, self.save_path)
print "ModelV saved."
def predict(self):
all_vars = tf.trainable_variables()
for v in all_vars:
print(v.name)
self.saver.restore(self.sess, self.save_path)
print "ModelV restored."
print 'v2', self.v2.eval(self.sess)
print '------------------------------------------------------------------'
class ModelP():
def __init__(self):
self.p1 = tf.Variable(88, name="p1")
self.p2 = tf.Variable(99, name="p2")
self.save_path = "model_p/model.ckpt"
self.init = tf.global_variables_initializer()
self.saver = tf.train.Saver()
self.sess = tf.Session()
def train(self):
self.sess.run(self.init)
print 'p2', self.p2.eval(self.sess)
self.saver.save(self.sess, self.save_path)
print "ModelP saved."
def predict(self):
all_vars = tf.trainable_variables()
for v in all_vars:
print v.name
self.saver.restore(self.sess, self.save_path)
print "ModelP restored."
print 'p2', self.p2.eval(self.sess)
print '---------------------------------------------------------------------'
if __name__ == '__main__':
v = ModelV()
p = ModelP()
v.predict()
#v.train()
p.predict()
#p.train()
这里 tf.global_variables_initializer() 很关键! 尽管你是分别在对象 ModelP 和 ModelV 内部分配和定义的 tf.Variable(),即 v1 v2 和 p1 p2,但是 对 tf 这个模块而言, 这些都是全局变量,可以通过以下代码查看所有的变量,你就会发现同一个文件中同时运行 ModelP 和 ModelV 在初始化之后都打印出了一样的变量,这个是问题的关键所在:
all_vars = tf.trainable_variables()
for v in all_vars:
print(v.name)
错误。你可以交换 modelP 和 modelV 初始化的顺序,看看错误信息的变化
v1:0
v2:0
p1:0
p2:0
ModelV restored.
v2 77
v1:0
v2:0
p1:0
p2:0
W tensorflow/core/framework/op_kernel.cc:975] Not found: Key v2 not found in checkpoint
W tensorflow/core/framework/op_kernel.cc:975] Not found: Key v1 not found in checkpoint
实际上,分开运行时,模型保存的参数是正确的,因为在一个模型里的Variable就只有 v1 v2 或者 p1 p2; 但是在一个文件同时运行的时候,模型参数实际上保存的是 v1 v2 p1 p2四个,因为在默认情况下,创建的Saver,会直接保存所有的参数。而 Saver.restore() 又是默认(无Variable参数列表时)按照已经定义好的全局模型变量来加载对应的参数值, 在进行 ModelV.predict时,按照顺序(从debug可以看出,应该是按照参数顺序一次检测)在模型文件中查找相应的 key,此时能够找到对应的v1 v2,加载成功,但是在 ModelP.predict时,在model_p的模型文件中找不到 v1 和 v2,只有 p1 和 p2, 此时就会报错;不过这里的 第一次加载 还有 p1 p2 找不到没有报错,解释不通, 未完待续
Saver.save() 和 Saver.restore() 是一对, 分别只保存和加载模型的参数, 但是模型的结构怎么知道呢? 必须是你定义好了,而且要和保存的模型匹配才能加载;
如果想要在不定义模型的情况下直接加载出模型结构和模型参数值,使用
# 加载 结构,即 模型参数 变量等
new_saver = tf.train.import_meta_graph("model_v/model.ckpt.meta")
print "ModelV construct"
all_vars = tf.trainable_variables()
for v in all_vars:
print v.name
#print v.name,v.eval(self.sess) # v 都还未初始化,不能求值
# 加载模型 参数变量 的 值
new_saver.restore(self.sess, tf.train.latest_checkpoint('model_v/'))
print "ModelV restored."
all_vars = tf.trainable_variables()
for v in all_vars:
print v.name,v.eval(self.sess)
加载 结构,即 模型参数 变量等完成后,就会有变量了,但是不能访问他的值,因为还未赋值,然后再restore一次即可得到值了
那么上述错误的解决方法就是这个改进版本的model.py;其实 tf.train.Saver 是可以带参数的,他可以保存你想要保存的模型参数,如果不带参数,很可能就会保存 tf.trainable_variables() 所有的variable,而 tf.trainable_variables()又是从 tf 全局得到的,因此只要在模型保存和加载时,构造对应的带参数的tf.train.Saver即可,这样就会保存和加载正确的模型了
# -*- coding: utf8 -*-
import tensorflow as tf
class ModelV():
def __init__(self):
self.v1 = tf.Variable(66, name="v1")
self.v2 = tf.Variable(77, name="v2")
self.save_path = "model_v/model.ckpt"
self.init = tf.global_variables_initializer()
self.sess = tf.Session()
def train(self):
saver = tf.train.Saver([self.v1, self.v2])
self.sess.run(self.init)
print 'v2', self.v2.eval(self.sess)
saver.save(self.sess, self.save_path)
print "ModelV saved."
def predict(self):
saver = tf.train.Saver([self.v1, self.v2])
all_vars = tf.trainable_variables()
for v in all_vars:
print v.name
v_vars = [v for v in all_vars if v.name == 'v1:0' or v.name == 'v2:0']
print "ModelV restored."
saver.restore(self.sess, self.save_path)
for v in v_vars:
print v.name,v.eval(self.sess)
print 'v2', self.v2.eval(self.sess)
print '------------------------------------------------------------------'
class ModelP():
def __init__(self):
self.p1 = tf.Variable(88, name="p1")
self.p2 = tf.Variable(99, name="p2")
self.save_path = "model_p/model.ckpt"
self.init = tf.global_variables_initializer()
self.sess = tf.Session()
def train(self):
saver = tf.train.Saver([self.p1, self.p2])
self.sess.run(self.init)
print 'p2', self.p2.eval(self.sess)
saver.save(self.sess, self.save_path)
print "ModelP saved."
def predict(self):
saver = tf.train.Saver([self.p1, self.p2])
all_vars = tf.trainable_variables()
p_vars = [v for v in all_vars if v.name == 'p1:0' or v.name == 'p2:0']
for v in all_vars:
print v.name
#print v.name,v.eval(self.sess)
saver.restore(self.sess, self.save_path)
print "ModelP restored."
for p in p_vars:
print p.name,p.eval(self.sess)
print 'p2', self.p2.eval(self.sess)
print '----------------------------------------------------------'
if __name__ == '__main__':
v = ModelV()
p = ModelP()
v.predict()
#v.train()
p.predict()
#p.train()
小结: 构造的Saver 最好带Variable参数,这样保证 保存和加载能够正确执行
restore not found的错误(问题2)的更多相关文章
- SQL Server 还原错误“restore database正在异常终止 错误 3154”
今天在还原数据库时,先建立相同名字的数据库,然后在该数据库上右键还原数据库.遇到了这样的一个错误: “备份集中的数据库备份与现有的 'RM_DB' 数据库不同. RESTORE DATABASE 正在 ...
- restore not found的错误
tensorflow保存模型后,restore的时候报参数not found是什么原因呢 一般预测的流程是:建图然后restore参数,很有可能你的变量作用域和train的时候不一样,那么在现在的变量 ...
- 异机恢复 RMAN-06023: no backup or copy of datafile 17 found to restore
前不久因工作需要使用RMAN异机恢复,很基础也很具有代表性和普遍性,希望对需要的人有所帮助. 具体过程如下: 先拷贝原库的口令文件和参数文件到备库. 然后使用如下脚本对原库进行备份: run { al ...
- NET Core 1.0 RC2
NET Core 1.0 RC2 历险之旅 文章背景:对于.NET Core大家应该并不陌生, 从它被 宣布 到现在已经有1-2年的时间了,其比较重要的一个版本1.0 RC2 也即将发布..Net C ...
- Docker在Linux上运行NetCore系列(四)使用私有Nuget与多个本地包引用运行ASPNetCore
转发请注明此文章作者与路径,请尊重原著,违者必究. 本篇文章演示了使用Dockerfile在Linux(ubuntu16.04)系统上构建ASPNetCore应用,并且在一个解决方案中存在多个项目之间 ...
- .NET Core 中使用GB2312编码报错的问题
错误描述 环境 dotnet 2.1.4 现象 当代码中使用 System.Text.Encoding.GetEncoding("GB2312") //或者 System.Text ...
- PostgreSQL - 修改默认端口号
升级PostgreSQL遇到的问题 之前将PostgreSQL从9.5升级到了10.3版本,安装时将端口设置成了5433,(默认是5432),后来发现在使用psql来restore db会发生语法错误 ...
- 编译调试Net6源码
前言 编辑调试DotNet源码可按照官网教程操作,但因为网络问题中间会出现各种下载失败的问题,这里出个简单的教程(以6为版本) 下载源码 下载源码 GitHub下载源码速度极慢,可替换为国内仓库htt ...
- 航空概论(历年资料,引之百度文库,PS:未调格式,有点乱)
航空航天尔雅 选择题1. 已经实现了<天方夜谭>中的飞毯设想.—— A——美国2. 地球到月球大约—— C 38 万公里3. 建立了航空史上第一条定期空中路线—— B——德国4. 对于孔明 ...
随机推荐
- TCP连接状态管理
tcp 连接过程 tcp 状态机
- java爬取免费HTTP代理 code-for-fun
偶然看到一个提供免费HTTP 代理IP的网站,该网站一两个小时就会更新一次,很有用.之后自己就用Java写了一个爬虫,爬取网站上的代理IP,以备后用. 网站源码: <!DOCTYPE html& ...
- 20175208 实验二 《Java面向对象程序设计》实验报告
一.实验报告封面 课程:Java程序设计 班级:1752班 姓名:张家华 学号:20175208 指导教师:娄嘉鹏 实验日期:2019年4月09日~2019年4月18日 实验序号:实验二 实验 ...
- Linux系统下为普通用户加sudo权限
Linux下为普通账号加sudo权限 1. 错误提示:当我们使用sudo命令切换用户的时候可能会遇到提示以下错误:xxx is not in the sudoers file. This incide ...
- Lamda Expression
Expression<Func<Student, bool>> filter=s=>s.Name.Contains("a") && s ...
- 如何在centos6.5中安装MySQL数据库
huidaoli 东华理工大学信工IT网-项目1+1学习基地(www.ecit-it.com)
- Gradle Repository
// 该init.gradle文件,请保存到${USER_HOME}/.gradle/文件夹下,如:C:\Users\Administrator\.gradle allprojects { repos ...
- AES256对称加密
需要引入bouncycastle库的jar包 package test; import java.io.UnsupportedEncodingException; import java.securi ...
- postgres跨平台开发坑之空值
ngx_lua架构下查询linux版postgres时,如果目标字段的值返回空,则返回结果为 ngx.null,同样的代码如果查询windows版postgres时,如果目标字段的值返回空,则返回结果 ...
- redis恢复(aof)
----------------redis备份恢复方法-----------------------------1.采用aof恢复方法若appendonly设置为no的情况下,在每个节点上执行bgre ...