在 Tensorflow 中重新初始化变量

Question

我正在使用 Tensorflow tf.Saver 加载预训练模型，我想通过擦除（重新初始化为随机）适当的权重和偏差来重新训练其中的一些层，然后训练这些层并保存训练好的模型。我找不到重新初始化变量的方法。我试过 tf.initialize_variables(fine_tune_vars) 但它没有用（我假设是因为变量已经初始化），我还看到你可以将变量传递给 tf.Saver 以便你部分加载模型，但是这是我想要实现的目标的一半（因为当我保存经过训练的模型时，我希望它保存所有变量，而不仅仅是我加载的变量）。

提前致谢！

Answer 1

initialize_all_variables 应该可以重新初始化之前初始化的变量。

刚刚在 0.10 中进行了完整性检查

tf.reset_default_graph()
a = tf.Variable(tf.ones_initializer(()))
init_op = tf.initialize_all_variables()
modify_op = a.assign(5.0)

sess = tf.InteractiveSession()
sess.run(init_op)
print(a.eval())
sess.run(modify_op)
print(a.eval())
sess.run(init_op)
print(a.eval())

结果

1.0
5.0
1.0

在 Tensorflow 中重新初始化变量

Re-initialize variables in Tensorflow

python

machine-learning

computer-vision

neural-network

tensorflow