Tensorflow 2.0 tf.random.set_seed 不工作，因为我得到不同的结果

Question

我正在使用 tf.random.set_seed 来确保我的实验的可重复性，但在多次训练我的模型后在损失方面得到了不同的结果。我正在使用 Tensorboard 监控每个实验的学习曲线，但我得到了不同的损失值和准确性值。

Answer 1

为了社区的利益，即使它出现在评论部分，也在此（回答部分）提供解决方案。

要重现相同的结果，您可以创建如下函数并将种子直接传递给评论中提到的 Daniel 的层。

def reset_random_seeds():
   os.environ['PYTHONHASHSEED']=str(2)
   tf.random.set_seed(2)
   np.random.seed(2)
   random.seed(2)

请参考下面的完整代码，它重现了相同的结果

import os
####*IMPORANT*: Have to do this line *before* importing tensorflow
os.environ['PYTHONHASHSEED']=str(2)

import tensorflow as tf
import tensorflow.keras as keras
import tensorflow.keras.layers 
import random
import pandas as pd
import numpy as np

def reset_random_seeds():
   os.environ['PYTHONHASHSEED']=str(2)
   tf.random.set_seed(2)
   np.random.seed(2)
   random.seed(2)

#make some random data
reset_random_seeds()
NUM_ROWS = 1000
NUM_FEATURES = 10
random_data = np.random.normal(size=(NUM_ROWS, NUM_FEATURES))
df = pd.DataFrame(data=random_data, columns=['x_' + str(ii) for ii in range(NUM_FEATURES)])
y = df.sum(axis=1) + np.random.normal(size=(NUM_ROWS))

def run(x, y):
    reset_random_seeds()

    model = keras.Sequential([
            keras.layers.Dense(40, input_dim=df.shape[1], activation='relu'),
            keras.layers.Dense(20, activation='relu'),
            keras.layers.Dense(10, activation='relu'),
            keras.layers.Dense(1, activation='linear')
        ])
    NUM_EPOCHS = 100
    model.compile(optimizer='adam', loss='mean_squared_error')
    model.fit(x, y, epochs=NUM_EPOCHS, verbose=0)
    predictions = model.predict(x).flatten()
    loss = model.evaluate(x,  y) #This prints out the loss by side-effect

#With Tensorflow 2.0 this is now reproducible! 
run(df, y)
run(df, y)
run(df, y)

输出：

32/32 [==============================] - 0s 2ms/step - loss: 0.5633
32/32 [==============================] - 0s 2ms/step - loss: 0.5633
32/32 [==============================] - 0s 2ms/step - loss: 0.5633

Answer 2

对于 tensorflow 2，请改用 tf.random.set_seed(seed)

Tensorflow 2.0 tf.random.set_seed 不工作，因为我得到不同的结果

Tesnorflow 2.0 tf.random.set_seed not working since I am getting different results

python

keras

tensorflow

tensorflow2.0