更改中间 activations/output 并观察 TF2/Keras 中的预测

Question

假设我有一个像这样对 MNIST 进行分类的简单 NN 模型：

model = models.Sequential([
  tf.keras.layers.Flatten(input_shape=(28, 28)),
  tf.keras.layers.Dense(128, activation='relu'),
  tf.keras.layers.Dropout(0.2),
  tf.keras.layers.Dense(10)
])

然后我从第 2 层提取输出张量，即密集层（在激活 relu 之后），如下所示：

mid_layer = model.get_layer("dense")
get_output = K.function([model.layers[0].input], [mid_layer.output])

对于某些特定的数据输入 x，我现在提取输出张量激活值：

mid_layer_outputs = get_output([test_images[0:1]])

并对其进行一些修改：

mid_layer_outputs = ...

现在，我希望模型从该层修改后的输出值继续并相应地预测结果。我该怎么做？

我试图从这一层开始到最后构造另一个K.function([mid_layer_outputs], model.layers[-1].output)，但是我得到了以下错误：

AttributeError: 'numpy.ndarray' object has no attribute 'op'

这是可以理解的，因为它不能继续使用 NP 数组对象而不是模型层对象进行预测。我该怎么做？

Answer 1

我想通了 - 我需要在第二个 K.function 中指定下一层输入，然后将修改后的输出传递给它：

get_pred = K.function([model.layers[2].input], model.layers[-1].output)
pred = get_pred([mid_layer_outputs])

根据 this 回答，K.function 运行我们在代码中创建的计算图，从第一个参数获取输入并根据提到的层提取输出数量。所以 K.function([mid_layer_outputs], model.layers[-1].output) 之前没有工作，因为我没有传递 K.function 的层来处理和连接到输出，而是直接传递值。

更改中间 activations/output 并观察 TF2/Keras 中的预测

Change intermediate activations/output and observe prediction in TF2/Keras

python

machine-learning

keras

tensorflow

tensorflow2.0