将 SavedModel 上传到 ML 引擎

Question

我正在尝试将我保存的模型上传到 ML 引擎，以便我可以在线使用我的模型，但是我收到以下错误：

我在本地使用 tensorflow 版本 1.5 训练我的模型，基于 Tensorflow for poets 教程 (https://codelabs.developers.google.com/codelabs/tensorflow-for-poets/)。

然后我使用下面的 'save_model.py' 脚本转换我的模型：

import tensorflow as tf
from tensorflow.python.saved_model import signature_constants
from tensorflow.python.saved_model import tag_constants
from tensorflow.python.saved_model import builder as saved_model_builder

input_graph = 'retrained_graph.pb'
saved_model_dir = 'my_model'

with tf.Graph().as_default() as graph:
  # Read in the export graph
  with tf.gfile.FastGFile(input_graph, 'rb') as f:
      graph_def = tf.GraphDef()
      graph_def.ParseFromString(f.read())
      tf.import_graph_def(graph_def, name='')

  # Define SavedModel Signature (inputs and outputs)
  in_image = graph.get_tensor_by_name('DecodeJpeg/contents:0')
  inputs = {'image_bytes': tf.saved_model.utils.build_tensor_info(in_image)}

  out_classes = graph.get_tensor_by_name('final_result:0')
  outputs = {'prediction': tf.saved_model.utils.build_tensor_info(out_classes)}

  signature = tf.saved_model.signature_def_utils.build_signature_def(
      inputs=inputs,
      outputs=outputs,
      method_name='tensorflow/serving/predict'
  )

  with tf.Session(graph=graph) as sess:
    # Save out the SavedModel.
    b = saved_model_builder.SavedModelBuilder(saved_model_dir)
    b.add_meta_graph_and_variables(sess,
                               [tf.saved_model.tag_constants.SERVING],
                               signature_def_map={'serving_default': signature})
    b.save()

请使用运行时 1.2 或更高版本的错误信息是在谈论 tensorflow？还是我的 save_model.py 做错了什么？

Answer 1

您将需要使用 gcloud 来部署您的模型。控制台不允许您手动指定运行time 版本（即假定为 TensorFlow 1.0）。进一步请注意，1.5 尚不可用，但很快就会可用。也就是说，您的模型可能适用于 1.4，因此值得一试。

运行的命令是：

gcloud ml-engine versions create --model mymodel --origin=gs://mybucket --runtime-version 1.4

并且在不久的将来您可以使用--runtime-version 1.5。

有关详细信息，请参阅 reference docs，尤其是 gcloud 示例。

将 SavedModel 上传到 ML 引擎

Upload SavedModel to ML engine

google-cloud-platform

tensorflow

google-cloud-ml