如何使用 REST API 端点启动 TensorFlow Serving ModelServer

Question

我正在尝试利用新的可能性将 HTTP 请求发送到 TensorFlow ModelServer。但是，当我尝试运行以下内容时，它无法识别 --rest_api_port 参数：

tensorflow_model_server --rest_api_port=8501 \
   --model_name=half_plus_three \
   --model_base_path=$(pwd)/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_three/

unknown argument: --rest_api_port=8501

Answer 1

我遇到了同样的错误。我查看了源代码。

在main.cc文件中，源代码版本r1.7以下没有rest_api_port选项。

因此，如果你想使用REST，你需要使用上面的tensorflow-serving r1.8或者你自己实现。

希望对您有所帮助。

如何使用 REST API 端点启动 TensorFlow Serving ModelServer

How to start TensorFlow Serving ModelServer with the REST API endpoint

rest

tensorflow

tensorflow-serving