通过 API 对 Keras 模型进行在线预测
Online Predictions for Keras model via API
我有一个使用 Keras 和 Tensorflow 2 训练的 classification 深度学习 CNN 模型（.h5 文件），我想将其用于在线预测。我想要一个 API 通过 HTTP 获取单个输入图像并使用经过训练的模型以预测的 class 标签响应。是否有 Keras 或 Tensorflow 提供的 API 来做同样的事情？
有两个基本选项：
使用TensorFlow Serving - 它提供现成的 REST API 服务器，您唯一需要做的就是将模型转换为 .pb 格式。
编写您自己的简单 REST 服务器（例如，在 Flask 上），它将在输入上调用 model.predict()（这种方法可能更容易开始，但很难实施scale/optimize 用于重负载。
我有一个使用 Keras 和 Tensorflow 2 训练的 classification 深度学习 CNN 模型（.h5 文件），我想将其用于在线预测。我想要一个 API 通过 HTTP 获取单个输入图像并使用经过训练的模型以预测的 class 标签响应。是否有 Keras 或 Tensorflow 提供的 API 来做同样的事情？
有两个基本选项：
使用TensorFlow Serving - 它提供现成的 REST API 服务器，您唯一需要做的就是将模型转换为 .pb 格式。
编写您自己的简单 REST 服务器（例如，在 Flask 上），它将在输入上调用
model.predict()（这种方法可能更容易开始，但很难实施scale/optimize 用于重负载。