使用 AWS 在虚拟机上部署我自己的 tensorflow 模型

Deploy my own tensorflow model on a virtual machine with AWS

我有一个 Tensorflow 模型,它在我的笔记本电脑上运行良好(OS HighSierra 上的 Tf 1.8)。但是,我想扩大我的操作规模并使用 Amazon 的虚拟机来更快地 运行 进行预测。使用我保存的模型并对本地存储的 jpeg 格式图像进行分类的最佳方法是什么?谢谢!

你有两个选择:

1) 在 AWS 上启动虚拟机(称为 Amazon EC2 实例)。您可以从许多不同的实例类型中进行选择,包括 GPU 实例。你将拥有这台机器的完全管理权限,这意味着你可以将你的 TF 模型复制到它并像在你自己的机器上一样进行预测。

在此处了解有关 EC2 入门的更多详细信息:https://aws.amazon.com/ec2/getting-started/

我还建议使用深度学习亚马逊机器映像,它捆绑了所有流行的 ML/DL 工具以及用于 GPU training/prediction 的 NVIDIA 环境:https://aws.amazon.com/machine-learning/amis/

2) 如果您不想管理虚拟机,我建议您查看 Amazon SageMaker。您将能够导入您的 TF 模型并将其部署在完全托管的基础设施上以进行预测。

这是一个示例笔记本,向您展示如何将您自己的 TF 模型引入 SageMaker:https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/tensorflow_iris_byom/tensorflow_BYOM_iris.ipynb

希望对您有所帮助。