如何使用 C++ 为张量流加载检查点和推理？

Question

我有带 python api 的 Tensorflow 并获得了这些检查点模型文件：

model.ckpt-17763.data-00000-of-00001
model.ckpt-17763.index
model.ckpt-17763.meta

但我想要 C/C++ 共享库（.so 文件）集成到生产环境中。所以我需要加载这些模型文件并使用 C++ 代码进行推理并编译为共享库。是否有一些教程或示例可以做到这一点？

Answer 1

您可以编写 C++ 代码以按照给定的说明加载和使用您的图表 here。

您可以使用文件 here 在 TF 存储库之外使用 tensorflow 创建一个 Cmake 项目，并编译您的库。

但是，您的 .so 旁边仍然需要 .ckpt 文件，我不知道如何将它们集成到其中。

S.O. 上有很多关于它的问题，还有一些教程（参见 中引用的两个教程）但是由于 tensorflow 发展很快，它们很快就会过时，并且让它正常工作总是有点困难（虽然完全可行，而且越来越容易）。