如何在 .net 应用程序中使用 openvino?

how to use openvino in .net application?

我想知道是否可以在 .net 应用程序中使用 openvino?

我已将 yolo 网络转换为 onnx 网络以与 ml.net 一起使用。接下来我想做的是实现 openvino 看看它是否加速。到目前为止,我已经用 openvino Model_optimizer 转换了我的 onnx 模型,但到目前为止找不到任何在 .net 应用程序中实现 openvino 的方法。

谢谢

到目前为止,还没有官方支持 OpenVINO 与 .NET 应用程序的集成。相反,OpenVINO 有自己的推理引擎应用程序,支持 C++ 和 Python。您可以参考 here 了解更多信息。

Performance-wise,既然你提到了加速,你可以尝试使用OpenVINO Post-Training Optimization Tool来加速深度学习模型的推理。

另外,确保 choose the right precision for Deep Learning model 根据您要用于推理的硬件。