如何在 .net 应用程序中使用 openvino?
how to use openvino in .net application?
我想知道是否可以在 .net 应用程序中使用 openvino?
我已将 yolo 网络转换为 onnx 网络以与 ml.net 一起使用。接下来我想做的是实现 openvino 看看它是否加速。到目前为止,我已经用 openvino Model_optimizer 转换了我的 onnx 模型,但到目前为止找不到任何在 .net 应用程序中实现 openvino 的方法。
谢谢
到目前为止,还没有官方支持 OpenVINO 与 .NET 应用程序的集成。相反,OpenVINO 有自己的推理引擎应用程序,支持 C++ 和 Python。您可以参考 here 了解更多信息。
Performance-wise,既然你提到了加速,你可以尝试使用OpenVINO Post-Training Optimization Tool来加速深度学习模型的推理。
另外,确保 choose the right precision for Deep Learning model 根据您要用于推理的硬件。
我想知道是否可以在 .net 应用程序中使用 openvino?
我已将 yolo 网络转换为 onnx 网络以与 ml.net 一起使用。接下来我想做的是实现 openvino 看看它是否加速。到目前为止,我已经用 openvino Model_optimizer 转换了我的 onnx 模型,但到目前为止找不到任何在 .net 应用程序中实现 openvino 的方法。
谢谢
到目前为止,还没有官方支持 OpenVINO 与 .NET 应用程序的集成。相反,OpenVINO 有自己的推理引擎应用程序,支持 C++ 和 Python。您可以参考 here 了解更多信息。
Performance-wise,既然你提到了加速,你可以尝试使用OpenVINO Post-Training Optimization Tool来加速深度学习模型的推理。
另外,确保 choose the right precision for Deep Learning model 根据您要用于推理的硬件。