基于Win在VSCode部署运行OpenVINO模型

一、准备工作

1、Python

下载Win平台的Python安装包，添加环境变量，测试：

python --version

在VSCode里（ Ctrl+Shift+P 打开命令面板），指定Python解释器为上面安装路径。写一个python脚本运行测试。

2、虚拟环境

在 Windows 系统下使用 Python 虚拟环境（Virtual Environment）可以有效隔离不同项目的依赖，避免版本冲突。

在项目文件夹中新建虚拟环境venv，随后会在当前目录生成venv文件夹：

python -m venv venv

 激活虚拟环境：

.\venv\Scripts\activate

后续的代码流程均是在venv虚拟环境中运行。

可以通过Ctrl+Shift+P，选择python解释器，选择虚拟环境venv。

3、添加国内镜像源

设置全局镜像源（清华源）：

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
pip config set global.trusted-host pypi.tuna.tsinghua.edu.cn

4、安装pytorch环境

在官网选择对应版本的安装命令：Get Started

例如在win上通过cpu运行模型，安装对应的pytorch版本命令为：

pip3 install torch torchvision torchaudio

验证安装成功：

python -c "import torch; print(torch.__version__)"

二、部署OpenVINO

1、安装OpenVINO核心库

pip install openvino

# 如果需使用 Open Model Zoo 的预训练模型，还需安装额外工具：
pip install openvino-dev[onnx]  # 支持ONNX模型

pip install "openvino-dev[extras]"  # OpenVINO 完整工具包

2、下载预训练模型

可以从 Open Model Zoo 下载（Open Model Zoo 是 Intel 提供的预训练模型库，包含图像分类、目标检测等模型）。

使用 Open Model Zoo 下载预训练模型（直接使用 omz_downloader 命令下载）：

omz_downloader --name mobilenet-v3-small-1.0-224-tf

模型将下载到当前目录下的public/mobilenet-v3-small-1.0-224-tf 目录中。

3、使用 OpenVINO 加载模型推理

2、官方教程 快速部署一个示例

GitHub - openvinotoolkit/openvino：OpenVINO™ 是一个用于优化和部署 AI 推理的开源工具包

基于pytorch进行部署，可以运行成功。

对于给定的示例，可以看到会先自动下载模型保存到本地，然后调用运行。