Intel NCS算力棒在Ubuntu16.04的部署指南-深圳市維司達科技有限公司

Intel NCS算力棒在Ubuntu16.04的部署指南

🎵 零样本语音克隆 · 情感表达 · 音素级控制
webUI二次开发 by 科哥微信：312088415

在边缘计算和轻量化AI推理需求日益增长的今天，Intel Neural Compute Stick（NCS）作为一款低成本、低功耗的USB加速棒，为开发者提供了将深度学习模型部署到终端设备的可能性。尤其在资源受限的嵌入式场景中，如何在老旧系统如 Ubuntu 16.04 上成功部署并运行 NCS 算力棒，成为不少工程师面临的实际挑战。

本文将围绕Intel NCS 在 Ubuntu 16.04 系统中的完整部署流程展开，涵盖环境配置、依赖安装、固件更新、模型编译与推理验证等关键步骤，并结合常见问题提供实用解决方案，帮助你避开“踩坑”雷区，快速上手这一经典边缘推理工具。

系统准备与环境要求

在开始前，请确认你的硬件和软件环境满足以下基本条件：

✅ 硬件要求

主机：x86_64 架构 PC 或工控机
USB 接口：至少一个可用 USB 2.0/3.0 接口（建议使用原生接口，避免通过扩展坞）
Intel NCS 第一代（Myriad X VPU）或第二代（NCS 2）

⚠️ 注意：NCS 1 和 NCS 2 使用不同的 OpenVINO 版本支持，本文以NCS 1（较老但仍有应用场景）为例，适用于 Ubuntu 16.04 的经典部署方案。

✅ 软件环境

操作系统：Ubuntu 16.04 LTS（64位）
内核版本：≥ 4.10（可通过uname -r查看）
Python：2.7 或 3.5+
用户权限：具备 sudo 权限

安装 OpenVINO 工具包（适用于 NCS 与 Ubuntu 16.04）

由于官方最新版 OpenVINO 已不再支持 Ubuntu 16.04，我们需要使用历史版本进行适配。

步骤 1：下载兼容版本 OpenVINO

推荐使用OpenVINO™ Toolkit 2019_R3.1—— 这是最后一个正式支持 Ubuntu 16.04 和 NCS 1 的版本。

# 创建工作目录 mkdir ~/intel-openvino && cd ~/intel-openvino # 下载 OpenVINO 2019_R3.1（需注册 Intel 开发者账号获取链接） wget https://download.01.org/openvinotoolkit/2019/R3.1/l_openvino_toolkit_p_2019.3.376.tgz # 解压 tar -xvzf l_openvino_toolkit_p_2019.3.376.tgz

🔗 下载地址可能失效，请访问 Intel 官方归档页面查询历史版本。

步骤 2：运行安装脚本

cd l_openvino_toolkit_p_2019.3.376 sudo ./install_cv_sdk_dependencies.sh # 安装系统依赖 sudo ./install_GUI.sh # 图形化安装界面（也可用命令行模式）

按提示完成安装，默认路径为/opt/intel/openvino。

步骤 3：配置环境变量

将 OpenVINO 添加到全局环境中：

echo "source /opt/intel/openvino/bin/setupvars.sh" >> ~/.bashrc source ~/.bashrc

验证是否生效：

echo $INTEL_CVSDK_DIR # 应输出：/opt/intel/openvino

配置 NCS 设备权限

默认情况下，普通用户无法直接访问 USB 设备，需要添加 udev 规则。

创建 udev 规则文件

sudo nano /etc/udev/rules.d/97-myriad-usbboot.rules

写入以下内容：

SUBSYSTEM=="usb", ATTRS{idProduct}=="2150", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666" SUBSYSTEM=="usb", ATTRS{idProduct}=="2485", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666" SUBSYSTEM=="usb", ATTRS{idProduct}=="f63b", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666"

💡 说明：
-2150: NCS 1 初始启动模式
-2485: NCS 1 编程后模式
-f63b: NCS 2 设备 ID（若仅用 NCS 1 可忽略）

保存后重载规则：

sudo udevadm control --reload-rules sudo udevadm trigger

拔插 NCS 设备使规则生效。

更新 NCS 固件（仅 NCS 1）

NCS 1 出厂固件可能过旧，需手动更新至最新版本以确保稳定性。

步骤 1：进入设备编程模式

插入 NCS 后执行：

cd /opt/intel/openvino/deployment_tools/inference_engine/external/myriad_plugin/ ./flashmyriad -U --update

或使用脚本方式：

mvNCUpgrade -d 0

若提示 “No connected devices”，请尝试更换 USB 接口或重启主机。

步骤 2：选择固件升级

系统会自动检测当前固件版本并提示是否升级。输入y确认。

等待几分钟，直到出现Device has been successfully updated提示。

验证设备连接

使用mvNCCheck工具测试设备是否正常识别：

cd /opt/intel/openvino/deployment_tools/model_optimizer source /opt/intel/openvino/bin/setupvars.sh # 测试 AlexNet 示例模型 python3 mvnc/mvNCCheck.py -s 1 -in input -on output

预期输出包含：

Tensor for the poster layer obtained correctly... Duration : [varies] ms Average time for tiling group 0 is [time] ms Movidius NC SDK device opened

如果看到Movidius NC SDK device opened，说明设备已成功识别！

编译并运行推理模型

OpenVINO 支持将训练好的模型（如 TensorFlow、Caffe）转换为.blob格式供 NCS 使用。

示例：编译 MobileNet-SSD（Caffe 版）

1. 获取模型文件

cd ~/intel-openvino wget https://storage.googleapis.com/download.tensorflow.org/models/object_detection/ssd_mobilenet_v1_coco_2018_01_28.tar.gz tar -xzf ssd_mobilenet_v1_coco_2018_01_28.tar.gz

2. 转换模型为 IR 格式（中间表示）

cd /opt/intel/openvino/deployment_tools/model_optimizer python3 mo_tf.py \ --input_model ~/intel-openvino/frozen_inference_graph.pb \ --tensorflow_use_custom_operations_config $INTEL_CVSDK_DIR/deployment_tools/model_optimizer/extensions/front/tf/ssd_v7_support.json \ --tensorflow_object_detection_api_pipeline_config ~/intel-openvino/pipeline.config \ --data_type FP16 \ --output_dir ~/my_model_ir

3. 编译为 .blob 文件（用于 NCS）

cd /opt/intel/openvino/deployment_tools/inference_engine/samples/python/hello_reshape_ssd # 使用 Myriad Compiler 编译 IR 模型 mvNCCompile ~/my_model_ir/frozen_inference_graph.xml -ip U8 -o my_ssd.blob -s 1

生成的my_ssd.blob即可在 NCS 上加载运行。

执行图像分类推理示例

使用 OpenVINO 自带的hello_ncs_py示例程序测试实时推理能力。

步骤 1：构建 Python 示例

cd /opt/intel/openvino/deployment_tools/inference_engine/samples/python/hello_reshape_ssd python3 hello_reshape_ssd.py my_ssd.blob CPU # 先用 CPU 测试模型结构

步骤 2：切换为 NCS 推理

python3 hello_reshape_ssd.py my_ssd.blob MYRIAD

你应该能看到类似输出：

Start execution, current FPS: xx.x Detected object: person (confidence: 0.87)

这表明 NCS 正在执行目标检测任务！

常见问题排查指南

❌ 问题 1：`Error - Could not open NCS device`

原因分析：
- USB 权限未正确配置
- udev 规则未生效
- 使用了虚拟机或 Docker 容器导致 USB 透传失败

解决方法：
1. 确保已添加 udev 规则并重新插拔设备；
2. 执行lsusb | grep 03e7查看设备是否被识别；
Bus 001 Device 004: ID 03e7:2150
3. 如在虚拟机中运行，启用 USB 3.0 控制器并绑定设备。

❌ 问题 2：`Out of memory during compilation`

原因分析：
- 模型过大，超出 NCS 1GB 显存限制
- 使用了不支持的操作层（如 Deconvolution）

解决方法：
- 尝试简化模型结构；
- 使用FP16数据类型而非FP32；
- 分离部分预处理逻辑到主机端执行；
- 考虑升级至 NCS 2 或使用 OpenVINO + GPU/CPU 方案。

❌ 问题 3：`Unsupported layer type: DetectionOutput`

原因分析：
- 某些自定义层未被 Myriad 插件支持

解决方法：
- 使用 OpenVINO 提供的扩展机制注册新层；
- 或改用支持的标准层组合实现相同功能；
- 查阅 OpenVINO Model Zoo 寻找替代模型。

❌ 问题 4：Python 报错`ModuleNotFoundError: No module named 'openvino'`

原因分析：
- Python 环境未正确链接 OpenVINO 库

解决方法：
确保激活了正确的 Python 环境，并导入路径：

import sys sys.path.append("/opt/intel/openvino/python") from openvino.inference_engine import IECore

或者创建软链接：

sudo ln -s /opt/intel/openvino/python/python3.5/openvino /usr/local/lib/python3.5/dist-packages/openvino

性能优化建议

虽然 NCS 性能有限，但合理调优仍可提升实用性：

优化方向	措施
模型裁剪	移除冗余层，降低输入分辨率（如 300x300 → 224x224）
量化压缩	使用 INT8 或 FP16 减少内存占用和延迟
批处理控制	NCS 不支持 batch > 1，应设为 1
前后处理分离	图像缩放、归一化放在主机端处理
异步推理	多设备或多线程下可提高吞吐量

实际应用场景建议

尽管 NCS 已逐步被 newer edge AI chips（如 Google Coral TPU、Hailo-8）取代，但在某些特定场景中仍有价值：

✅ 适合场景

教学演示与学生实验平台
低功耗监控设备原型开发
离线环境下的简单图像分类任务
快速验证模型可行性（PoC）

⚠️ 不推荐场景

高并发、高帧率视频流处理
复杂大模型（如 BERT、ResNet-101）
需要频繁更新模型的生产环境

总结与展望

Intel NCS 虽然已退出主流市场，但它作为早期边缘 AI 推理设备的代表，依然具有教学和原型开发价值。在 Ubuntu 16.04 这类老旧系统上成功部署 NCS，不仅能延续其生命周期，也为理解底层设备通信、固件升级和模型编译流程提供了宝贵实践机会。

随着 OpenVINO 生态的发展，即使不再使用 NCS，这套部署思路也适用于其他基于 VPU 的边缘设备。如果你正在从事嵌入式 AI 开发，掌握这类“从零搭建”的技能，远比直接使用封装好的 SDK 更有价值。

🌱 小贴士：考虑将此环境容器化（Docker），便于迁移和复现。虽然官方不支持，但已有社区项目实现 Ubuntu 16.04 + OpenVINO 2019 的镜像打包。

如有部署过程中遇到具体问题，欢迎联系：

科哥
微信：312088415

最后更新：2025-12-20

Intel NCS算力棒在Ubuntu16.04的部署指南