OpenVINO™ 工具套件版本说明

签署人: Deanne M Deuermeyer Andrey Zaytsev Frederick Boyle Amy Reyes IDZSupport KS 已发布: 10/22/2018 最后更新时间: 08/30/2018

简介

:OpenVINO™ 工具套件之前称为英特尔® 计算机视觉 SDK

OpenVINO™ 工具套件是一款全面的工具套件,支持快速开发可模拟人类视觉的应用和解决方案。该工具套件基于卷积神经网络 (CNN),可在英特尔® 硬件中扩展 CV 工作负载,实现卓越性能。

OPENVINO™ 工具套件:

  • 在边缘支持基于 CNN 的深度学习推理
  • 支持跨英特尔 CV 加速器的异构执行,将通用 API 用于 CPU、英特尔® 集成显卡、英特尔® Movidius™ 神经计算棒和 FPGA。
  • 通过易于使用的 CV 函数库和预优化的内核,加快产品上市速度。
  • 包括针对 CV 标准的优化调用,包括 OpenCV*、OpenCL™ 和 OpenVX*

OpenVINO™ 2018 R3 版本的新增功能和更改

模型优化器

推理引擎

  • Shape Inference 的功能预览。此功能支持您在读取推理引擎中的 IR 后,更改模型输入大小(无需返回至模型优化器)。
  • 图像预处理(裁剪/调整大小):
    • 用于将输入标记为可调整大小的新 API
    • 用于以最佳的方式裁剪感兴趣区域 (ROI) 的新 API 
    • 更新的 object_detection_demo_ssdcrossroad_camera_samplesecurity_barrier_camera_sample 示例以及新创建的 hello_autoresize_classification 示例中展示了如何使用图像预处理 API。
  • 支持 NHWC 作为所有插件的输入布局。性能优化将在下一版本中提供。  
  • CPU 插件
    • MKL-DNN 版本更新为 0.15。
  • FPGA 插件
    • 更新至版本 2.0.1 DLA PRQ,包含新比特流
    • 多卡支持t
    • 高清图像支持
    • 在不需要切片输入 blob 的情况下支持解卷积图层
    • 硬件深度卷积支持
    • Power 和 ScaleShift 图层已经过优化,因为现在它们可在深度卷积顶部实施
    • 功能预览,支持二进制/一元自定义激活层。无需重新编译推理引擎 FPGA 插件即可使用。有关详细信息,请咨询英特尔 FAE。
    • MobileNet v1 支持
    • 图形交换机制和 OpenVINO FPGA 运行时进行了优化
    • 特殊的 AOCL FPGA RTE(已安装补丁),可提高 FPGA 性能。安装说明:
      • RTE 仅在 OpenVINO 软件包中提供,通过软件包安装程序安装。 
      • 安装 OpenVINO 核心组件后需运行 `aocl install`。
      • 安装完成后,使用 `aocl version` 命令验证版本:应为 17.1.1.273;如果不是,请更新环境脚本。
      • 有关文档,请参阅封装文档中的 FPGA 设置部分。 
  • MYRIAD 插件
    • 批处理支持
    • 新增支持 Interp、PSROIPooling 和 Proposal 层
    • 扩展均值/最大值池化、CTCDecoder、卷积层以支持 CHW 布局
    • 扩展池化层以支持 ExcludePad 参数
    • 更新了错误消息
    • 用适当类型的 CNNLayer 层替换激活层
    • USB 协议稳定性修复
    • Permute、DetectionOutput、Eltwise::SUM 层修复
  • GNA 插件
    • 硬件性能计数器 API
    • speech_sample 更新时添加了性能计数器输出并改进了结果输出格式
    • 支持切片层
    • IR 中激活层的使用与其他插件一致;激活类型现已弃用;相反,使用 Relu、Sigmoid(和其他)等相应的类型
    • 修复了错误读取文件中的 GNA AOT(提前)模型的问题
    • 修复了 Split 图层中的填充计算问题

OpenCV*

  • 更新版本为 3.4.3
  • 通过通用内联函数新增初始英特尔® 高级矢量扩展指令集 2
  • 在 Linux* 上启用 Gstreamer* 后端

OpenVX*

  • 实施 vxConvolveNode 可检测卷积矩阵输入参数内的对称性,并利用 SymmetricalNxNFilter 扩展迁移至更高效的实施。
  • 改进了英特尔® GPU 上的 SymmetricalNxNFilter 英特尔扩展实施。现在卷积矩阵参数更新不会导致耗时的 OpenCL™ 内核重新编译。 
  • 英特尔® CPU 和 GPU 硬件支持新图像填充英特尔扩展。
  • 英特尔 CPU 支持新的调色板转换英特尔扩展。它包括 8 位/像素 (BPP) 转 1 BPP 打包内核、1 BPP 转 8 BPP 解包内核、8 BPP 转 2 BPP 打包内核、2 BPP 转 8 BPP 解包内核、8 BPP 转 4 BPP 打包内核和 4 BPP 转 8 BPP 解包内核。8 BPP <-> 2 BPP 和 8 BPP <-> 4 BPP 内核是 Beta(非优化)版本。  
  • 修复了 ITT 仪表化问题。改进了英特尔® Vtune™ 集成。 

示例和教程

  • 扩展的 Open Model Zoo,包括额外的 CNN 预训练模型和预先生成的中间表示 (.xml + .bin):
    • vehicle-license-plate-detection-barrier-0106:多级(车辆,车牌)检测器。替换旧版本且运行速度更快,同时保持相同的准确性。
    • person-detection-action-recognition-0001:面向智能教室场景的人物和动作检测模型。
    • person-reidentification-retail-0031:超小/最快的人物重新识别模型。计算人物描述符。
    • face-reidentification-retail-0001:面向面部重新识别的轻量级模型。
    • landmarks-regression-retail-0001:面向智能教室场景的轻量级表情回归模型。
  • 计算机视觉算法 (CVA) 组件现在包括超过三个预先构建的算法。所有算法都能够在英特尔 CPU 或 GPU 硬件上运行。其他算法是:
    • 情绪识别:包括面向情绪分类的预训练 CNN 模型。组件的 API 支持对一批图像运行情绪分类。
    • 人物重新识别:包括针对人物描述符计算预训练的 CNN 模型。组件的 API 支持对一批图像运行人物描述符计算模型。
    • 车辆/行人/自行车检测:检测十字路口场景中的对象。
  • 模型下载器配置文件经过扩展,支持 Caffe* 和 TensorFlow* 格式的公共模型:
  • 示例
    • 为 FPGA 新增八通道面部检测示例,包括在相关拓扑结构上微调基于 fp11 的用例。

OpenVINO™ 2018 R2 版本的新增功能和更改

推理引擎

  • CPU 插件
    • 内存使用优化。
    • 性能优化,包括优化的拆分合并实施、新增多批量模式就地优化,支持与 ReLU6、ELU、Sigmoid 和 Clamp 层的卷积融合。
    • 将面向深度神经网络的英特尔® 数学核心函数库版本更新至  0.14。
  • GPU 插件
    • 新增面向某些网络拓扑动态更改批次大小的功能。
  • FPGA 插件
    • DLA 版本更新至 1.0.1,支持英特尔® Arria® 10 GX FPGA 开发套件和采用英特尔® Arria® 10 GX FPGA 的英特尔® 可编程加速卡。
    • 为对象检测网络启用 FP11 比特流。
    • 将面向采用英特尔® Arria® 10 GX FPGA 的英特尔® 可编程加速卡的软件堆栈更新至 PAC 1.1。
    • 将面向 OpenCL™ Linux* 的英特尔® FPGA 运行时环境版本更新至 17.1.2。
  • Myriad 插件
    • 新增 Windows* 10 主机系统支持
    • 改进和修复了多台英特尔® Myriad™ 设备的处理问题。
    • 将英特尔® Myriad™ 支持添加至 Hetero 插件。
    • 提升了解卷积和深度卷积层的性能。
    • 新增 MVN 和 GRN 层支持,以及面向全局池化优化的新内核。
  • 推出了预览版 GNA 插件。

模型优化器

  • 支持 TensorFlow* Object Detection model zoo 中指定的 Faster R-CNN 模型。
  • 支持 ONNX* 模型转换功能预览。
  • 支持 Kaldi* 模型转换功能预览。
  • 通过 TensorFlow Object Detection model zoo 更轻松地转化 SSD 模型。

OpenCV*

  • 更新版本为 3.4.2。
  • 针对 DNN 启用推理引擎即后端。
  • 新增面向 2.7、3.5 和 3.6 版本的 Python* 绑定。
  • 将英特尔® 集成性能基元版本更新为 2018 Update 2。

OpenVX*

  • 在 GPU 上支持 RgbToYCbCr 英特尔扩展
  • 在 GPU 上支持 RgbToLab 英特尔扩展
  • 在 CPU 和 GPU 上支持全新对称 NxN 滤波器英特尔扩展。支持 3x3、5x5、7x7 和 9x9 四种滤波器光圈大小。
  • 在 GPU 上支持对称 7x7 滤波器英特尔扩展。未来版本中将替换为 NxN 滤波器扩展。
  • LUT3D 英特尔扩展增强功能。用户现在可以在 [2,33] 这个范围内设置一个可编程的晶格点数值。现在用户可以最佳的方式为 3 条输入通道传递自定义晶格点映射表。它们可用于将像素值 [0,255] 映射至晶格点范围 [0,nlatticepoints-1],包含浮点精度。
  • 在 GPU 上支持 Rotate 90 英特尔扩展,支持 0、90、180 和 270 度四个旋转角度。 
  • 在 GPU 上针对 RGB 和 RGBX 输入图像支持通道分离英特尔扩展。 
  • CPU 和 GPU 上支持全新双三次插值英特尔扩展的仿射变换。采用 Catmull-Rom 样条插值。
  • 解决了 OpenVX 环境线程安全问题。现在可并行运行多个 OpenVX 图形。其他几个潜在的数据竟跑问题也得以解决。

示例和教程

  • 新增全新 CNN 预训练模型 (prototxt) + 预生成的中间表示 (.xml + .bin):
    • person-detection-retail-0013:人物检测(比 person-detection-retail-0001 更快,替换 person-detection-retail-0012
    • vehicle-attributes-recognition-barrier-0039:车辆属性(类型/颜色)识别(替换 vehicle-attributes-recognition-barrier-0010
    • person-vehicle-bike-detection-crossroad-0078:多级(人,车,非车)检测器(替换 person-vehicle-bike-detection-crossroad-0066
    • face-person-detection-retail-0002:多级(面部 + 行人)检测器(零售用例)
    • pedestrian-detection-adas-0002:行人检测器(ADAS 场景)
    • vehicle-detection-adas-0002:车辆检测器(ADAS 场景)
    • pedestrian-and-vehicle-detector-adas-0001:多级(行人 + 车辆)检测器(ADAS 场景)
    • person-attributes-recognition-crossroad-0031:面向流量分析场景的人物属性识别
    • emotions-recognition-retail-0003:情绪(中性/快乐/悲伤/惊讶/生气)识别(零售用例)
    • person-reidentification-retail-0076:面向普通场景的人物重新识别模型(比 person-reidentification-retail-0079 更精确)
    • person-reidentification-retail-0079:面向普通场景的人物重新识别模型(比 person-reidentification-retail-0076 更快)
    • road-segmentation-adas-0001:面向 ADAS 用例的网络分段,将每个像素分成 4 类(BG、道路、路缘、标记)
    • semantic-segmentation-adas-0001:网络分段,将每个像素分成 20 类(ADAS 场景)
  • 现在,全新的计算机视觉算法 (CVA) 组件包括超过三个预先构建的算法。
    • 面部检测器组件包含针对面部检测预训练的 CNN 模型。面部检测器的目标是检测出现在摄像头视域中并看向摄像头的人脸。面部检测器可在 CPU、英特尔® 集成显卡和英特尔® Movidius™ 神经计算棒上运行。
    • 年龄/性别识别(面部分析器)是一种基于深度学习的软件组件,可提供面部分析算法,即准确识别人的年龄和性别。年龄/性别识别可在 CPU、英特尔® 集成显卡和英特尔® Movidius™ 神经计算棒上运行。
    • 摄像头干扰检测是一种用于识别摄像头受到不良影响的组件。它使用经典的计算机视觉方法检测摄像头干扰事件,例如遮挡、散焦或偏移。摄像头干扰检测可在 CPU 上运行。
  • 模型下载器配置文件经过扩展,支持 Caffe* 格式的公共模型:

 

OpenVINO™ 2018 R1.2 版本的新增功能和更改

推理引擎

 

OpenVINO™ 2018 R1.1 版本的新增功能和更改

模型优化器

模型优化器组件替换为基于 Python* 的应用,一致的设计适用于各种支持的框架。关键特性如下所示。更多信息请参阅 模型优化器开发人员指南

  • 一般变化:
    • 自上一版本以来启用了几个 CLI 选项。更多信息请参阅 模型优化器开发人员指南
    • 新增更多优化技巧。
    • 提升了可用性、稳定性和诊断功能。
    • 新增 Microsoft* Windows* 10 支持。
    • 现在针对 Caffe*、MXNet* 和 TensorFlow* 框架支持总共 100 多种公共模型。 
    • 不支持的层需采用框架,对于不支持的图层,可以回退到原始框架。
  • Caffe* 变化:
    • 工作流程得以简化,不再需要安装 Caffe。
    • 由标准图层和/或用户提供的自定义图层组成的模型不再需要 Caffe 生成中间表示。用户提供的自定义图层必须进行相应的注册以支持模型优化器和推理引擎。如欲了解详情和获取标准图层列表,请参阅 使用模型优化器转换 Caffe* 模型
    • 目前仅在模型优化器中注册为扩展的不受支持的图层才需要使用 Caffe。
  • TensorFlow* 支持得到了显著改进,现在可以为基于 SSD* 的拓扑结构提供对象检测 API 支持预览。

推理引擎

  • 新增异构性支持:
    • 现在提供设备关联(通过 API)以支持每层的精细化控制。
    • 现在您可以为 FPGA 不支持的图层指定 CPU 回退。例如,您可以指定 HETERO: FPGA, CPU 为推理引擎示例的设备选项。
    • 如果您有仅在 CPU 上实施的自定义图层,并想在英特尔® 集成显卡上执行其他拓扑结果,而无需为英特尔® 集成显卡重写自定义图层,可将回退用于 CPU + 英特尔® 集成显卡。
  • 异步执行:异步 API 可提高整体应用帧速率,支持您在加速器忙于进行帧推断时执行辅助任务,比如下一帧解码。
  • 全新的定制化功能包括易于创建的推理引擎操作。您可以:
    • 将新操作表示为现有推理引擎操作的组合,或在模型优化器中注册操作。
    • 用 C++ 或 OpenCL™ 将操作连接到新的推理引擎层。现有图层重新整理成“核心”(通用基元)或“扩展”(特定于拓扑,比如  DetectionOutput ,用于 SSD)。 这些扩展现在是您必须构建并加载至应用中的源代码。 编译推理引擎示例后,这个库将自动构建,而且每个示例都会在执行时显式加载这个库。预训练模型推理也需要扩展。
  • 英特尔® Movidius™ 神经计算棒硬件 (Myriad2) 新增插件支持。
  • 提供示例以深入了解推理引擎、API 和特性:
    • 所有示例都支持异构执行。
    • 通过 SSD 示例在对象检测中显示异步 API。
    • 简化  Hello, classification  示例以演示推理引擎 API 的用法。

OpenCV*

  • 用小补丁更新至版本 3.4.1。详情请参阅 更改日志 。显著变化:
    • 实施预编译的 OpenCL 内核的磁盘高速缓存。该特性缩短了使用多个内核的应用的初始化时间。
    • 提高源代码和二进制层级的 C++ 11 兼容性。
  • 从社区版本新增 OpenCV 示例子集以展示工具套件功能:
    • bgfg_segm.cpp - 背景分割
    • colorization.cpp - 使用 DNN 模块执行图像着色(从第三方站点下载网络)
    • dense_optical_flow.cpp - 使用 T-API(Farneback,TVL1)的密集光流
    • opencl_custom_kernel.cpp - 通过 T-API 运行自定义 OpenCL™ 内核
    • opencv_version.cpp - 最简单的 OpenCV* 应用 - 输入库版本和构建配置
    • peopledetect.cpp - 使用内置 HOGDescriptor 的行人检测器

OpenVX*

  • 采用成像和分析通道 (IAP) 框架的新内存管理方案大大降低了内存消耗。
    • 推出中间图像缓冲区,显著降低了使用大型图像的复杂打印和成像 (PI) 通道的内存占用量。
    • 弃用区块池内存消耗降低特性。将其从 Copy Pipeline 示例中删除。
  • 不建议将 OpenVX* CNN 路径用于基于 CNN 的应用,而且部分已经弃用。
    • 删除了 CNN AlexNet* 示例。
    • 删除了 CNN 自定义图层 (FCN8) 和自定义图层库
    • 删除了基于 OpenVX* SSD 的对象检测 Web 文章。
    • 弃用了 OpenVX* FPGA 插件。这是 CNN OVX 弃用的一部分。
  • 弃用并删除了用于 OpenVX* 应用的 VAD 工具。
  • 新建议:将深度学习推理引擎功能用于基于 CNN 的应用。

示例和教程

  • 支持以 Caffe 格式下载 OpenVINO™ 工具套件公共模型的模型下载器:
  • 交叉检查工具:为了调试整体和逐层模型推理,对比 CPU、英特尔® 集成显卡和英特尔® Movidius™ 神经计算棒的准确性和性能。
  • CNN 预训练模型 (prototxt) + 预生成的中间表示 (.xml + .bin):
    • age-gender-recognition-retail:年龄和性别分类。
    • face-detection-retail:面部检测。
    • person-detection-retail:人物检测。
    • license-plate-recognition-barrier:中国车牌识别。
    • face-detection-adas:面部检测。
    • person-detection-retail:人物检测。
    • head-pose-estimation-adas:头部和转动 + 摇头 + 倾斜
    • vehicle-attributes-recognition-barrier:车辆属性(类型/颜色)识别。
    • person-vehicle-bike-detection-crossroad:多级(人物,车辆,非车)检测器。
    • vehicle-license-plate-detection-barrier:多级(车辆,车牌)检测器。

 

预览功能术语

    预览功能是为了获得早期开发人员反馈而推出的功能。我们鼓励人们提出与预览功能相关的评论、问题和建议,并通过 https://software.intel.com/zh-cn/forums/computer-vision提交给论坛。

    预览功能的关键属性是:

    •     在在实现高质量实施
    •    无法保证未来是否存在或兼容性。

    注:预览功能可随时更改。未来版本中可能会删除或更改。预览功能更改需要启用和删除过程。不建议在生产代码库中使用预览功能。

     

    已知问题

    ID 描述 组件 解决方法
    1 在图形中用作参数之后并在图形执行可能导致 vxProcessGraph 缓慢和数据损坏之前发布非虚拟 vx_array 对象。 OpenVX* 不适用
    2 当出现由于用户节点故障而放弃图形的情况,将调用绑定至被跳过的节点的回调。 OpenVX 不适用
    3 OpenVX* 易失性内核扩展 API 可能随时更改。 OpenVX 不适用
    4 多个用户节点访问同一个阵列导致应用崩溃。 OpenVX 不适用
    5 英特尔® 集成显卡均衡直方图节点部分在 CPU 上运行。 OpenVX 不适用
    6 如果节点连接至 IAP.so,用户节点在调用英特尔® 集成性能基元时挂起。 OpenVX 不适用
    7 IPU Canny Edge 检测的边缘跟踪部分在 CPU 上运行。 OpenVX 不适用
    8 当灵敏度参数设置超出 [0.04; 0.15] 范围,Harris Corners* 内核扩展会产生不准确的结果。 OpenVX 不适用
    9 查询属性 VX_NODE_ATTRIBUTE_PERFORMANCE 时,API vxQueryNode() 针对自定义英特尔® 集成显卡节点返回零。 OpenVX 不适用
    10 节点创建方法不支持将 NULL 指示器用于非可选参数。 OpenVX 不适用
    11 vx_delay 对象不支持 vx_tensor 和 vx_object_array 类型 OpenVX 不适用
    12 不支持将 vx_delay 对象作为用户节点输入参数 OpenVX 不适用
    13 运行时中英特尔® 集成显卡上的 ColorConvert 节点中的多个节点中,标量参数不会发生动态变化 OpenVX 不适用
    14 OpenCL™ 无序队列功能可能会降低单个节点图的速度 OpenVX 不适用
    15 忽略 vxConvolutionLayer rounding_police parameter 中的 On CPU 时,任何情况下都使用 TO_ZERO 舍入。 OpenVX 不适用
    16 忽略 vxFullyConnecedLayer rounding_police 参数中的 On CPU 时,任何情况下都使用 TO_ZERO 舍入 OpenVX 不适用
    17 忽略 vxTensorMultiplyNode rounding_policy 参数中的 On CPU 时,在任何情况下都使用 TO_ZERO 策略 OpenVX 不适用
    18 Caffe* 图层不支持动态形状 模型优化器 不适用
    19 不支持部分 TensorFlow 操作,但只能成功转换有限的一组操作。 模型优化器 通过模型优化器  扩展和 IE 自定义图层启用不支持的操作
    20 仅限带有 FP32 占位符的 TensorFlow 模型。如果不是 FP32 占位符,则该占位符之后的下一个立即操作应该是转换成 FP32 的 Cast 操作。 模型优化器 重新构建您的模型以便仅包含 FP32 占位符,或添加 cast 操作
    21 仅支持包含 FP32 权重的 TensorFlow 模型。 模型优化器 重新构建您的模型以便仅包含 FP32 权重
    22 用模型优化器预构建以 egg-file 形式分发的 protobuf 二进制文件会中断 Python 3.5.2 安装。它不能用于 Python 3.5.2。 模型优化器 (建议自行构建 protobuf 二进制文件,或使用 Python 版 protobuf(较慢)
    23 包含可训练层(例如 Conv2D 或 MatMul)的 TensorFlow 模型无法成功转换,这些模型复用相同 Const 操作的权重。 模型优化器 使用复制的 Const 操作重新构建模型,以避免权重共享
    24 不支持并忽略 Caffe 模型中的嵌入式预处理。 模型优化器 通过 MO CLI 参数传递预处理参数
    25 在推理完成之前释放插件指示器会导致崩溃。 推理引擎 推理完成后,在应用结束时释放插件指示器
    26 FP11 比特流智能使用闪存方法变成到电路板上。 推理引擎 按照 FPGA 安装指南中的说明操作
    27 如果英特尔 OpenMP 在 OpenCL 之前初始化,OpenCL 将挂起。这意味着初始化或执行 FPGA 将同样会挂起。 推理引擎 在 CPU 插件之前通过 FPGA 插件优先级初始化 FPGA 或异构。
    28 在 FPGA 上执行的网络样本的第一次迭代的性能远低于下一次迭代的性能。 推理引擎 使用 -ni <number> -pc 测试 FPGA 上的实际推理性能。
    29 为了给自定义网络选择最佳比特流,评估所有可用比特流,并选择性能和准确性最高的比特流。使用 validation_app 收集准确性和性能数据,用于验证数据集。 推理引擎  
    30 setBatch 方法仅适用于有批处理作为所有张量的第一维度的拓扑结构 推理引擎  
    31 如果同时使用 MKL 和推理引擎,可以进行多个 OpenMP 运行时初始化 推理引擎 使用预加载的 iomp5 动态函数库
    32 如果仅成功执行推理请求,则调用完成回调 推理引擎 使用 Wait 接收推理请求错误通知
    33 GPU 插件不释放在图形编译过程中使用的内存 推理引擎  
    34 在加载扩展模块时,模型优化器报告 "No module named 'extensions.<module_name>'" 内部错误,但不从特定的目录加载任何扩展。只有当您同时使用 --extensions 命令行选项和包含基本名称 extensions 的目录,而且它不是 <INSTALL_DIR>/deployment_tools/model_optimizer/extensions 目录,这种情况才会发生。 模型优化器 将不同的基本名称用于包含自定义扩展的目录。
    35 TensorFlow* 版本 1.10 需要 protobuf 版本 >= 3.6.0,而 Caffe* 将预编译的 protobuf 3.5.1 用于 Windows*,它附带 OpenVINO 工具套件。因此无法使用模型优化器在 Windows 主机上同时转换 Caffe 和 TensorFlow 1.10 模型。如果您使用的是 protobuf 版本 < 3.6.0 和 TensorFlow 1.10,那么模型优化器将在模型转换期间输出以下错误:
    "<stack_trace>
    TypeError:__new__() got an unexpected keyword argument 'serialized_options'
    "
    模型优化器 转化模型之前使用专用框架 install_prerequisites_<framework>.sh 脚本安装 protobuf。
    36 模型优化器错误地转化了由对象检测 API 版本 1.7.0 或更高版本创建的 Faster R-CNN 和 Mask R-CNN 模型。应用于转化模型的配置文件 (<INSTALL_DIR>/deployment_tools/model_optimizer/extensions/front/tf/faster_rcnn_support_api_v1.7.json<INSTALL_DIR>/deployment_tools/model_optimizer/extensions/front/tf/mask_rcnn_support_api_v1.7.json) 包含错误的节点名称 "FirstStageBoxPredictor/Reshape" 和 "FirstStageBoxPredictor/Reshape_1"。 模型优化器 将配置文件中的 "FirstStageBoxPredictor/Reshape" 和 "FirstStageBoxPredictor/Reshape_1" 分别替换为 "concat" 和 "concat_1"。

     

    37 如果在优化期间通过图形替换提供有 --input 密钥的输入节点,那么输入切割会导致错误。 模型优化器 <INSTALL_DIR>/deployment_tools/model_optimizer/mo/front/extractor.py 的第 829-830 行向上移到相同文件中的第 796 行(在内容为:for port_and_shape_info in user_defined_inputs[node_id]: 的这一行之后)
    38 如果您的 CentOS* 7.4 机器上安装了英特尔® Media Server Studio,安装 OpenCV 相关性可能会导致 libva.so 版本冲突。 安装 删除 libva 并通过英特尔 Media Server Studio RPM 软件包重新安装:
    # yum remove libva
    # yum install ffmpeg-libs
    # rpm -ivh rpm -ivh /path/to/mss/distributive/libva-*.rpm

    此版本所包含的内容

    OpenVINO™ 工具套件有三个版本:

    • 面向 Windows 的 OpenVINO™ 工具套件
    • 面向 Linux 的 OpenVINO™ 工具套件
    • 面向 Linux 并支持 FPGA 的 OpenVINO™ 工具套件
    • 将推断集成至应用逻辑的统一 API
    安装位置/文件名 描述
    深度学习模型优化器 适用于训练后模型的模型优化工具
    深度学习推理引擎 将推断集成至应用逻辑的统一 API
    OpenCV* 库 面向英特尔硬件编译的 OpenCV Community 版本。包含用于计算机视觉的 PVL 库
    英特尔® Media SDK 库(开源版) 简化  OpenVINO™ 工具套件和 英特尔® Media SDK 之间的集成。
    英特尔 OpenVX* 运行时 目录包含捆绑的 OpenVX* 运行时,支持 CPU、英特尔® 集成显卡和 IPU 设备
    面向 OpenCL™ 的英特尔® 图形计算运行时 提高可用性
    英特尔® FPGA 深度学习加速套件,包含预编译的比特流

    实施最常见的 CNN 拓扑结构,以支持图像分类和简化人工智能开发人员采用 FPGA 的过程。

    包括适用于采用英特尔® Arria® 10 GX FPGA 和 Arria® 10 GX FPGA 开发套件的英特尔® 可编程加速卡的预编译的比特流示例。

    面向 OpenCL™ 软件技术的英特尔® FPGA SDK 面向 OpenCL™ 的英特尔® FPGA RTE 提供了实用程序、主机运行时库、驱动程序以及 RTE 特定库和文件
    OpenVINO™ 工具套件文档 开发人员指南和其他文档。可从 OpenVINO™ 工具套件产品网站获取
    Open Model Zoo 一组面向 prototxt 的预训练模型和生成的中间表示文件。您可以将这些用在演示中,以帮助自己了解产品或进行产品开发。
    计算机视觉示例 示例用于说明推理引擎、OpenCV 和 OpenVX 的用法以及如何创建计算机视觉应用。
    计算机视觉算法 (CVA) 高度优化的计算机视觉算法

     

    在何处下载此版本

    https://software.intel.com/zh-cn/OpenVINO-toolkit/choose-download

     

    系统要求

    开发平台

    处理器

    第六代至第八代智能英特尔® 酷睿™ 和 英特尔® 至强® 处理器

    操作系统:

    • Ubuntu* 16.04.3 长期支持 (LTS),64 位
    • CentOS* 7.4,64 位
    • Windows* 10,64 位

    目标平台(选择一款采用相应操作系统的处理器)

    您的要求可能会有所不同,具体取决于您使用的产品版本。

    采用相应操作系统的英特尔® CPU 处理器

    • 采用相应操作系统的第六代至第八代智能英特尔® 酷睿™ 和英特尔® 至强® 处理器:
      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • CentOS* 7.4,64 位
      • Windows* 10,64 位
    • 采用英特尔® 核芯显卡的英特尔® 奔腾® 处理器 N4200/5、N3350/5、N3450/5
      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • Yocto Project* Poky Jethro* v2.0.3,64 位

    采用相应操作系统的英特尔® 集成显卡处理器(GEN 显卡)

    注意: 安装需采用未包含在 OpenVINO™ 工具套件软件包中的驱动程序

    • 采用英特尔® 锐炬® Pro 显卡和英特尔® 核芯显卡的第六代至第八代智能英特尔® 酷睿™ 处理器
      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • CentOS* 7.4,64 位
    • 采用英特尔® 锐炬® Pro 显卡和英特尔® 核芯显卡的第六代至第八代英特尔® 至强® 处理器

      :英特尔® 至强® 处理器需采用支持处理器显卡的芯片组。所有的处理器都不包含处理器显卡。如欲了解有关您的处理器的信息,请访问 https://ark.intel.com/

      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • CentOS* 7.4,64 位
    • 采用英特尔® 核芯显卡的英特尔® 奔腾® 处理器 N4200/5、N3350/5、N3450/5
      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • Yocto Project* Poky Jethro* v2.0.3,64 位

    采用相应操作系统的英特尔® FPGA 处理器


    仅适用于面向 Linux 并支持 FPGA 的  OpenVINO™ 工具套件下载
    必须根据 CPU 或英特尔® 集成显卡运行 OpenCV* 和 OpenVX 功能,以获取所有必需的驱动程序和工具

    • 英特尔® Arria® 10 GX 开发套件
      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • CentOS* 7.4,64 位

    采用相应操作系统的英特尔® Movidius™ 神经计算棒

    • 英特尔® Movidius™ 神经计算棒
      • Ubuntu* 16.04.3 长期支持 (LTS),64 位
      • CentOS* 7.4,64 位

    实用链接

    :链接在新窗口中打开。

    OpenVINO™ 工具套件主页: https://software.intel.com/zh-cn/OpenVINO-toolkit

    OpenVINO™ 工具套件文档: https://software.intel.com/zh-cn/OpenVINO-toolkit/documentation/featured

     

    法律信息

    您不得使用或方便他人使用本文档对此处描述的相关英特尔产品作任何侵权或其他法律分析。您同意就此后起草的任何专利权利(包括此处披露的主题)授予英特尔非排他性的免版税许可。

    文档不代表英特尔公司或其它机构向任何人明确或隐含地授予任何知识产权。

    此处提供的信息可随时改变而毋需通知。请联系您的英特尔代表,了解最新的英特尔产品规格和路线图。

    所述产品可能包含设计缺陷或错误(已在勘误表中注明),这可能会使产品偏离已经发布的技术规范。这些缺陷或失误已收录于勘误表中,可索取获得。

    英特尔技术的特性和优势取决于系统配置,并需要借助硬件、软件或服务来实现。如欲了解更多信息,请访问http://www.intel.com/,或联系 OEM 或零售商。

    没有任何计算机系统能保证绝对安全。

    英特尔、Arria、酷睿、Movidius、至强、OpenVINO 和英特尔标识是英特尔在美国和/或其他国家的商标。

    OpenCL 和 OpenCL 标识是苹果公司的商标,需获得 Khronos 的许可方能使用。

    *其他的名称和品牌可能是其他所有者的资产。

    © 2018 英特尔公司版权所有。保留所有权利。

    产品和性能信息

    1

    英特尔的编译器针对非英特尔微处理器的优化程度可能与英特尔微处理器相同(或不同)。这些优化包括 SSE2、SSE3 和 SSSE3 指令集和其他优化。对于在非英特尔制造的微处理器上进行的优化,英特尔不对相应的可用性、功能或有效性提供担保。该产品中依赖于微处理器的优化仅适用于英特尔微处理器。某些非特定于英特尔微架构的优化保留用于英特尔微处理器。关于此通知涵盖的特定指令集的更多信息,请参阅适用产品的用户指南和参考指南。

    通知版本 #20110804