關(guān)于OpenVINO? 2022.3 LTS你需要知道的6件事！

文章作者：武卓

新年里準(zhǔn)備好打開(kāi) OpenVINO? 的最新長(zhǎng)期支持（LTS）版本了嗎？無(wú)論你身處 AI 編程之旅的何處，如果你想快速輕松地開(kāi)發(fā)或?qū)W習(xí)如何開(kāi)發(fā)世界級(jí)的 AI 應(yīng)用程序，并將深度學(xué)習(xí)推理工作負(fù)載從邊緣部署到云端，你都會(huì)想了解這個(gè) AI 推理工具套件的最新更新！

01、LTS 版本和其它版本的區(qū)別是什么?

在軟件行業(yè)中，LTS 版本的重點(diǎn)是擴(kuò)展或整合同一產(chǎn)品的先前版本中已經(jīng)引入的功能，并保證對(duì)這些功能的長(zhǎng)期支持。從正式發(fā)布之日起，它為 AI 開(kāi)發(fā)者提供了一年的 Bug 修復(fù)和兩年的安全補(bǔ)丁。

盡管為這種穩(wěn)定性和壽命付出的代價(jià)是，此類版本在其整個(gè)生命周期內(nèi)沒(méi)有額外的功能，但好消息是，OpenVINO? 今年引入的所有新功能都將包含在 2022.3 LTS 版本中。這些功能包括動(dòng)態(tài)輸入、自動(dòng)批處理、性能優(yōu)先、AUTO 插件以及對(duì)英特爾新的獨(dú)立顯卡（英特爾??銳炫? 和 Flex 系列）以及第6代至第13代英特爾??酷睿? 處理器的支持。

LTS 版本還包括新的 API 2.0，它于今年早些時(shí)候在 OpenVINO 2022.1 中引入，旨在使 AI 開(kāi)發(fā)者更容易采用和維護(hù)代碼。有關(guān) API 2.0 以及如何轉(zhuǎn)換的更多信息，請(qǐng)參見(jiàn)下方鏈接：

https://docs.openvino.ai/latest/openvino_2_0_transition_guide.html

02、OpenVINO? 2022.3 LTS 中有哪些新特性？

除了集成、穩(wěn)定且經(jīng)過(guò)良好測(cè)試的 2022 工具套件更新版本外，OpenVINO 2022.3 LTS 還支持更多的深度學(xué)習(xí)模型和設(shè)備。

AI 開(kāi)發(fā)者將發(fā)現(xiàn)更廣泛的對(duì)于基于 transformer 的自然語(yǔ)言處理（NLP）模型的支持，如 GPT 和 OpenAI Whisper，以及其它模型的支持，如 Stable diffusion（圖1）；改進(jìn)了可移植性和性能提升；與 Hugging Face Optimum 集成；加入了新 Jupyter notebook 示例教程，如 YOLOv7、樣式轉(zhuǎn)換（圖2）和 3D 點(diǎn)云分割（圖3）的；以及更多。

圖1. Stable diffusion 基于文本提示生成復(fù)雜的藝術(shù)圖像。

例如，蝴蝶部分在雪山上。

圖2. 給定圖片運(yùn)行樣式轉(zhuǎn)換

圖3. 使用 OpenVINO? 以消耗點(diǎn)云數(shù)據(jù)并執(zhí)行推理 3D 分割可視化

03、這個(gè)版本提供哪些硬件支持？

在硬件方面，簡(jiǎn)而言之，OpenVINO 2022.3 LTS 在更多 GPU 上運(yùn)行得更快、更智能。這里面完整的故事是關(guān)于所有受支持的 CPU 和 GPU 的性能提升，與自動(dòng)設(shè)備發(fā)現(xiàn)和負(fù)載平衡、動(dòng)態(tài)推理并行性以及添加到 AUTO 功能中的計(jì)算模式選擇攜手并進(jìn)，使多個(gè)加速器（例如，多個(gè)英特爾??Data Center GPU Flex 系列）能夠同時(shí)使用，以最大化推理性能。

最重要的是，我們很高興與大家分享 OpenVINO 2022.3 LTS 正式完全支持英特爾? 獨(dú)立顯卡！

04、為什么支持英特爾? 獨(dú)立顯卡是大新聞？

這是 OpenVINO? 首次為在英特爾獨(dú)立顯卡上運(yùn)行推理工作負(fù)載提供黃金級(jí)支持。憑借五年多在英特爾??圖形處理器（或“ iGPU ”）上優(yōu)化、測(cè)試和部署推理的經(jīng)驗(yàn)，這只是漫長(zhǎng)旅程中的最后一步，它成功地將 OpenVINO? 帶到了可廣泛適用于臺(tái)式機(jī)、筆記本電腦和服務(wù)器的許多價(jià)格合理的 GPU 上去運(yùn)行 AI 推理。

05、OpenVINO? 2022.3 LTS 會(huì)破壞你現(xiàn)有的 AI 代碼嗎？

如果該代碼已編寫或已移植到新的 API 2.0，則不會(huì)。

如果您計(jì)劃在 2023年升級(jí)到 OpenVINO? 的未來(lái)版本以利用新功能，請(qǐng)記住，這些功能和優(yōu)化不會(huì)被移植到2022.3 LTS版本。對(duì)于生產(chǎn)部署，我們建議保持最新的OpenVINO 2022.3 LTS 版本，直到2023年的新功能在明年的LTS中穩(wěn)定下來(lái)。

06、什么時(shí)候升級(jí)以及最佳的升級(jí)方式是什么？

我們建議希望快速開(kāi)發(fā)和部署高性能 AI 應(yīng)用程序的每個(gè)人都使用 OpenVINO 2022.3 LTS。但是，無(wú)論出于何種原因，如果這是不可能的，并且您不想或不需要利用全年發(fā)布的所有優(yōu)秀的功能，則上一個(gè) LTS 版本 OpenVINO 2021.4 LTS 將在 2024 年之前獲得安全補(bǔ)丁的支持。

在決定時(shí)，非常重要的一點(diǎn)是要記住，LTS 版本是我們?cè)诤荛L(zhǎng)一段時(shí)間內(nèi)通過(guò) dot 版本提供官方錯(cuò)誤修復(fù)和安全補(bǔ)丁的唯一版本。

你可以通過(guò)以下命令升級(jí)到 OpenVINO 2022.3 LTS 版本：

pip install --upgrade openvino-dev

但請(qǐng)確保檢查所有依賴項(xiàng)，因?yàn)樯?jí)可能會(huì)更新 OpenVINO? 以外的其他軟件包。如果您希望安裝 C/C++API，請(qǐng)?zhí)崛☆A(yù)構(gòu)建的 Docker 映像或從其他存儲(chǔ)庫(kù)下載，請(qǐng)?jiān)L問(wèn)下載頁(yè)面以找到適合您需要的包：

https://www.intel.com/content/www/us/en/developer/tools/openvino-toolkit/download.html

如果您正在查找模型服務(wù)說(shuō)明，請(qǐng)查看以下最新文檔：

https://docs.openvino.ai/latest/ovms_what_is_openvino_model_server.html