实战精选｜如何使用 OpenVINO™ 在 ElectronJS 中创建桌面应用程序
作者 | Mikołaj Roszczyk 华沙理工大学物联网工程师 翻译 | 武卓 英特尔 AI 软件布道师 最近，我完成了一个 demo 演示，展示了 OpenVINO™ 在 Node.js 框架中的强大功能。得益于与 Electron.js 的集成，该演示不仅能够高效地执行神经网络推理，还提供了交互式的用户体验。 应用程序概览：一种简单的背景虚化方法 这个演示展示了如何在 Node.js
openlab_96bf3613
1月前
用英特尔CPU及GPU运行OpenAI-whisper模型语音识别
作者 英特尔创新大使 黄明明 介绍 Whisper 作为一款卓越的自动语音识别（ASR）系统，依托海量且多元的监督数据完成训练，其数据规模高达 680,000 小时，涵盖多种语言及丰富多样的任务类型，广泛采撷自网络资源，以此铸就了坚实的性能根基。 从技术架构层面剖析，Whisper 构建于先进的 Transformer 框架之上，采用经典的编码器 - 解码器模型设计，也就是广为人知的序列到序列模型
openlab_96bf3613
1月前
OpenVINO™ 2024.5 新发布 | 使用流水线简易部署多模态 AI
作者 | Whitney Foster OpenVINO™ 产品专家 Yury Gorbachev 英特尔院士 OpenVINO™ 产品架构师 翻译 | 武卓 博士 英特尔 OpenVINO™ 布道师 在过去的一年里，大语言模型（LLM）彻底改变了文本处理，为文本摘要、重写、文档分析等提供了解决方案。然而，我们每天与之交互的数据不仅仅是文本，而是多模态的，包括视频、音频和图像。多模
openlab_96bf3613
1月前
最新端侧小钢炮！利用OpenVINO部署GLM-Edge全家桶
作者 | 杨亦诚 英特尔 AI 软件工程师 今天智谱发布其最新的GLM-Edge系列SLM模型， GLM-Edge 系列是智谱在面向端侧真实落地使用的场景下的一次尝试，由两种尺寸的大语言对话模型和多模态理解模型组成（ GLM-Edge-1.5B-Chat，GLM-Edge-4B-Chat，GLM-Edge-V-2B，GLM-Edge-V-5B）。其中，1.5B / 2B模型主要面向手机、车机等平台
openlab_96bf3613
1月前
使用OpenVINO条件编译功能，压缩windows应用体积
作者：杨亦诚 在OpenVINO编译过程中，我们可以根据应用对于硬件平台的需求，关闭或开指定推理后端的编译，以达到简化OpenVINO运行库的目的，例如cmake -DENABLE_INTEL_GPU=OFF 便可以取消GPU plugin库的编译。除此以外OpenVINO还提供了条件编译功能，用于针对特定模型进行运行库压缩，接下来就让我们一起来看下如何在Windows操作系统上实现这一功能。 环
openlab_96bf3613
1月前
