英特尔AI开发板上用OpenVINO NNCF优化YOLOv7，2.15倍性能提升
作者：康瑶明 英特尔边缘计算创新大使YOLO代表“You Only Look Once”，它是一种流行的实时物体检测算法系列。最初的YOLO物体检测器于2016年首次发布。从那时起，YOLO的不同版本和变体被提出，每个版本和变体都显着提高了性能和效率。YOLO算法作为one-stage目标检测算法最典型的代表，其基于深度神经网络进行对象的识别和定位，运行速度很快，可以用于实时系统。YOLOv7 是
openlab_4276841a
3月前
作者：英特尔AI软件布道师 武卓 博士在人工智能的飞速发展中，大型语言模型，如Stable-Zephyr-3b，已成为研究和应用的热点。这些模型以其强大的文本理解和生成能力在多个领域大放异彩。然而，大多数高性能模型通常需要昂贵的计算资源，使得它们的应用受限于有限的环境。本文将探讨在OpenVINO™的赋能下，如何在不足千元的AI开发板上部署Stable-Zephyr-3b模型，构建聊天机器人，成
openlab_4276841a
3月前
三步完成ChatGLM3-6B在CPU上的INT4量化和部署
作者: 英特尔边缘计算创新大使 刘力；1.1 ChatGLM3-6B简介ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在填写问卷进行登记后亦允许免费商业使用。引用自：https://github.com/THUDM/ChatGLM3请使用命令，将ChatGLM3-6B模型下载到本地：git c
openlab_4276841a
3月前
作者：杨亦诚背景随着生成式AI的兴起，和大语言模型对话聊天的应用变得非常热门，但这类应用往往只能简单地和你“聊聊家常”，并不能针对某些特定的行业，给出非常专业和精准的答案。这也是由于大语言模型（以下简称LLM）在时效性和专业性上的局限所导致，现在市面上大部分开源的LLM几乎都只是使用某一个时间点前的公开数据进行训练，因此它无法学习到这个时间点之后的知识，并且也无法保证在专业领域上知识的准确性。那有
openlab_4276841a
3月前
作者：伍增、邓书梦一、AI检质一体机简介：英特尔开发者套件AIxBoard是一款IA架构的人工智能嵌入式开发板，体积小巧功能强大。借助OpenVINOTM工具套件，CPU和iGPU都具备较为理想的AI推理能力。我司将AIxBoard与触摸屏及自研的AI视觉软件集成在一起，做成了Ro**art AI质检一体机，实物图如下所示。Ro**art AI质检一体机所具备部分自研算法已发表如下：基于 Open
openlab_4276841a
3月前
