用英特尔Core Ultra及OpenVINO GenAI本地部署DeepSeek-R1

作者: 英特尔创新大使 张晶 英特尔开发者技术推广工程师 李翊玮 DeepSeek-R1在春节期间引发了全球科技界的热度,DeepSeek-R1 是由 DeepSeek 开发的开源推理模型,用于解决需要逻辑推理、数学问题解决和实时决策的任务。使用 DeepSeek-R1,您可以遵循其逻辑,使其更易于理解,并在必要时对其输出提出质疑。此功能使推理模型在需要解释结果的领域(如研究或复杂决策)中具有优势

openlab_96bf3613 21天前
736 0 0

如何利用OpenVINO在本地运行Qwen2.5-VL系列模型

杨亦诚 Ekaterina Aidova 介绍 近期阿里通义实验室在 Hugging Face 和 ModelScope 上开源了 Qwen2.5-VL 的 Base 和 Instruct 模型,包含 3B、7B 和 72B 在内的 3 个模型尺寸。其中,Qwen2.5-VL-7B-Instruct 在多个任务中超越了 GPT-4o-mini,而 Qwen2.5-VL-3B 作为端侧 AI 的

openlab_96bf3613 21天前
708 0 0

AI PC 新玩法:OpenVINO™ GenAI+LoRA 助你轻松实现个性化图像的高效生成

武卓 借助生成式 AI 模型(如 Stable Diffusion 和 FLUX.1),用户可以将平平无奇的文本提示词转换为令人惊艳的视觉效果。但如果你想生成更具风格化或定制化的图像,开源的基础模型可能无法满足你的所有需求。这时,LoRA(低秩适应)就派上用场了。许多风格修改和增强功能现以 LoRA 的形式发布,作为基础模型的模块化附加组件。通过添加LoRA适配器,使得大家可以随心所欲、生成风格多

openlab_96bf3613 21天前
400 0 0

大模型+小模型,实现AI智能监管

转发自研扬科技 AI_GUARD AI_GUARD是一个基于Intel x86 CPU + Intel Arc GPU(A370M)硬件平台,实现大模型(Qwen)+小模型+私域数据库融合的在线AI监管系统平台。该平台以YOLO算法为核心,实现了在不同需求场景下,识别异常并记录的功能,同时可结合大语言模型进行综合管理,提供问询等便利服务。在本文中,我们将使用OpenVINO™ 2024.4.0部署

openlab_96bf3613 21天前
376 0 0

哪吒大闹DeepSeek之开发板部署大模型实战

今年春节什么最火?一定是哪吒2和Deepseek,但凡是个中国人,都在春节期间被安利了“看哪吒,用DeepSeek”,下至六龄儿童,上至六旬老翁,都知道。 今天,我就告诉你怎么把DeepSeek塞到哪吒里! 一、本地部署 DeepSeek 的必要性 随着人工智能技术的快速发展,企业对 AI 模型的部署方式有了更多选择。本地部署 DeepSeek-R1 模型具有以下显著优势,使其成为许多企业和开发者

openlab_96bf3613 21天前
396 0 0
首页 上一页 1 2 3 下一页 尾页