用 OpenVINO™ 在 Intel 13th Gen CPU 上运行 SDXL-Turbo 文本图像生成模型

作者:英特尔创新大使 卢雨畋 本文基于 13th Gen Intel(R) Core(TM) i5-13490F 型号 CPU 验证,对于量化后模型,你只需要在 16G 的笔记本电脑上就可体验生成过程(最佳体验为32G内存)。 SDXL-Turbo是一个快速的生成式文本到图像模型,可以通过单次网络评估从文本提示中合成逼真的图像。SDXL-Turbo采用了一种称为Adversarial Diffus

openlab_96bf3613 1年前
10464 0 0

在MacOS上使用OpenVINO CSharp API高效部署AI模型

作者:英特尔边缘计算创新大使:颜国进OpenVINO™ C# API 是一个 OpenVINO™ 的 .Net wrapper,应用最新的 OpenVINO™ 库开发,通过 OpenVINO™ C API 实现 .Net 对 OpenVINO™ Runtime 调用,使用习惯与 OpenVINO™ C++ API 一致。OpenVINO™ C# API 由于是基于 OpenVINO™ 开发,所支持

openlab_96bf3613 1年前
6916 0 0

AI大模型时代的边云协同之混合AI

作者:英特尔网络与边缘计算智慧城市事业部首席工程师 邵文简今天,AI已成为最为热门的技术话题。AI处理的数据来自于我们生活的城市中的方方面面,例如:居住的社区,工作的园区,购物的商场,出行的车站,机场,港口等。通过无所不在的网络接入,在On-prem Edge,Network Edge到Cloud的端,边,云架构中无缝地流动。同时,云化的计算架构使得计算可以自由地在端,边缘和云端部署和调度,并且对

openlab_96bf3613 1年前
11012 0 0

Intel CPU 实战部署阿里大语言模型千问Qwen-1_8B-chat

作者: 英特尔创新大使 卢雨畋1. 概述本文介绍了在 Intel 13代酷睿CPU i5 - 13490F设备上部署 Qwen 1.8B 模型的过程,你需要至少16GB内存的机器来完成这项任务,我们将使用英特尔的大模型推理库 [BigDL](https://github.com/intel-****ytics/BigDL) 来实现完整过程。BigDL-llm 是一个在英特尔设备上运行 LLM(大语

openlab_96bf3613 1年前
10880 0 0

代码贡献 | 为 OpenVINO™ 支持 Paddle 2.5

作者:卢畅,英特尔 OpenVINO™ 工具套件领航者联盟成员,PPDE 1. 前言 我是飞桨黑客马拉松第五期 OpenVINO™ 赛题获奖者——为 OpenVINO™ 添加了对 Paddle 2.5 的支持。在此记录下来贡献的过程,希望有更多的同学可以参与到 OpenVINO™ 的社区建设当中来。我在贡献代码的过程中,也遇到了一些问题,在此,非常感谢英特尔的技术老师们非常耐心地指导我,帮助我解决

openlab_96bf3613 1年前
5748 0 0