Optimum Intel三步完成Llama3在算力魔方的本地量化和部署
作者：英特尔创新大使 刘力Linux基金会亚太区开源布道者 张晶1.1 Llama3简介Llama3 是Meta最新发布的开源大语言模型(LLM), 当前已开源8B和70B参数量的预训练模型权重，并支持指令微调。详情参见：https://ai.meta.com/blog/meta-llama-3/引用自：https://github.com/meta-llama/llama3Llama3性能优异，
openlab_96bf3613
1年前
作者：英特尔创新大使 黄明明文章介绍之前写了很多关于Java 在OpenVINO™ 中的引用，有目标检测、道路分割、模型加速等，但虽然写了这么多，也似乎没有过多提及到一些实际生活上的案例。都说创新源于生活，于是乎就想做一些有意思的东西，想了想，还真有一个案例似乎可以做出来。我们在平常长途回家，大多数多会上高速，但高速一般在节假日都会特别堵。所以这时候走应急车道的车还真不少，每每看到这些不排队的车主
openlab_96bf3613
1年前
解锁 LLM 新高度，拓宽模型新边界 —— OpenVINO™ 2024.1 赋能生成式 AI 高效运行
作者 | 武卓博士 英特尔 OpenVINO™ 布道师欢迎来到 OpenVINO™ 2024.1! OpenVINO™ 工具套件的每一次升级，都意味着我们在 AI 推理与部署的前沿领域迈出了新的步伐，不仅释放了更多创新潜力，也巩固了其市场地位。如今，我们满怀欣喜地向您呈现 OpenVINO™ 2024.1 版本的全新特性，并继续履行我们的承诺：为全球开发者打造更强劲、更灵活、更易用的开发工具。O
openlab_96bf3613
1年前
作者：诺达佳自动化技术有限公司公司 董锋、杨涵诺达佳机器人控制器，搭载英特尔处理器，以其强大的性能和稳定性，为AI机器人长期无故障运行提供了坚实的基础。随着AI技术的不断发展，机器人的应用领域将更加广泛，在医疗、餐饮、酒店、零售、工厂等多个场景中发挥重要作用。通过OpenVINOTM可以方便快捷的实现AI模型的优化，并将其部署到诺达佳机器人控制器上，轻松实现机器人所需的AI算法和运控算法的快速集成
openlab_96bf3613
1年前
开发者实战 | 简单两步使用 OpenVINO™ 搞定 Qwen1.5 的量化与部署任务
作者：杨亦诚 工具介绍 英特尔 OpenVINO™ 工具套件是一款开源 AI 推理优化部署的工具套件，可帮助开发人员和企业加速生成式人工智能 (AIGC)、大语言模型、计算机视觉和自然语言处理等 AI 工作负载，简化深度学习推理的开发和部署，便于实现从边缘到云的跨英特尔® 平台的异构执行。 模型介绍 近期通义千问团队发布了其 Qwen 大模型的第二代架构 Qwen2，这是一个基于 Transfor
openlab_96bf3613
1年前
