不只是跑模型：用 OpenVINO™ 把 Gemma 4 变成多模态助手
过去，使用语言模型是一件相对直接的事情。你加载一个模型，输入一段提示词，然后获得响应。这种方式在大多数应用都以文本为中心的时候，运行得很好。但现在，这个前提已经不再成立。现代 AI 应用被期待能够理解图像、遵循结构化指令，并完成多步推理。Gemma 4 正清晰地体现了这种变化：它将多模态理解、长上下文交互和推理能力整合进了同一个模型家族中。Gemma 4 是一个包含多种规模的模型家族，这使它在实际
openlab_96bf3613
7天前
OpenVINO™ 开发者说：Intel NPU 为什么可以跑大语言模型？
【开篇寄语】本文为 OpenVINO™ 社区开发者的实践分享。作者从技术原理、工程实现、生态演进角度，深度拆解了 Intel NPU 运行大语言模型的核心逻辑，其中关于编程模型、算子生态等讨论也为我们理解 NPU 当前架构与演进方向提供参考价值。作为开源 AI 工具套件，OpenVINO™ 鼓励大家结合自身场景验证、交流、分享，共同推动技术实践进步。 【作者简介】陶文（taowen@gmail.
openlab_96bf3613
7天前
如果你在关注AI，你一定听说过Claude Code。自媒体上关于它的教程、经验、Vibe Coding体验，每天刷都刷不完。如此高频出现的工具，如果你听到只是左耳朵进右耳朵出，始终没去试试——那么我猜，你有可能是让Claude Code这个名字"劝退"了。"Code"这个词，会让人下意识觉得：这是给程序员用的吧？我得会写代码？配环境？我一个编程小白，用得上吗？其实，Claude Code远不只是
openlab_7bf40019
7天前
OpenRouter 之后，中国企业需要怎样的 AI API 平台
随着 AI 应用的井喷，API 服务已成为企业降本增效、快速构建AI产品的“水电煤”。随之爆火的，还有 API 聚合平台——它将全球各大厂商、不同架构的 AI 模型统一集成到一个平台中。开发者和企业无需繁琐地逐一对接，就能轻松实现一站式调用与多模型横评，大幅节省时间和研发成本。在此背景下，全球知名的聚合平台 OpenRouter 脱颖而出。成立仅两年多，它已接入超400 个模型，注册开发者超 50
openlab_7bf40019
7天前
OpenVINO™正式进入 llama.cpp：GGUF 模型现已支持 Intel CPU、GPU 与 NPU
作者：武卓过去，在 llama.cpp 里跑 GGUF 模型这件事，逻辑一直很清晰：选模型、下模型、运行起来。简单、直接，而且足够高效。这也是为什么 GGUF 和 llama.cpp 直到今天依然是本地大模型开发里最受欢迎的组合之一。但当越来越多开发者开始把目光投向 Intel 平台上的 CPU、GPU，尤其是 NPU，一个更现实的问题也随之出现：能不能不改变熟悉的 GGUF 工作流，就把模型更自
openlab_96bf3613
8天前
