DevCloud - 开放的算力

openlab_25991cf5 更新于 1天前

概述介绍

Intel® DevCloud 为用户提供了两种的类型的算力资源:开发节点和边缘节点 。

当用户首次通过 Intel® DevCloud 访问 Jupyter* Notebook 示例时,会在Intel® DevCloud中心服务器上创建一个开发环境,即开发节点。开发节点是基于Intel® Xeon® 处理器的物理主机;每个用户都有自己独立的沙箱开发环境,不同的用户间不能相互访问。
边缘节点是真实的边缘设备,在开发节点开发完成的应用程序最终都可以部署到边缘计算节点上去运行,获取真实的性能数据,这部分数据可以帮助开发者选择更合适的落地设备,加速产品的研发上市。边缘节点是所有用户共享使用的;当资源紧张时,可能会有排队等候资源释放的情况,但登录到Intel® DevCloud之后每一个开发者都有权访问所有的边缘节点。

可访问的算力

Intel® DevCloud 官方Home页上显示了可以用来做测试的边缘节点设备。这里列出了常用的硬件设备,如果想查看适用的设备配置请点击See All Hardware Configuration。

开发节点

该节点是基于 Intel® Xeon® Scalable processor(英特尔® 至强® 可扩展处理)的物理主机。它为我们每个用户创建了各自的、由1个Intel® Xeon® Gold processor(英特尔® 至强® 金牌处理器) 内核和 6 GB 内存组成的工作环境。每个开发者只是占用服务器的一部分算力,而非整个Intel® Xeon® Gold processor的算力,否则真的有点太奢侈了。

边缘节点

要在边缘节点上部署推理任务,需要将任务从开发节点提交到任务队列,待指定的边缘设备准备就绪后,任务会根据任务脚本在指定的边缘设备上运行。
Intel® DevCloud上的边缘节点被组织成组,同一组内的所有节点都具有相同的系统配置。示例如下图。如果您想获取更多的关于边缘节点组的信息,请参阅链接Edge-node-groups。


在使用这些边缘节点时,不需要申请,我们可以通过上表查询,也可以用命令pbsnodes查询(本文3.1节)。然后从列表中选择满足要求的节点, 通过qsub将任务提交即可(请参考《DevCloud - 裸机任务管理》的qsub说明)。

查询可用的边缘设备

裸机部署环境可用设备

在Jupyter*Notebooks在把任务提交到边缘端之前,我们可以通过命令确认哪些边缘设备是空闲的,可以把任务推给它们。在 Jupyter* Notebook 网页查询命令:!pbsnodes | grep compnode | sort | uniq -c;也可通过终端查询:pbsnodes | grep compnode | sort | uniq -c。


容器化部署环境中可用设备

关于容器化部署,请参考: 《DevCloud 容器化部署管理》。
容器化部署环境中可用的设备列表如下:单击处理器编号可以了解详细的产品规格,如热设计功率(TDP)、处理器频率、内核数量以及高级向量扩展(AVX)和向量神经网络指令(VNNI)支持等功能。

 您也可以参考available-hardware,以获得更多关于容器化部署环境中可用设备的信息。

总结

有了 Intel® DevCloud 平台,您可以按实际需求,使用CPU,GPU和加速器的组合来测试您的工作负载,以确定最适合您的需求架构。

0个评论