阿里云文档 2025-04-07

在Knative中使用GPU资源并开启共享GPU

如需在Knative中部署需要GPU资源的任务(如AI或高性能计算),您可以在Knative Service中指定GPU规格并创建GPU实例。您还可以开启共享GPU调度能力,允许多个Pod共享GPU,提升使用率。

阿里云文档 2025-03-06

如何使用GPU监控2.0监控ACK集群中的GPU资源

GPU监控2.0基于NVIDIA DCGM实现对集群GPU节点的全方位监控。本文介绍如何使用GPU监控2.0监控ACK集群中的GPU资源。

阿里云文档 2025-01-09

如何实现K8s集群以Serverless方式使用云上CPU/GPU资源

IDC中K8s集群通过Serverless方式使用阿里云弹性容器实例ECI运行业务Pod。您可以在K8s集群直接提交业务Pod,使Pod运行在ECI上,无需额外运维云上节点池,更加灵活、高效、弹性地使用云上CPU和GPU资源。本文介绍如何基于注册集群实现IDC中K8s集群以Serverless方式使用云上CPU和GPU资源。

阿里云文档 2024-11-01

在Knative中使用GPU资源并开启共享GPU

如需在Knative中部署AI任务、高性能计算等需要GPU资源的工作负载,您可以在Knative Service中指定GPU规格,创建GPU实例。您也可以为节点开启共享GPU调度能力,允许多个Pod共享同一个GPU,提高GPU使用率。

文章 2024-04-24 来自:开发者社区

Kubernetes(K8s)与虚拟GPU(vGPU)协同:实现GPU资源的高效管理与利用

可先阅读一下参考:kubernetes如何将异构GPU(如NVIDIA、海光、寒武纪)统一协同调度? 引言: 在当今的计算环境中,图形处理单元(GPU)已经成为许多工作负载中不可或缺的一部分。GPU的并行计算能力使其在深度学习、科学计算、图形渲染等领域具有巨大的优势。然而,有效管理和利用GPU资源对于提供高性能计算环境至关重要。在本文中,我们将探讨如何利用Kubern...

阿里云文档 2023-11-15

如何通过Docker或Kubernetes使用eGPU优化套件,进行GPU容器虚拟化和资源共享

本文以卷积神经网络模型ResNet50的训练和推理为例,为您介绍如何通过Docker或Kubernetes使用eGPU优化套件,进行GPU容器虚拟化和资源共享。本实践中的ResNet50模型基于NVIDIA官方开源代码DeepLearningExamples实现。

文章 2023-08-01 来自:开发者社区

基于ACK One注册集群实现IDC中K8s集群以Serverless方式使用云上CPU/GPU资源

在前一篇文章《基于ACK One注册集群实现IDC中K8s集群添加云上CPU/GPU节点》中,我们介绍了如何为IDC中K8s集群添加云上节点,应对业务流量的增长,通过多级弹性调度,灵活使用云上资源,并通过自动弹性伸缩,提高使用率,降低云上成本。 这种直接添加节点的方式,适合需要自定义配...

基于ACK One注册集群实现IDC中K8s集群以Serverless方式使用云上CPU/GPU资源

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注