云原生容器服务Kubernetes版容器的相关内容

阿里云文档 2025-04-01

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-25

设置Slurm队列优先级

为了更有效地管理和分配资源，优化作业调度，提升系统利用率，并满足多样化的作业需求，队列成为任务调度中不可或缺的配置项。合理的队列设置能够确保高优先级的任务优先获得所需资源，从而最大化资源利用效率。本文介绍在Slurm系统环境下，当出现作业提交或作业状态变化时，如何通过恰当的队列配置策略来实现尽可能多的任务调度处理，以达到最佳性能。

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户，包括创建、修改和删除账户及用户的方法，并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量，从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理，本文介绍如何使用云原生AI套件开发控制台进行模型管理。

文章 2024-11-25 来自：开发者社区

云原生入门：Kubernetes 和容器化基础

在当今快速发展的技术世界中，云计算已成为企业和个人不可或缺的一部分。随着技术的发展，我们见证了从传统的服务器托管到虚拟化技术，再到现在的云原生应用的巨大转变。云原生是一种构建和运行应用程序的方法，它充分利用了云计算的灵活性、可扩展性和冗余性。在这篇文章中，我们将重点介绍两个核心概念：Kubernetes和容器化。...

文章 2024-11-06 来自：开发者社区

云原生应用：Kubernetes在容器编排中的实践与挑战

云原生应用：Kubernetes在容器编排中的实践与挑战 Kubernetes（简称K8s）作为云原生应用的核心容器编排平台，其自动化、扩展和管理容器化应用程序的能力使其成为现代应用开发和部署的标准工具。本文将提供一个关于Kubernetes在容器编排中的实践指南，并探讨其面临的挑战。 Kubernetes基础 Kuberne...

文章 2024-11-05 来自：开发者社区

云原生应用：Kubernetes在容器编排中的实践与挑战

随着云计算技术的快速发展，容器化已成为现代应用部署的核心趋势。Kubernetes（简称K8s）作为容器编排领域的佼佼者，以其强大的可扩展性、灵活性和自动化能力，为开发者提供了高效管理和部署容器化应用的平台。本文将详细介绍Kubernetes在容器编排中的实践过程，并探讨所面临的挑战。 Kubernetes的基本...

文章 2024-11-02 来自：开发者社区

云原生入门：Kubernetes和容器化的未来

在数字化时代的浪潮中，云计算已经成为了推动企业创新和效率提升的关键力量。随着技术的发展，云原生（Cloud Native）的概念应运而生，它代表了一种构建和运行应用程序的方法，旨在充分利用云计算的优势。在云原生的世界里，Kubernetes无疑是一颗耀眼的明星，它不仅是一个强大的容器编...

文章 2024-08-31 来自：开发者社区

云原生入门：Kubernetes 和容器化技术的实践之旅

云原生技术正在改变我们构建、部署和管理应用程序的方式。在这个快速变化的领域中，两个关键词频繁出现：容器化和Kubernetes。首先，我们来谈谈容器化。容器提供了一种轻量级、可移植的软件包，它包含了应用程序及其依赖项。Docker是最流行的容器化平台之一，它使得创建和分发容器变得简单。要体验容器化的便捷，我们可...