云原生容器服务Kubernetes版系统的相关内容

阿里云文档 2025-04-01

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-25

设置Slurm队列优先级

为了更有效地管理和分配资源，优化作业调度，提升系统利用率，并满足多样化的作业需求，队列成为任务调度中不可或缺的配置项。合理的队列设置能够确保高优先级的任务优先获得所需资源，从而最大化资源利用效率。本文介绍在Slurm系统环境下，当出现作业提交或作业状态变化时，如何通过恰当的队列配置策略来实现尽可能多的任务调度处理，以达到最佳性能。

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户，包括创建、修改和删除账户及用户的方法，并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量，从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理，本文介绍如何使用云原生AI套件开发控制台进行模型管理。

文章 2023-12-21 来自：开发者社区

云原生|kubernetes |kubelet服务加入系统守护进程supervisor（centos7系统下演示通过）

前言：kubelet 是 Kubernetes 集群中的一个重要组件，运行在每个节点上，负责管理该节点上的容器和Pod。它与控制平面（如 API Server 和 kube-controller-manager）通信，确保节点上的容器与期望的状态保持一致。以下是 kubelet 的一些主要功能和工作原理：Pod 管理：kubelet 负责管理节点上的 Pod。它根据从 API Server 获取....

文章 2023-12-19 来自：开发者社区

云原生|kubernetes|搭建部署一个稳定高效的EFK日志系统

前言：对于任何基础设施或后端服务系统，日志都是极其重要的。对于受Google内部容器管理系统Borg启发而催生出的Kubernetes项目来说，自然少不了对Logging的支持。efk就是目前比较受欢迎的日志管理系统。kubernetes可以实现efk的快速部署和使用，通过statefulset控制器部署elasticsearch组件，用来存储日志数据，还可通过volumenclaimtempl....

文章 2022-11-08 来自：开发者社区

云原生|kubernetes|搭建部署一个稳定高效的EFK日志系统（三）

ＯＫ，现在的ｅｆｋ基本就是搭建好了，浏览器登录ｋｉｂａｎａ：登录前先查询一哈ｋｉｂａｎａ的ｓｅｒｖｉｃｅ暴露的端口，３０１８０是目前的端口：[root@k8s-master ~]# k get svc -n kube-logging NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE el...

文章 2022-11-08 来自：开发者社区

云原生|kubernetes|搭建部署一个稳定高效的EFK日志系统（二）

es-sts-deploy.yaml 集群部署清单：cat << EOF > es-sts-deploy.yaml apiVersion: apps/v1 kind: StatefulSet metadata: name: es-cluster namespace: kube-logging spec: serviceName: elasticsearc...