容器服务Kubernetes版集群管理部署的相关内容

阿里云文档 2025-04-01

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题，您可以通过ACK Edge集群管理本地IDC的GPU机器，并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行，当本地IDC GPU资源不足时，任务将自动调度至云上的ACS Serverless GPU，满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-04

通过Sidecar方式采集集群日志（阿里云ACK集群和自建Kubernetes集群）

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志，两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过Sidecar方式采集K8s集群文本日志。

阿里云文档 2025-02-27

如何通过DaemonSet方式部署LoongCollector采集ACK集群文本日志

本文介绍如何通过DaemonSet方式部署LoongCollector采集阿里云ACK集群文本日志的流程。

文章 2024-11-21 来自：开发者社区

Kubernetes集群管理和服务部署实战

核心思想：本文深入讲解了Kubernetes集群的管理和服务部署，帮助读者掌握Kubernetes的核心功能。目标受众：DevOps工程师、系统管理员，对容器编排有需求。主要内容： Kubernetes的基本概念和工作原理搭建和管理Kubernetes集群（使用Minikube或kubeadm）...

文章 2024-04-24 来自：开发者社区

Kubernetes(K8S)集群管理Docker容器（部署篇）

今天这篇文章教给大家如何快速部署一套Kubernetes集群。K8S集群部署有几种方式：kubeadm、minikube和二进制包。前两者属于自动部署，简化部署操作，并且minikube只是单机测试，而kubeadm还是beta版，强烈推荐初学者使用二进制包部署，因为自动部署屏蔽了很多细节，使得对各个模块感知很少，非常不利用学习。所以，这篇文章也是使用二进制包部署Kubernetes集...

文章 2024-04-24 来自：开发者社区

Kubernetes(K8S v1.1版本) 集群管理Docker容器之部署篇

文章标签dockerkubernetesk8s文章分类集群服务器阅读数10000+ 什么是Kubernetes？ Kubernetes是Google开源的容器集群管理系统，实现基于Docker构建容器，利用Kubernetes能很方面管理多台Docker主机中的容器。主要功能如下： 1）将多台Docker主机抽象为一个资源，以集群方式管理容器，包括任务调度、资源...

文章 2018-08-25 来自：开发者社区

Kubernetes(k8s)集群部署（k8s企业级Docker容器集群管理）系列之部署master/node节点组件（四）

0、前言整体架构目录：ASP.NET Core分布式项目实战-目录 k8s架构目录：Kubernetes(k8s)集群部署（k8s企业级Docker容器集群管理）系列目录 1、部署master组件 master 服务器的组件有：kube-apiserver、kube-controller-manager、kube-scheduler 因此需要下载k8s master，下...

文章 2018-08-21 来自：开发者社区

Kubernetes(k8s)集群部署（k8s企业级Docker容器集群管理）系列之flanneld网络介绍及部署（三）

0、前言整体架构目录：ASP.NET Core分布式项目实战-目录 k8s架构目录：Kubernetes(k8s)集群部署（k8s企业级Docker容器集群管理）系列目录一、flanneld介绍 flannel是CoreOS提供用于解决Dokcer集群跨主机通讯的覆盖网络工具。它的主要思路是：预先留出一个网段，每个主机使用其中一部分，然后每个容器被分配不...