容器服务Kubernetes版部署实战的相关内容

阿里云文档 2025-04-03

通过Sidecar方式采集集群日志（阿里云ACK集群和自建Kubernetes集群）

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志，两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过Sidecar方式采集K8s集群文本日志。

阿里云文档 2025-04-01

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题，您可以通过ACK Edge集群管理本地IDC的GPU机器，并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行，当本地IDC GPU资源不足时，任务将自动调度至云上的ACS Serverless GPU，满足业务扩展需求的同时降低成本。

文章 2025-02-28 来自：开发者社区

大道至简-基于ACK的Deepseek满血版分布式推理部署实战

本文是基于阿里云容器服务产品ACK，部署Deepseek大语言模型推理服务系列文章的第二篇。将介绍如何在Kubernetes管理的GPU集群中，快速部署多机分布式Deepseek-R1 671B（“满血版”）推理服务。并集成Dify应用，构建一个简单的Deepseek问答助手。关于如何在ACK部署Deepseek“蒸馏版”模型推理服务，可以参考本系列第一篇文章《基于ACK的DeepSeek蒸馏模....

阿里云文档 2025-02-27

如何通过DaemonSet方式部署LoongCollector采集ACK集群文本日志

本文介绍如何通过DaemonSet方式部署LoongCollector采集阿里云ACK集群文本日志的流程。

文章 2025-02-18 来自：开发者社区

阿里云ACK+GitLab企业级部署实战教程

**免责声明：**本服务由第三方提供，我们尽力确保其安全性、准确性和可靠性，但无法保证其完全免于故障、中断、错误或攻击。因此，本公司在此声明：对于本服务的内容、准确性、完整性、可靠性、适用性以及及时性不作任何陈述、保证或承诺，不对您使用本服务所产生的任何直接或间接的损失或损害承担任何责任；对于您通过本服务访问的第三方网站、应用程序、产品和服务，不对其内容、准确性、完整性、可靠性、适用性以及及时性....

文章 2025-02-13 来自：开发者社区

大道至简-基于ACK的Deepseek满血版分布式推理部署实战

【阅读原文】戳：大道至简-基于ACK的Deepseek满血版分布式推理部署实战本文是基于阿里云容器服务产品ACK，部署Deepseek大语言模型推理服务系列文章的第二篇。将介绍如何在Kubernetes管理的GPU集群中，快速部署多机分布式Deepseek-R1 671B（“满血版”）推理服务。并集成Dify应用，构建一个简单的Deepseek问答助手。关于如何在A...

文章 2024-11-21 来自：开发者社区

Kubernetes集群管理和服务部署实战

核心思想：本文深入讲解了Kubernetes集群的管理和服务部署，帮助读者掌握Kubernetes的核心功能。目标受众：DevOps工程师、系统管理员，对容器编排有需求。主要内容： Kubernetes的基本概念和工作原理搭建和管理Kubernetes集群（使用Minikube或kubeadm）...

文章 2024-09-03 来自：开发者社区