企业级部署容器服务Kubernetes版的相关内容

阿里云文档 2025-03-20

采集自建K8s集群文本日志（DaemonSet方式部署LoongCollector）

本文介绍如何通过DaemonSet方式部署LoongCollector采集自建K8s集群文本日志的流程。

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题，您可以通过ACK Edge集群管理本地IDC的GPU机器，并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行，当本地IDC GPU资源不足时，任务将自动调度至云上的ACS Serverless GPU，满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-17

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-04

通过Sidecar方式采集集群日志（阿里云ACK集群和自建Kubernetes集群）

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志，两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过Sidecar方式采集K8s集群文本日志。

文章 2025-02-28 来自：开发者社区

企业级LLM推理部署新范式：基于ACK的DeepSeek蒸馏模型生产环境落地指南

DeepSeek凭借其出色的推理表现在春节期间火爆全网，本文重点介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。背景介绍 1. DeepSeek R1模型 DeepSeek-R1[1]模型是DeepSeek推出的第一代推理模型，旨在通过大规模强化学习提升大语言模型的推理能力。实验结果表明，Deep...

阿里云文档 2025-02-27

如何通过DaemonSet方式部署LoongCollector采集ACK集群文本日志

本文介绍如何通过DaemonSet方式部署LoongCollector采集阿里云ACK集群文本日志的流程。

文章 2025-02-08 来自：开发者社区

企业级LLM推理部署新范式：基于ACK的DeepSeek蒸馏模型生产环境落地指南

【阅读原文】戳：企业级LLM推理部署新范式：基于ACK的DeepSeek蒸馏模型生产环境落地指南 DeepSeek凭借其出色的推理表现在春节期间火爆全网，本文重点介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。背景介绍 ...

文章 2024-07-08 来自：开发者社区

企业级容器部署实战：基于ACK与ALB灵活构建云原生应用架构

前言在信息化浪潮的不断推进下，企业IT架构面临的挑战日益严峻。传统架构的局限性，诸如僵化的资源分配、复杂的运维流程、缓慢的迭代速度，以及高昂的扩展成本，已逐渐成为制约业务敏捷性与创新力的瓶颈。随着云计算技术的蓬勃发展，云原生架构以其革命性的设计理念，为这些问题提供了一剂良方，迅速在全球范围内掀起了一场技术变革的风暴。云原生架构之所以能够蔚然成风，核心在于其对软件开发、部署及运维模式的根本...