阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-20

采集自建K8s集群文本日志(DaemonSet方式部署LoongCollector)

本文介绍如何通过DaemonSet方式部署LoongCollector采集自建K8s集群文本日志的流程。

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-04

通过Sidecar方式采集集群日志(阿里云ACK集群和自建Kubernetes集群)

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志,两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过Sidecar方式采集K8s集群文本日志。

阿里云文档 2025-02-27

如何通过DaemonSet方式部署LoongCollector采集ACK集群文本日志

本文介绍如何通过DaemonSet方式部署LoongCollector采集阿里云ACK集群文本日志的流程。

文章 2024-08-24 来自:开发者社区

在K8S中,Kubernetes常见的部署方式有哪些?

在Kubernetes(K8s)中,常见的部署方式多种多样,每种方式都有其特定的适用场景和优势。以下是几种常见的Kubernetes部署方式: 1. 基于二进制文件的部署方式 特点: 需要手动下载和安装Kubernetes的各个组件,包括kube-apiserver、kube-controller-manager、kube-scheduler、kubelet、...

文章 2022-06-13 来自:开发者社区

yarn和k8s(kubernetes)混合部署初步方案(利用cgroup资源限制)

版本yarn 2.6.0k8s v1.15.2背景随着k8s的越来越火热以及k8s的可扩展以及自修复优势,k8s势必是互联网的优势,但是很大一部分公司的资源管理工具依旧是yarn,而且yarn和k8s也必然并行很久一段时间,但是由于yarn的隔离型相对于k8s来说还是很弱的,好在yarn 2.6.0版本也集成了LinuxContainerExecutor(默认是DefaultContainerE....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像