阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-20

采集自建K8s集群文本日志(DaemonSet方式部署LoongCollector)

本文介绍如何通过DaemonSet方式部署LoongCollector采集自建K8s集群文本日志的流程。

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-04

通过Sidecar方式采集集群日志(阿里云ACK集群和自建Kubernetes集群)

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志,两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过Sidecar方式采集K8s集群文本日志。

阿里云文档 2025-02-27

如何通过DaemonSet方式部署LoongCollector采集ACK集群文本日志

本文介绍如何通过DaemonSet方式部署LoongCollector采集阿里云ACK集群文本日志的流程。

问答 2024-11-14 来自:开发者社区

阿里云EDAS-Kubernetes部署elasticsearch:8.15.4镜像启动报错原因

在阿里云上使用企业级分布式应用服务EDAS创建应用的时候选择Kubernetes集群-自定义应用选择elasticsearch官网拉取的elasticsearch:8.15.4镜像部署应用时,启动报错{"@timestamp":"2024-11-12T02:00:15.778Z", "log.level":"ERROR", "message":"fatal exception while boo....

问答 2024-08-05 来自:开发者社区

在云效中k8s云效部署的时候构建镜像和推送镜像报这个错误,如何解决?

在云效中k8s云效部署的时候构建镜像和推送镜像报这个错误,如何解决?请参考图片:

问答 2024-07-17 来自:开发者社区

Higress 前端有自己打包成 k8s 部署的镜像文档吗?

Higress 前端有自己打包成 k8s 部署的镜像文档吗?https://github.com/higress-group/higress-console

问答 2024-06-25 来自:开发者社区

容器服务ACK里部署镜像,只能用 ACR 里的吗?

容器服务ACK里部署镜像,只能用 ACR 里的吗?

问答 2024-06-09 来自:开发者社区

容器服务Kubernetes的重新部署是重启还是从镜像重新拉取

容器服务Kubernetes的重新部署是重启还是从镜像重新拉取

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像