阿里云文档 2025-04-08

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 第四章第6讲 实验四:流水线部署

企业级运维之云原生与Kubernetes实战课程第四章第6讲 实验四:流水线部署 视频地址:https://developer.aliyun.com/learning/course/913/detail/14610 一、 实验概述 1.  实验简介 本实验通过在ack集群上部署jenkins,来实现一键式自动拉取github仓库上的代码,编译、构....

企业级运维之云原生与Kubernetes实战课程 第四章第6讲 实验四:流水线部署
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第四章第5讲 ACK集群故障处理与疑难处置

企业级运维之云原生与Kubernetes实战课程第四章第5讲 ACK集群故障处理与疑难处置 视频地址:https://developer.aliyun.com/learning/course/913/detail/14609 一、存储疑难与故障 1.   在存储方面,常见的问题及可能的原因如下: a.  Pod挂载不上云盘云盘卷是非共享....

企业级运维之云原生与Kubernetes实战课程 - 第四章第5讲 ACK集群故障处理与疑难处置
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第四章第4讲 ACK集群弹性伸缩

企业级运维之云原生与Kubernetes实战课程第四章第4讲 ACK集群弹性伸缩  视频地址:https://developer.aliyun.com/learning/course/913/detail/14608  一、 弹性伸缩概述 1.  集群弹性伸缩 弹性伸缩是根据业务需求和策略,经济地自动调整弹性计算资源的管理服务....

企业级运维之云原生与Kubernetes实战课程 - 第四章第4讲 ACK集群弹性伸缩
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第四章第3讲 ACK集群节点管理

企业级运维之云原生与Kubernetes实战课程第四章第3讲 ACK集群节点管理  视频地址:https://developer.aliyun.com/learning/course/913/detail/14568  一、 集群节点管理概述 1.  场景需求: a.  场景一:云节点负载高、节点内核夯住; ...

企业级运维之云原生与Kubernetes实战课程 - 第四章第3讲 ACK集群节点管理
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第四章第2讲 ACK集群升级

企业级运维之云原生与Kubernetes实战课程第四章第2讲 ACK集群升级  视频地址:https://developer.aliyun.com/learning/course/913/detail/14566  一、 ACK集群升级流程 1.  集群升级难点 随着社区K8s版本的不断演进,新的版本有着更为先进的新特性、更加....

企业级运维之云原生与Kubernetes实战课程 - 第四章第2讲 ACK集群升级
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第四章第1讲 ACK集群权限管理

企业级运维之云原生与Kubernetes实战课程第四章 ACK集群管理  视频地址https://developer.aliyun.com/learning/course/913/detail/14564 本章目标 熟悉集群的RAM权限以及集群的RBAC权限、学会如何管理集群权限以及集群组件获取RAM权限的原理;了解集群升级的原理,以及如何定位集群升级失败....

企业级运维之云原生与Kubernetes实战课程 - 第四章第1讲 ACK集群权限管理
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第三章第6讲 实验三:灰度发布

企业级运维之云原生与Kubernetes实战课程第三章第6讲 实验三:灰度发布 视频地址:https://developer.aliyun.com/learning/course/913/detail/14607 一、实验概述 通过ingress实现灰度发布,实现权重灰度和根据header灰度。 二、涉及实验资源 1.  ACK托管版集....

企业级运维之云原生与Kubernetes实战课程 - 第三章第6讲 实验三:灰度发布
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 第三章第5讲 阿里云ACK集群网络

企业级运维之云原生与Kubernetes实战课程第三章第5讲 阿里云ACK集群网络 视频地址:https://developer.aliyun.com/learning/course/913/detail/14606 目录 一、 Flannel网络二、 Terway网络三、 CoreDNS四、 最佳实践 在ACK中,可以通过两种网络模式实现容器网络能力,分....

企业级运维之云原生与Kubernetes实战课程 第三章第5讲 阿里云ACK集群网络
文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 第三章第4讲 阿里云ACK集群控制器

企业级运维之云原生与Kubernetes实战课程第三章第4讲 阿里云ACK集群控制器  视频地址:https://developer.aliyun.com/learning/course/913/detail/14605 目录 控制器列表kube-controller-managercloud-controller-managerkube-proxy最佳实....

企业级运维之云原生与Kubernetes实战课程 第三章第4讲 阿里云ACK集群控制器

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注