阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2023-09-03

如何通过日志服务完成Kubernetes监控与分析_日志服务(SLS)

本视频介绍如何通过日志服务完成Kubernetes监控与分析。

文章 2021-12-11 来自:开发者社区

k8s容器云架构之dubbo微服务—K8S(14)监控实战-grafana出图_alert告警

k8s监控实战-grafana出图_alert告警目录k8s监控实战-grafana出图_alert告警1 使用炫酷的grafana出图1.1 部署grafana1.1.1 准备镜像1.1.2 准备rbac资源清单1.1.3 准备dp资源清单1.1.4 准备svc资源清单1.1.5 准备ingress资源清单1.1.6 域名解析1.1.7 应用资源配置清单1.2 使用grafana出图1.2.1....

k8s容器云架构之dubbo微服务—K8S(14)监控实战-grafana出图_alert告警
文章 2021-12-11 来自:开发者社区

k8s容器云架构之dubbo微服务— K8S(12)配置中心实战-多环境交付apollo三组件

k8s配置中心实战-多环境交付apollo三组件目录k8s配置中心实战-多环境交付apollo三组件1.环境准备工作1.1 zk环境拆分1.2 namespace分环境1.3 数据库拆分1.3.1 修改初始化脚本并导入1.3.2 修改数据库中eureka地址1.4 变动原有资源配置启动1.4.1 修改portal的cm资源配置清单1.4.2 任意节点应用修改2 部署新环境的APOLLO服务2.1....

k8s容器云架构之dubbo微服务— K8S(12)配置中心实战-多环境交付apollo三组件

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等