阿里云文档 2025-04-08

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

文章 2018-07-12 来自:开发者社区

ZooKeeper分布式入门实战(三)-基本特性

1 zookeeper常用命令行操作 2 session的基本原理与create命令的使用 临时节点自动删除,根据心跳机制 先 Ctrl+C 断开连接 再重连 已经无 tmp 临时目录 创建顺序节点 3 set与dele...

文章 2018-07-12 来自:开发者社区

ZooKeeper分布式入门实战(二)-ZooKeeper基本数据模型

1 zk数据模型介绍 一 二 2 zk客户端连接关闭服务端,查看znode 重启 zk 启动 zkCli.sh 客户端服务 help 一些命令 Ctrl+C退出服务 3 zookeeper的作用体现

文章 2018-06-05 来自:开发者社区

ZooKeeper分布式入门实战(一)-基本安装配置等

1.1 zookeeper 简介 中间件,提供协调服务 作用于分布式系统,发挥其优势,可以为大数据服务 支持 Java, 提供 Java 和 C语言的客户端 API 1.2 什么是分布式系统 很多台计算机组成一个整体,一个整体一致对外并且处理同一请求 内部的每台计算机都可以相互通信(REST/RPC) 客户端到服务端的一次请求到响应结束会经历多台计算机 1.3 分布式系统的瓶颈 1.3....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云分布式应用服务

企业级分布式应用服务 EDAS(Enterprise Distributed Application Service)是应用全生命周期管理和监控的一站式PaaS平台,支持部署于 Kubernetes/ECS,无侵入支持Java/Go/Python/PHP/.NetCore 等多语言应用的发布运行和服务治理 ,Java支持Spring Cloud、Apache Dubbo近五年所有版本,多语言应用一键开启Service Mesh。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问