阿里云文档 2025-03-19

基于ACK部署DeepSeek蒸馏模型推理服务

本文介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。

阿里云文档 2025-03-17

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户,包括创建、修改和删除账户及用户的方法,并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量,从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理,本文介绍如何使用云原生AI套件开发控制台进行模型管理。

阿里云文档 2025-03-03

基于ComfyUI编排文生图workflow

ComfyUI是一款开源的图形化AI工作流工具,专注于简化生成式模型(如Stable Diffusion)的开发和部署流程。其基于节点化设计,您可通过拖放模块快速搭建图像生成、文本处理等复杂流程,支持本地与云端部署。本文将介绍如何基于阿里云产品完成ComfyUI的本地安装,包括环境配置、依赖安装及基础使用等步骤。

文章 2022-11-14 来自:开发者社区

【云原生Kubernetes系列第一篇】深入理解容器集群管理系统Kubernetes(k8s)原理(相遇的意义在于彼此照亮)

前言单机容器编排:docker-compose容器集群编排docker swarm、mesos+marathon、kubernetes应用编排:ansible一、Kubernetes 是什么?Kubernetes 是的缩写为:K8s这个缩写是因为 k 和 s 之间有八个字符的关系。Kubernetes 是一个可移植的、可扩展的开源平台,用于管理容器化的工作负载和服务,可促进声明式配置和自动化。 ....

【云原生Kubernetes系列第一篇】深入理解容器集群管理系统Kubernetes(k8s)原理(相遇的意义在于彼此照亮)
文章 2022-10-11 来自:开发者社区

《云原生-Kubernetes篇》深入剖析Kubernetes中pod的原理

正文本文是《云原生-k8s-深入剖析k8s》学习笔记的第二篇,主要解析pod的意义及其使用方法。pod,是k8s中最小的API对象,是原子调度单位。是超亲密关系容器之间组织和部署的单位。类比地说,pod就是虚拟机,其中的容器就是这个虚拟机里面运行的用户进程。pod中的所有容器共享network、volume、IP地址,在pod启动的时候,需要先启动一个Infra中间容器,而其它容器都是通过joi....

文章 2022-07-12 来自:开发者社区

企业级运维之云原生与Kubernetes实战课程 - 第三章 Kubernetes集群原理深度解析

企业级运维之云原生与Kubernetes实战课程第三章 Kubernetes集群原理深度解析  本章目标 理解容器和pod的基本原理以及差异理解pod创建的过程理解各个控制器的作用理解ack集群的网络原理以及coredns的原理 本章目录 深入剖析linux容器&Pod集群创建Pod的过程阿里云ACK集群控制器阿里云ACK集群网络&...

企业级运维之云原生与Kubernetes实战课程 - 第三章 Kubernetes集群原理深度解析
文章 2022-05-07 来自:开发者社区

【云驻共创】华为云云原生之Kubernetes网络架构原理深度剖析(下)

前言上一篇文章大家了解了kubernetes容器网络和Service的基本模型Kubernetes基本网络模型剖析Service基本网络模型剖析华为云CCE Yantse网络方案和架构剖析本文主要介绍Ingress Controller机制剖析CNI接口机制与插件实现原理云原生网络最佳实践与典型问题案例一、Ingress Controller机制剖析1.Ingress API接口模型与演进Ing....

【云驻共创】华为云云原生之Kubernetes网络架构原理深度剖析(下)
文章 2022-05-07 来自:开发者社区

【云驻共创】华为云云原生之Kubernetes网络架构原理深度剖析(上)

前言kubernetes网络和服务的概念与使用场景主要有以下两点:Service概念及使用场景Ingress概念及使用场景本文主要介绍Kubernetes工作负载POD之间的互通、负载均衡等网络功能是如何实现的kubernetes容器网络模型,Service负载均衡机制、CNI接口的实现原理以及若干实践案例一、Kubernetes诞生背景1.云原生的概念云原生是基于分布部署和统一运管的分布式云 ....

【云驻共创】华为云云原生之Kubernetes网络架构原理深度剖析(上)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云云原生

关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践

+关注