阿里云文档 2025-03-19

基于ACK部署DeepSeek蒸馏模型推理服务

本文介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。

阿里云文档 2025-03-17

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户,包括创建、修改和删除账户及用户的方法,并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量,从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理,本文介绍如何使用云原生AI套件开发控制台进行模型管理。

阿里云文档 2025-03-03

基于ComfyUI编排文生图workflow

ComfyUI是一款开源的图形化AI工作流工具,专注于简化生成式模型(如Stable Diffusion)的开发和部署流程。其基于节点化设计,您可通过拖放模块快速搭建图像生成、文本处理等复杂流程,支持本地与云端部署。本文将介绍如何基于阿里云产品完成ComfyUI的本地安装,包括环境配置、依赖安装及基础使用等步骤。

文章 2024-11-16 来自:开发者社区

深入云原生:Kubernetes 集群部署与管理实践

在当今这个信息爆炸的时代,企业对于IT系统的要求越来越高,他们需要的是能够快速响应市场变化、易于扩展和维护的系统。云原生技术,特别是基于容器的解决方案如Kubernetes,提供了这样的能力。Kubernetes不仅能够自动化应用程序的部署、扩展和管理,还能保证应用的高可用性和负载均衡。 首先,我们需要准备适合K...

文章 2024-09-18 来自:开发者社区

深入云原生技术:Kubernetes集群部署与管理

随着云计算技术的不断演进,云原生(Cloud Native)已经成为现代软件开发的重要趋势。云原生指的是一类特殊的应用,这些应用从设计之初就考虑到了云环境,能够充分利用云平台的特性,如弹性、分布式和自动化。而Kubernetes,作为一个开源的容器编排系统,已经变成了云原生应用部署和管...

文章 2024-09-07 来自:开发者社区

云原生入门:Kubernetes 集群部署与管理

在当今这个信息技术飞速发展的时代,云计算已经成为企业数字化转型的重要推动力。云原生,作为一种新兴的架构模式,它倡导在云环境中构建和运行应用程序,以达到最大化资源利用率、提升系统弹性、加快迭代速度等目的。而Kubernetes,作为云原生生态中的核心组件,已经成为容器编排的事实标准。 1. Kubernetes简介...

文章 2024-08-31 来自:开发者社区

探索云原生:Kubernetes集群的部署与管理

在当今快速发展的软件行业中,云原生技术因其灵活性、可扩展性和弹性而成为热门话题。Kubernetes,作为云原生生态系统中的佼佼者,提供了一个强大的平台,用于自动化容器化应用程序的部署、扩展和管理。现在,就让我们一起走进Kubernetes的世界,探索如何在实际的云环境中部署和管理一个Kubernetes集群。 ...

文章 2024-08-28 来自:开发者社区

云原生之旅:Kubernetes集群部署与应用管理

随着云计算技术的飞速发展,云原生(Cloud Native)已经成为现代软件开发的重要趋势。云原生指的是一套利用云计算交付模型的优势来构建和运行应用程序的方法。在这个背景下,Kubernetes作为一个开源的容器编排系统,成为了云原生生态中不可或缺的一员。本文将带你了解如何部署Kubernetes集群,并在其上运...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云云原生

关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践

+关注