阿里云文档 2025-02-13

使用DeepNCCL加速模型的分布式训练或推理性能

DeepNCCL是阿里云神龙异构产品开发的用于多GPU互联的AI通信加速库,能够无感地加速基于NCCL进行通信算子调用的分布式训练或多卡推理等任务。开发人员可以根据实际业务情况,在不同的GPU云服务器上安装DeepNCCL通信库,以加速分布式训练或推理性能。本文主要介绍在Ubuntu或CentOS操作系统的GPU实例上安装和使用DeepNCCL的操作方法。

阿里云文档 2024-09-20

如何训练GPT-2模型并生成文本

本文介绍如何使用GPU云服务器,使用Megatron-DeepSpeed框架训练GPT-2模型并生成文本。

阿里云文档 2024-05-27

安装和使用Deepytorch Training提升训练加速能力

Deepytorch Training是阿里云自研的AI加速器,面向传统AI和生成式AI场景,在模型训练过程中,可提供显著的训练加速能力。本文主要介绍安装并使用Deepytorch Training的操作方法。

阿里云文档 2024-05-16

Deepytorch Training(训练加速)介绍、优势及特性

Deepytorch Training是阿里云自研的AI训练加速器,为传统AI和生成式AI场景提供训练加速功能。本文主要介绍Deepytorch Training在训练加速上的概念、优势及特性等。

阿里云文档 2023-09-13

如何读取MaxCompute训练EasyRec模型_EMR on ECS_开源大数据平台 E-MapReduce(EMR)

本文为您介绍如何在Data Science集群读取MaxCompute的数据,进行EasyRec模型训练。

文章 2022-02-17 来自:开发者社区

阿里云ECS七天进阶训练计划day3–SLB负载均衡实践

一、云服务器状态确认 1.点击左侧导航栏处的 云产品资源,查看 云服务器ECS-1 和 云服务器ECS-2 的相关信息。 2.打开浏览器,在输入框中输入 云产品资源 提供的 云服务器ECS-1 的 弹性IP ,页面如下图: 3.打开新的窗口,输入 云服务器ECS-2 的 弹性IP ,访问页面如下: 4.比较两台ECS的访问结果,发现部署的网站内容相同,只是显示的后端服务器IP不同 tips:...

阿里云ECS七天进阶训练计划day3–SLB负载均衡实践
文章 2022-02-17 来自:开发者社区

ECS七天训练营进阶班 第二天 SLB负载均衡实践

第三天 SLB负载均衡实践 目标 拥有大量用户的企业,经常会面临如下的难题:在高并发的情况下,经常会导致服务器响应速度慢,严重的情况会直接导致服务器停止服务。此时,会导致企业的业务中断,影响客户的正常访问。 本场景通过使用阿里云负载均衡SLB以及对负载均衡SLB后端服务器ECS的权重进行修改,可以快速解决上述的问题。 背景知识 阿里云负载均衡 简介 负载均衡(Server Load Bala...

ECS七天训练营进阶班 第二天 SLB负载均衡实践
文章 2022-02-17 来自:开发者社区

阿里云ECS7天训练营-Day3 SLB负载均衡

准备 阿里云ECS两台及以上 阿里云SLB负载均衡 背景知识 负载均衡(Server Load Balancer)是将访问流量根据转发策略分发到后端多台云服务器(ECS实例)的流量分发控制服务。负载均衡扩展了应用的服务能力,增强了应用的可用性。 负载均衡通过设置虚拟服务地址,将添加的ECS实例虚拟成一个高性能、高可用的应用服务池,并根据转发规则,将来自客户端的请求分发给云服务器池中的ECS实...

阿里云ECS7天训练营-Day3 SLB负载均衡
文章 2022-02-17 来自:开发者社区

ECS七天训练营进阶班 DAY3 ECS+SLB 负载均衡实践

1 云服务器状态确认 比较两台ECS的访问结果,发现部署的网站内容相同,只是显示的后端服务器IP不同。 2 负载均衡配置 登录阿里云管理控制台。 在 弹性计算 条目下选择 负载均衡,配置负载均衡的 监听端口、后端服务器 和 健康检查 : 1)在 协议&监听 页面,输入如下信息,完成后,点击 下一步 。 负载均衡协议:选择 HTTP监听端口:设为 80高级配置保持默认 2)在 后端服务器 ....

ECS七天训练营进阶班 DAY3 ECS+SLB 负载均衡实践
文章 2022-02-17 来自:开发者社区

阿里云ECS七天训练营-SLB负载均衡

负载均衡群集(Load Balance Cluster):以提高应用系统的影响能力,尽可能处理更多的访问请求,减少延迟为目标,获得高并发、高负载(LB) 的整体性能。例如,“DNS轮询”、“应用层交换”“反响代理”等都可用做负载均衡群集,LB 的负载分配依赖于主节点的分流算法,将来自客户机的访问请求分担给多个服务器节点,从而缓解整个系统的负载压力高可用群集(High Availability C....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问