阿里云文档 2025-04-27

使用PAI Python SDK训练和部署PyTorch模型

PAI Python SDK提供了更易用的HighLevel API,支持您在PAI完成模型的训练和部署。本文介绍如何使用PAI Python SDK训练和部署PyTorch模型。

阿里云文档 2025-03-04

如何使用Rapidformer优化PyTorch版的Transformer模型训练

PAI-Rapidformer提供了丰富的模型训练加速方法,您只需要安装Rapidformer专属镜像,即可通过黑盒或者白盒化的方式对模型训练进行优化。本文为您介绍如何使用Rapidformer优化PyTorch版的Transformer模型训练。

阿里云文档 2023-12-22

使用Pai-Megatron-Patch优化PyTorch版Transformer模型训练

本文介绍如何使用Pai-Megatron-Patch优化PyTorch版Transformer模型训练。

阿里云文档 2023-09-26

如何使用Python脚本通过EAIS(内置AIACC-Training 2.0加速库)训练PyTorch模型?_弹性加速计算实例(EAIS)

EAIS实例成功绑定至ECS实例后,您需要远程登录该ECS实例,然后使用EAIS实例进行AI训练。本文为您介绍使用Python脚本通过EAIS实例(内置AIACC-Training 2.0加速库)训练PyTorch模型的具体操作。

阿里云文档 2023-09-26

如何使用EAIS训练PyTorch模型?

EAIS实例成功绑定至ECS实例后,您需要远程登录该ECS实例,然后使用EAIS实例训练PyTorch模型。本文为您介绍使用EAIS训练PyTorch模型的具体操作。

文章 2023-07-31 来自:开发者社区

PyTorch 中的多 GPU 训练和梯度累积作为替代方案

动动发财的小手,点个赞吧! 在本文中,我们将首先了解数据并行(DP)和分布式数据并行(DDP)算法之间的差异,然后我们将解释什么是梯度累积(GA),最后展示 DDP 和 GA 在 PyTorch 中的实现方式以及它们如何导致相同的结果。 简介 ...

文章 2023-05-16 来自:开发者社区

PyTorch宣布支持苹果M1芯片GPU加速:训练快6倍,推理提升21倍

今年 3 月,苹果发布了其自研 M1 芯片的最终型号 M1 Ultra,它由 1140 亿个晶体管组成,是有史以来个人计算机中最大的数字。苹果宣称只需 1/3 的功耗,M1 Ultra 就可以实现比桌面级 GPU RTX 3090 更高的性能。随着用户数量的增长,人们已经逐渐接受使用 M1 芯片的计算机,但作为一款 Arm 架构芯片,还有人在担心部分任务的兼容性问题。昨天,通过与苹果 Metal....

PyTorch宣布支持苹果M1芯片GPU加速:训练快6倍,推理提升21倍
文章 2023-05-08 来自:开发者社区

【Pytorch神经网络实战案例】01 CIFAR-10数据集:Pytorch使用GPU训练CNN模版-方法①

import torch import torchvision from torch import nn from torch.utils.tensorboard import SummaryWriter from torch.utils.data import DataLoader # 取消全局证书验证(当项目对安全性问题不太重视时,推荐使用,可以全局取消证书的验证,简易方便) import ....

文章 2023-05-08 来自:开发者社区

【Pytorch神经网络实战案例】03 CIFAR-10数据集:Pytorch使用GPU训练CNN模版-测试方法

import torch import torchvision from PIL import Image from torch import nn image_path="./test_img/dog.png" image=Image.open(image_path) print(image) #size=406x479 所以需要转换 # png格式是四个通道,除了RGB三通道外,还有一个透明....

文章 2023-02-01 来自:开发者社区

在 PyTorch 中使用梯度检查点在GPU 上训练更大的模型

作为机器学习从业者,我们经常会遇到这样的情况,想要训练一个比较大的模型,而 GPU 却因为内存不足而无法训练它。当我们在出于安全原因不允许在云计算的环境中工作时,这个问题经常会出现。在这样的环境中,我们无法足够快地扩展或切换到功能强大的硬件并训练模型。并且由于梯度下降算法的性质,通常较大的批次在大多数模型中会产生更好的结果,但在大多数情况下,由于内存限制,我们必须使用适应GPU显存的批次大小。本....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

相关镜像