阿里云文档 2025-05-30

PAI部署模型接入AI 网关

本文主要介绍如何通过AI 网关访问部署在人工智能平台PAI 的模型。

阿里云文档 2025-05-27

BladeLLM模型量化

针对LLM模型量化,BladeLLM提供了高效易用的量化功能,包括仅权重量化(weight_only_quant)和权重激活联合量化(act_and_weight_quant),集成了若干主流有效的量化算法,如GPTQ、 AWQ、 SmoothQuant等,同时支持INT8、INT4、FP8等多种数据类型的量化。本文为您介绍如何进行模型量化操作。

阿里云文档 2025-05-27

模型量化参数配置说明

BladeLLM通过命令行语句 blade_llm_quantize 来执行模型量化操作,生成的量化模型可直接使用BladeLLM进行推理和部署。本文将为您介绍blade_llm_quantize支持的各项配置参数及其说明。

阿里云文档 2025-03-19

使用GA实现PAI-DSW跨域加速拉取海外模型或容器镜像

当您使用海外容器镜像(如:docker.io镜像)创建交互式建模 PAI-DSW实例,或者在PAI-DSW实例中拉取海外模型时(如:huggingface.co模型),可能由于网络跨域的原因无法正常访问,为解决此问题,您可以创建全球加速GA(Global Accelerator)实例,使用其提供的覆盖全球的网络加速服务,使PAI-DSW具备跨域获取模型和镜像的网络访问能力。

阿里云文档 2025-03-19

DSW跨域拉取海外模型或容器镜像

当您使用海外容器镜像(如:docker.io镜像)创建DSW实例,或者在DSW实例中拉取海外模型时(如:huggingface.co模型),可能由于网络跨域的原因无法正常访问,为解决此问题,您可以创建全球加速GA(Global Accelerator)实例,使用其提供的覆盖全球的网络加速服务,使DSW具备跨域获取模型和镜像的网络访问能力。

文章 2025-01-17 来自:开发者社区

如何看PAI产品下训练(train)模型任务的费用细节

在控制台-费用-账单详情中,如下点击:其中learn 就是PAI产品的code: 点击后等待生成文件,并且下载即可。

如何看PAI产品下训练(train)模型任务的费用细节
问答 2024-08-16 来自:开发者社区

在机器学习PAI中,训练了一个 dssm 模型,感觉负采样没有生效,这是为什么?

在机器学习PAI中,训练了一个 dssm 模型,但是 predict 概率全是 1,感觉负采样没有生效,这是为什么?

问答 2024-08-14 来自:开发者社区

机器学习PAI这边北京训练的模型使用了北京的镜像,现在要部署到张家口的EAS,拉取不到跟北京一样的镜

机器学习PAI这边北京训练的模型使用了北京的镜像,现在要部署到张家口的EAS,拉取不到跟北京一样的镜像,这个问题怎么解决啊?张家口部署是因为flink, hologres等服务都在张家口, 推理服务想离数据源近些

问答 2024-07-31 来自:开发者社区

机器学习PAI训练完的容器已经关闭了,模型文件已经保存到oss, 这里不指定模型文件路径加载啥呢?

机器学习PAI训练完的容器已经关闭了,模型文件已经保存到oss, 这里不指定模型文件路径加载啥呢?这边执行命令前面加了两个依赖包安装

问答 2024-07-25 来自:开发者社区

机器学习PAI训练模型的时候有个 tf 的报错,可以帮忙看下吗?

机器学习PAI训练模型的时候有个 tf 的报错,可以帮忙看下吗?https://logview.alibaba-inc.com/logview/?h=http://service.ali-sg-lazada.odps.aliyun-inc.com/api&p=aliexpress_ru_sg&i=20240718065351761g7w2p8tg7w6_9ab144da_61a4_...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问