阿里云文档 2025-05-27

模型量化参数配置说明

BladeLLM通过命令行语句 blade_llm_quantize 来执行模型量化操作,生成的量化模型可直接使用BladeLLM进行推理和部署。本文将为您介绍blade_llm_quantize支持的各项配置参数及其说明。

阿里云文档 2025-05-23

使用HTTP接口调用服务相关参数说明

BladeLLM服务端提供了兼容OpenAI /v1/completions和/v1/chat/completions的接口,支持客户端通过向/v1/completions或/v1/chat/completions路径发送HTTP POST请求调用服务。本文将介绍调用服务支持配置的参数说明以及返回结果的参数说明。

阿里云文档 2025-05-23

服务部署参数配置说明

在使用BladeLLM引擎部署服务时,通过命令行语句blade_llm_server来启动服务。本文将为您介绍blade_llm_server支持的各项配置参数及其说明。

阿里云文档 2025-03-05

Llama2-7B全参数微调

本方案使用阿里云DSW对Llama-2-7B-Chat模型进行全参数微调。DSW是一款交互式建模平台,适合需要定制化微调模型并追求优化效果的开发者。

阿里云文档 2024-11-28

Manifest参数说明

通过OpenAPI创建Pipeline时,需要构造一个Manifest对象作为参数。本文介绍Manifest格式和相关示例。

问答 2023-12-10 来自:开发者社区

机器学习PAI 1、求问-Dcluster参数设置建议,使用PAI命令行时,查看训练信息的路径?

机器学习PAI1、求问-Dcluster参数设置建议,目前在测试案例数据的multiTower模型,PS节点一直是running状态,数据集链接【https://tianchi.aliyun.com/dataset/56】2、以及使用PAI命令行时,查看训练信息的路径![932401b461d06665916aed572a87c7a5.png](https://ucc.alicdn.com/pi....

问答 2023-05-01 来自:开发者社区

你好,麻烦问下机器学习PAI-命令方式训练LR模型,在哪可以查询LR模型训练好的参数呢 PAI -n

你好,麻烦问下机器学习PAI-命令方式训练LR模型,在哪可以查询LR模型训练好的参数呢 PAI -name logisticregression_binary -project algo_public -DmodelName="xlab_m_logistic_regression_6096" -DregularizedLevel="1" -DmaxIter="100" -Dregularized....

问答 2023-04-03 来自:开发者社区

想问下ModelScope训练的话 这个报错要怎么设置参数呢? 在PAI平台

GPT3Trainer: GPT3ForTextGeneration: CUDA out of memory. Tried to allocate 100.00 MiB (GPU 0; 22.20 GiB total capacity; 5.90 GiB already allocated; 70.12 MiB free; 5.90 GiB reserved in total by PyTorc....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问