阿里云文档 2024-11-04

基于ModelScope模型库和GPU实例闲置计费功能低成本快速搭建LLM应用

LLM(Large Language Model)是指大型语言模型,是一种采用深度学习技术训练的具有大量参数的自然语言处理模型。您可以基于ModelScope模型库和函数计算GPU实例的闲置计费功能低成本快速搭建LLM应用实现智能问答。

阿里云文档 2024-08-13

在ACK中快速体验大语言模型

部署模型时,您可以根据自身需求选择模型来源以及部署模型的平台。本文以Qwen1.5-4B-Chat模型、GPU类型为T4卡为例,演示如何在ACK中快速部署ModelScope模型、HuggingFace模型及本地模型。

问答 2024-07-30 来自:开发者社区

ModelScope可以在线调用embedding模型 不加载到本地吗?

ModelScope可以在线调用embedding模型 不加载到本地吗?

问答 2024-07-30 来自:开发者社区

ModelScope微调后的模型,如何合并权重,以及合并后的权重,如何加载?

ModelScope微调后的模型,如何合并权重,以及合并后的权重,如何加载?

问答 2024-07-23 来自:开发者社区

用ModelScope中官方的文本相似性的structbert模型的例子时,加载数据集报编码错误?

请问用ModelScope中官方的文本相似性的structbert模型的例子时,加载数据集报编码错误,utf-8解析不了数据集,怎么解决?

问答 2024-05-25 来自:开发者社区

请问modelscope模型加载的默认精度是什么?

"请问modelscope模型加载的默认精度是什么?"

问答 2024-05-21 来自:开发者社区

ModelScope中实现模型的加载和推理,并注册到pipeline中,可以实现吗?

"可以利用原来的图片质量检测的pipeline的py代码,自己重写一个相似的pipeline文件,ModelScope中实现模型的加载和推理,并注册到pipeline中,可以实现吗? "

问答 2024-05-15 来自:开发者社区

ModelScope中搭建demo的时候还是出现模型加载失败 ?

"ModelScope中,其他平台训练的代码按照文档 https://modelscope.cn/docs/%E5%9F%BA%E4%BA%8Emodelhub%E6%B3%A8%E5%86%8C%E7%8B%AC%E7%AB%8Brepo%E7%A4%BA%E4%BE%8B 在ms_wrapper.py的目录下 在这几行代码前面加一下 import ms_wrapper 用这个接口可以调...

问答 2024-05-08 来自:开发者社区

魔搭创空间使用vllm,如何不从modelscope下载模型而是加载本地上传的模型

我在魔搭的创空间里部署了一个模型,并使用了正常的vllm来加载模型,但是他每次都会从modelscope里下载模型,但我已经在创空间里上传了模型,我希望他可以直接加载本地模型,该怎么设置参数

问答 2024-04-24 来自:开发者社区

Modelscope中,seqGPT微调模型如何在python环境加载使用?

" Modelscope中,使用infer.sh在notebooke环境可以正常推理, seqGPT微调模型如何在python环境加载使用?"

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐