阿里云文档 2024-11-04

基于ModelScope模型库和GPU实例闲置计费功能低成本快速搭建LLM应用

LLM(Large Language Model)是指大型语言模型,是一种采用深度学习技术训练的具有大量参数的自然语言处理模型。您可以基于ModelScope模型库和函数计算GPU实例的闲置计费功能低成本快速搭建LLM应用实现智能问答。

阿里云文档 2024-11-04

基于ModelScope模型库和GPU实例闲置计费功能低成本构建Google Gemma服务

Google在2024年02月21日正式推出了首个开源模型族Gemma,并同时上架了2b和7b两个版本。您可以使用函数计算的GPU实例以及函数计算的闲置模式低成本快速部署Gemma模型服务。

问答 2024-08-28 来自:开发者社区

modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu?

modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu?设置device='cuda:1'模型在cuda 0之外的gpu上面做推理就会出现 RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:1 and cuda:0

阿里云文档 2024-08-13

在ACK中快速体验大语言模型

部署模型时,您可以根据自身需求选择模型来源以及部署模型的平台。本文以Qwen1.5-4B-Chat模型、GPU类型为T4卡为例,演示如何在ACK中快速部署ModelScope模型、HuggingFace模型及本地模型。

问答 2024-04-02 来自:开发者社区

按照modelscope中的案例设置模型路径无法调用,如何在pipeline中使用训练后的模型呢?

添加了数据集进行微调训练后,得到了如下结果,但是按照modelscope中的案例设置模型路径无法调用,如何在pipeline中使用训练后的模型呢?

文章 2024-03-27 来自:开发者社区

在ModelScope中,你可以通过设置模型的参数来控制输出的阈值

在ModelScope中,你可以通过设置模型的参数来控制输出的阈值。例如,对于分类模型,你可以设置阈值来决定哪些类别是阳性的,哪些类别是阴性的。 在你的例子中,你正在使用一个基于DeBERTa的命名实体识别模型。这个模型的输出是一个包含命名实体及其类别的列表。你可以通过设置阈值来决定哪些实体被认为是重要的,哪些实...

问答 2024-03-13 来自:开发者社区

在modelscope-funasr怎么设置保存的最大的模型个数?

在modelscope-funasr怎么设置保存的最大的模型个数?

问答 2024-03-06 来自:开发者社区

使用modelscope-funasr框架组合时能设置说话人模型判断的阈值吗?

使用modelscope-funasr框架组合damo/speech_campplus_sv_zh-cn_16k-common的时候,能设置说话人模型判断的阈值吗?

问答 2024-02-28 来自:开发者社区

在modelscope-funasr怎么设置语言模型得分高一点 声学模型得分低一点?

在modelscope-funasr怎么设置语言模型得分高一点 声学模型得分低一点?

阿里云文档 2024-01-23

通过ModelScope开源Embedding模型将文本转换为向量

本文介绍如何通过ModelScope魔搭社区中的文本向量开源模型将文本转换为向量,并入库至向量检索服务DashVector中进行向量检索。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐