阿里云文档 2025-04-21

本地部署通义千问QwQ-32B模型

通义千问QwQ-32B是阿里云开源的320亿参数推理模型,通过大规模强化学习在数学推理、编程及通用任务中实现性能突破,支持消费级显卡本地部署,兼顾高效推理与低资源消耗。本文将介绍如何利用vLLM作为通义千问QwQ-32B模型的推理框架,在一台阿里云GPU实例上构建通义千问QwQ-32B的推理服务。

阿里云文档 2025-04-16

双机分布式部署满血版Deepseek模型

DeepSeek-V3/R1是一个具有超过600亿参数的专家混合(MoE)模型,且已开源其模型权重。本文将介绍如何利用vllm作为DeepSeek模型的推理框架,在两台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置,即可实现开箱即用。

阿里云文档 2025-04-15

双机分布式部署满血版Deepseek模型

DeepSeek-V3/R1是一个具有超过600亿参数的专家混合(MoE)模型,且已开源其模型权重。本文将介绍如何利用vllm作为DeepSeek模型的推理框架,在两台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置,即可实现开箱即用。

阿里云文档 2025-04-08

本地单机部署满血版DeepSeek模型

DeepSeek-V3/R1是一个具有超过600亿参数的专家混合(MoE)模型,且已开源其模型权重。本文将介绍如何利用SGLang作为DeepSeek模型的推理框架,在一台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置,即可实现开箱即用。

阿里云文档 2025-03-18

如何本地部署DeepSeek

DeepSeek-V3/R1是拥有600B以上参数量的专家混合(MoE)模型,并已经开源了模型权重。本文为您介绍在GPU实例上部署DeepSeek-R1蒸馏模型推理服务。

问答 2024-08-21 来自:开发者社区

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么?

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么?

问答 2024-08-21 来自:开发者社区

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么?

modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么?

问答 2024-08-07 来自:开发者社区

modelscope-funasr使用gpu转写服务部署指南,asr模型还是会需要导出为onnx吗?

modelscope-funasr使用gpu版本的离线文件转写服务部署指南,asr模型还是会需要导出为onnx吗?不可以直接使用pt吗?

问答 2024-08-07 来自:开发者社区

modelscope-funasr的这个gpu模型有没有onnx的?

modelscope-funasr的这个gpu模型有没有onnx的?root@54ffe0aeb853:/workspace/models/damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-pytorch# du -sh *20K README.md12K am.mvn4.0K ...

问答 2024-07-31 来自:开发者社区

modelscope-funasr中文离线转写服务GPU版本,如何指定pytorch模型和版本呢?

modelscope-funasr中文离线转写服务GPU版本,如何指定pytorch模型和版本呢?我在命令行启动的时候把模型名后缀修改成pytorch,貌似代码还是在读取onnx量化后的模型

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注