函数计算云服务器 ECS gpu 的相关内容

阿里云文档 2025-06-04

基于异构机密计算实例构建支持安全度量的大语言模型推理环境

随着大语言模型技术的普及，越来越多的企业开始尝试利用该技术来提升业务能力。因此，如何安全的管理模型及用户数据变得尤为重要，本文介绍基于异构机密计算实例构建支持安全度量大语言模型推理环境的最佳实践。

阿里云文档 2025-05-28

在GPU实例上部署Qwen3-235B-A22B

本文介绍如何在阿里云GPU实例上快速、便捷地构建Qwen3-235B-A22B的推理环境。您无需深入了解底层硬件，也无需额外配置，即可实现开箱即用。本文分别使用VLLM和SGLang作为Qwen3-235B-A22B模型的推理框架。

阿里云文档 2025-04-21

本地部署通义千问QwQ-32B模型

通义千问QwQ-32B是阿里云开源的320亿参数推理模型，通过大规模强化学习在数学推理、编程及通用任务中实现性能突破，支持消费级显卡本地部署，兼顾高效推理与低资源消耗。本文将介绍如何利用vLLM作为通义千问QwQ-32B模型的推理框架，在一台阿里云GPU实例上构建通义千问QwQ-32B的推理服务。

阿里云文档 2025-04-08

本地单机部署满血版DeepSeek模型

DeepSeek-V3/R1是一个具有超过600亿参数的专家混合（MoE）模型，且已开源其模型权重。本文将介绍如何利用SGLang作为DeepSeek模型的推理框架，在一台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置，即可实现开箱即用。

阿里云文档 2025-03-26

通过docker run --gpus all [镜像名称]启动容器镜像时出现docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].报错

在GPU云服务器上安装Docker环境后，如果未安装NVIDIA Container Toolkit，通过docker run --gpus all [镜像名称]启动容器镜像时，可能会出现docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]报错，本文为您介绍这...

问答 2024-01-03 来自：开发者社区