阿里云文档 2025-06-04

基于异构机密计算实例构建支持安全度量的大语言模型推理环境

随着大语言模型技术的普及,越来越多的企业开始尝试利用该技术来提升业务能力。因此,如何安全的管理模型及用户数据变得尤为重要,本文介绍基于异构机密计算实例构建支持安全度量大语言模型推理环境的最佳实践。

阿里云文档 2025-05-28

在GPU实例上部署Qwen3-235B-A22B

本文介绍如何在阿里云GPU实例上快速、便捷地构建Qwen3-235B-A22B的推理环境。您无需深入了解底层硬件,也无需额外配置,即可实现开箱即用。本文分别使用VLLM和SGLang作为Qwen3-235B-A22B模型的推理框架。

文章 2025-05-14 来自:开发者社区

阿里云服务器X86/ARM/GPU/裸金属/超算五大架构技术特点、场景适配参考

在云计算技术飞速发展的当下,云计算已经渗透到各个行业,成为企业数字化转型的关键驱动力。选择合适的云服务器架构对于提升业务效率、降低成本至关重要。阿里云提供了多样化的云服务器架构选择,包括X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器以及高性能计算等。本文将深入解析这些架构的特点、优势及适用场景,以供大家了解和选择参考。...

阿里云服务器X86/ARM/GPU/裸金属/超算五大架构技术特点、场景适配参考
阿里云文档 2025-04-21

本地部署通义千问QwQ-32B模型

通义千问QwQ-32B是阿里云开源的320亿参数推理模型,通过大规模强化学习在数学推理、编程及通用任务中实现性能突破,支持消费级显卡本地部署,兼顾高效推理与低资源消耗。本文将介绍如何利用vLLM作为通义千问QwQ-32B模型的推理框架,在一台阿里云GPU实例上构建通义千问QwQ-32B的推理服务。

阿里云文档 2025-04-08

本地单机部署满血版DeepSeek模型

DeepSeek-V3/R1是一个具有超过600亿参数的专家混合(MoE)模型,且已开源其模型权重。本文将介绍如何利用SGLang作为DeepSeek模型的推理框架,在一台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置,即可实现开箱即用。

阿里云文档 2025-03-26

通过docker run --gpus all [镜像名称]启动容器镜像时出现docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].报错

在GPU云服务器上安装Docker环境后,如果未安装NVIDIA Container Toolkit,通过docker run --gpus all [镜像名称]启动容器镜像时,可能会出现docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]报错,本文为您介绍这...

文章 2024-11-28 来自:开发者社区

阿里云服务器架构有啥区别?X86计算、Arm、GPU异构、裸金属和高性能计算对比

阿里云服务器ECS架构有什么区别?X86计算、Arm计算、GPU/FPGA/ASIC、弹性裸金属服务器和高性能计算有什么区别?x86架构是最常见的,CPU采用Intel或AMD处理器;ARM架构具有低功耗的特性,CPU采用Ampere Altra / AltraMax或阿里自研倚天710处理器;GPU异构计算&#...

阿里云服务器架构有啥区别?X86计算、Arm、GPU异构、裸金属和高性能计算对比
文章 2024-10-09 来自:开发者社区

阿里云服务器计算架构X86/ARM/GPU/FPGA/ASIC/裸金属/超级计算集群有啥区别?

阿里云服务器计算架构X86/ARM/GPU/FPGA/ASIC/裸金属/超级计算集群有啥区别?阿里云服务器架构有什么区别?X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、超级计算集群有什么区别?x86架构是最常见的,CPU采用Intel或AMD处理器;ARM架构具有低功耗的特性,CPU采用A...

阿里云服务器计算架构X86/ARM/GPU/FPGA/ASIC/裸金属/超级计算集群有啥区别?
文章 2023-07-16 来自:开发者社区

阿里云服务器架构X86、ARM、GPU/FPGA、裸金属、超级计算详解

阿里云服务器架构有什么区别?X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、超级计算集群有什么区别?阿里云服务器网分享云服务器ECS架构详细说明: 阿里云服务器ECS架构说明 详细参考ECS官方页面:https://www.aliyun.com/product/ecs X86计算 X86计算架构特性:X...

阿里云服务器架构X86、ARM、GPU/FPGA、裸金属、超级计算详解
文章 2023-07-09 来自:开发者社区

阿里云服务器架构GPU和裸金属服务器有什么区别?

阿里云服务器架构有什么区别?X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、超级计算集群有什么区别?阿里云服务器网分享云服务器ECS架构详细说明: 阿里云服务器ECS架构说明 X86计算 X86计算架构特性:X86计算架构是最常见的,适合大部分的上云场景,像通用算力型u1、计算型c7、通用型g7、共享型s6实例等都是X86计算,CPU采用Intel处理器,企业级x...

阿里云服务器架构GPU和裸金属服务器有什么区别?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注