阿里云文档 2025-05-21

基于异构机密计算实例构建安全大语言模型推理环境

随着大语言模型技术的普及,企业对推理过程中的数据安全问题日益关注。本文将介绍如何基于阿里云异构机密计算实例及Confidential AI方案(以下简称CAI),快速构建安全的大语言模型推理环境。

阿里云文档 2025-04-25

基于异构机密计算实例构建支持安全度量的大语言模型推理环境

随着大语言模型技术的普及,越来越多的企业开始尝试利用该技术来提升业务能力。因此,如何安全的管理模型及用户数据变得尤为重要,本文介绍基于异构机密计算实例构建支持安全度量大语言模型推理环境的最佳实践。

阿里云文档 2025-04-21

本地部署通义千问QwQ-32B模型

通义千问QwQ-32B是阿里云开源的320亿参数推理模型,通过大规模强化学习在数学推理、编程及通用任务中实现性能突破,支持消费级显卡本地部署,兼顾高效推理与低资源消耗。本文将介绍如何利用vLLM作为通义千问QwQ-32B模型的推理框架,在一台阿里云GPU实例上构建通义千问QwQ-32B的推理服务。

阿里云文档 2025-04-08

本地单机部署满血版DeepSeek模型

DeepSeek-V3/R1是一个具有超过600亿参数的专家混合(MoE)模型,且已开源其模型权重。本文将介绍如何利用SGLang作为DeepSeek模型的推理框架,在一台ebmgn8v实例上构建DeepSeek-V3/R1的推理服务。您无需进行额外配置,即可实现开箱即用。

阿里云文档 2025-03-26

通过docker run --gpus all [镜像名称]启动容器镜像时出现docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]].报错

在GPU云服务器上安装Docker环境后,如果未安装NVIDIA Container Toolkit,通过docker run --gpus all [镜像名称]启动容器镜像时,可能会出现docker: Error response from daemon: could not select device driver "" with capabilities: [[gpu]]报错,本文为您介绍这...

文章 2022-05-28 来自:开发者社区

阿里云GPU云服务器抢占式实例大幅度降低GPU云服务器实例成本

深度学习科学计算等应用场景首选GPU云服务器,但是GPU服务器硬件成本高,让很多开发者望而却步,云服务器吧建议大家可以选择阿里云GPU云服务器竞价型实例,现在竞价型实例已经改名为抢占式实例,阿里云推出竞价型GPU云服务器,极大程度的降低成本提高计算能力,使GPU成为强大的技术云助力产品:   阿里云GPU云服务器抢占式实例 科学计算、AI深度学习、视频渲染转码等应用场景适用GPU服务器再...

文章 2022-02-27 来自:开发者社区

阿里云GPU云服务器抢占式实例大幅度降低GPU云服务器实例成本

深度学习科学计算等应用场景首选GPU云服务器,但是GPU服务器硬件成本高,让很多开发者望而却步,云服务器吧建议大家可以选择阿里云GPU云服务器竞价型实例,现在竞价型实例已经改名为抢占式实例,阿里云推出竞价型GPU云服务器,极大程度的降低成本提高计算能力,使GPU成为强大的技术云助力产品:   阿里云GPU云服务器抢占式实例 科学计算、AI深度学习、视频渲染转码等应用场景适用GPU服务器再...

文章 2022-02-12 来自:开发者社区

阿里云GPU云服务器抢占式实例大幅度降低GPU云服务器实例成本

深度学习科学计算等应用场景首选GPU云服务器,但是GPU服务器硬件成本高,让很多开发者望而却步,云服务器吧建议大家可以选择阿里云GPU云服务器竞价型实例,现在竞价型实例已经改名为抢占式实例,阿里云推出竞价型GPU云服务器,极大程度的降低成本提高计算能力,使GPU成为强大的技术云助力产品:   阿里云GPU云服务器抢占式实例 科学计算、AI深度学习、视频渲染转码等应用场景适用GPU服务器再...

文章 2021-12-25 来自:开发者社区

阿里云GPU云服务器抢占式实例大幅度降低GPU云服务器实例成本

深度学习科学计算等应用场景首选GPU云服务器,但是GPU服务器硬件成本高,让很多开发者望而却步,云服务器吧建议大家可以选择阿里云GPU云服务器竞价型实例,现在竞价型实例已经改名为抢占式实例,阿里云推出竞价型GPU云服务器,极大程度的降低成本提高计算能力,使GPU成为强大的技术云助力产品:   阿里云GPU云服务器抢占式实例 科学计算、AI深度学习、视频渲染转码等应用场景适用GPU服务器再...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等