文章 2025-03-02 来自:开发者社区

Serverless GPU:助力 AI 推理加速

本文整理自 2024 云栖大会,阿里云智能集团高级技术专家聂大鹏、NVIDIA 解决方案架构师金国强演讲议题《Serverless GPU:助力 AI 推理加速》 近年来,AI 技术发展迅猛,企业纷纷寻求将 AI 能力转化为商业价值,然而,在部署 AI 模型推理服务时,却遭遇成本高昂、弹性不足及运维复杂等挑战。本文将探讨云原生 Serverless GPU 如何从根本上解决这些...

Serverless GPU:助力 AI 推理加速
文章 2024-07-29 来自:开发者社区

函数计算产品使用问题之怎么使用Serverless Devs创建GPU函数

问题一:函数计算fc创建应用,代码仓库不能用coding吗? 函数计算fc创建应用,代码仓库不能用coding吗? 参考回答: 腾讯云函数都不支持coding,要自己写流水线 关于本问题的更多回答可点击原文查看: https://developer.aliyun.com/ask/596785 问题二:函数计算FC中这个...

问答 2024-06-19 来自:开发者社区

函数计算FC通过Serverless API方式需要多少资源(如GPU、内存)来支持10个并发任务?

函数计算FC通过Serverless API 方式 需要多少资源(如GPU、内存)来支持10个并发任务?

问答 2024-06-15 来自:开发者社区

函数计算中如何使用Serverless Devs工具创建GPU函数

函数计算中如何使用Serverless Devs工具创建GPU函数

问答 2024-06-14 来自:开发者社区

Serverless应用引擎GPU

Serverless应用引擎GPU

文章 2024-06-11 来自:开发者社区

Serverless 应用引擎产品使用合集之函数实例运行期间相关的依赖资源(vcpu、临时磁盘、GPU)是否会随函数运行完毕而释放

问题一:在阿里函数计算里可以创建comfyui吗?怎么找不到入口安装?还有用完sd 需要停止操作吗? 在阿里函数计算里可以创建comfyui吗?怎么找不到入口安装?还有用完sd 需要停止操作吗? 参考回答: 如您暂时不需要使用Stable Diffusion应用生成图片,请及时删除对应资源。如您需要长期使用Stable Diffusion应用,请忽略此...

文章 2024-06-11 来自:开发者社区

Serverless 应用引擎操作报错合集之使用自定义镜像部署GPU服务时,报错 "CPU is required but not provided",是什么导致的

问题一:函数计算里为什么我的函数不提示错误,但是一直运行超时啊? 函数计算里为什么我的函数不提示错误,但是一直运行超时啊? 参考回答: 在阿里云函数计算(FC)中,如果你的函数没有提示错误但是一直运...

Serverless 应用引擎操作报错合集之使用自定义镜像部署GPU服务时,报错
问答 2024-06-10 来自:开发者社区

函数计算serverless哪里设置gpu,能跑大模型吗?

函数计算serverless哪里设置gpu,能跑大模型吗?

文章 2024-04-28 来自:开发者社区

Serverless 应用引擎产品使用之在阿里云函数计算中使用包含GPU的实例并且镜像超过10GB了如何解决

问题一:阿里函数计算中用gpu的实例的时候 我们镜像超过10G了,有什么解决方案呢? 阿里函数计算中用gpu的实例的时候 我们镜像超过10G了,有什么解决方案呢? 参考回答: gpu是15G镜像哈 模型建议您放nas里。 关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/571996...

Serverless 应用引擎产品使用之在阿里云函数计算中使用包含GPU的实例并且镜像超过10GB了如何解决
问答 2023-12-20 来自:开发者社区

Serverless 应用引擎支持GPU么?我这边有一个服务需要用到GPU去计算业务

Serverless 应用引擎支持GPU么?我这边有一个服务需要用到GPU去计算业务

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

做技术先进、性能优异、稳如磐石的弹性计算!

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问