AI显存的相关内容

文章 2025-04-20 来自：开发者社区

斯坦福黑科技让笔记本GPU也能玩转AI视频生成！FramePack：压缩输入帧上下文长度！仅需6GB显存即可生成高清动画

❤️ 如果你也关注 AI 的发展现状，且对 AI 应用开发感兴趣，我会每日分享大模型与 AI 领域的开源项目和应用，提供运行实例和实用教程，帮助你快速上手AI技术！ AI 在线答疑 -> 智能检索历史文章和开源项目 -> 丰富的 AI 工具库 -> 每日更新 -> 尽在微信公众号 -> 搜一搜：蚝油菜花 "设计师集体欢呼！斯坦福黑科技让笔记本GPU也能玩转A...

文章 2025-04-10 来自：开发者社区

AI Infra之模型显存管理分析

背景某线上客户部署DeepSeek-R1满血版模型，进行多次压测后，发现显存占用一直上升，从未下降，于是发出了灵魂三问： 1. 增加的显存被谁消耗？ 2. 显存增加是否会达到一个阈值后就不再增加？ 3. 如果会一直增加，有什么办法可以释放显存？在分析问题之前，必须要了解客户的环境，客户的环境如下： 1. 模型文件：...

文章 2024-08-22 来自：开发者社区

就AI 基础设施的演进与挑战问题之大模型推理中显存瓶颈的问题如何解决

问题一：在分布式训练场景下，集合通信性能会遇到什么问题？在分布式训练场景下，集合通信性能会遇到什么问题？参考回答：在分布式训练场景下，集合通信性能会遇到一些问题。例如，在张量并行的切分中，会产生AllReduce操作，这些操作夹杂在计算流中，可能导致计算中断，从而影响计算效率。关于本问题的更多回答可点击原文查看： https:/...

文章 2023-12-16 来自：开发者社区

AI PC元年会带火PC集群吗？云游戏迎来黄金时代。Stable Diffusion显存之选：12G及格，16G自由，24G上天

★Stable Diffusion；stable；diffusion；SD；stablediffussion；sadtalker；PC集群；PC Farm；PC农场；GPU集群；GAN；AI绘图；AI文生图；文生图；图生图；虚拟数字人；数字人；云游戏；AI PC；NVIDIA RTX GeForce 3070；NVIDIA RTX GeForce 3080；NVIDIA RTX GeForce ....

文章 2023-11-27 来自：开发者社区

AI绘画专栏之 SDXL 4G显存就能跑SDXL ？SD1.7或将对F8优化merge(46)

关于SDXL的生态目前还未完全稳定，但是不得不提到的就是SDXL的在VAE,CLIP,UNET三大组件的巨大提升，其101亿的参数量是原本SD的N倍，那么对于SDXL的生态介绍我们再次重复一遍。4G的显存都能跑SDXL意味着将来大模型Lora将降低其大小，炼丹炉压力更小~ 添加描述SDXL为什么强？0.1参数训练量为101亿 ...

问答 2023-09-16 来自：开发者社区

函数计算，我有几十个ai小模型想使用云函数部署显存有的几百兆有的两g多，问一下是按量还是包月划

函数计算，我有几十个ai小模型想使用云函数部署显存有的几百兆有的两g多，问一下是按量还是包月划算？我之前买了gpu服务器十六g显存只能部署十二个模型就满了不划算。

共有6条

< 1 >

跳转至： GO

更新时间 2025-04-21 12:37:50

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

AI您可能感兴趣

产品推荐

{"cardStyle":"productCardStyle","productCode":"aliyun","productCardInfo":{"productTitle":"阿里云 AI","productDescription":"从 AI 应用构建，模型部署到训练，一站式了解阿里云经典的 AI 应用场景和解决方案。","productContentLink":"https://www.aliyun.com/solution/tech-solution/ai","isDisplayProductIcon":true,"productButton1":{"productButtonText":"查看详情","productButtonLink":"https://www.aliyun.com/solution/tech-solution/ai"},"productButton2":{"productButtonText":"联系 AI 专家","productButtonLink":"https://page.aliyun.com/form/act933288178/index.htm?spm=5176.29311086.J_RY_4Q8--sru4dMV7o3lqS.2.22ec5297YL7w86"},"productButton3":{"productButtonText":"立即体验","productButtonLink":"https://bailian.console.aliyun.com/?spm=5176.28326591.0.0.56136ee1bpor89#/efm/model_experience_center"},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"热门体验","productPromotionInfoFirstText":"文生文应用","productPromotionInfoFirstLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.1.22ec52978mJi5p#/home","productPromotionInfoSecondText":"文生图应用","productPromotionInfoSecondLink":"https://bailian.console.aliyun.com/?spm=5176.29311086.J__xR9sQs7AmaTHLBTgN3VS.2.22ec52978mJi5p#/efm/model_experience_center?modelId=wanx-v1"},{"$id":"1","productPromotionGroupingTitle":"热门产品","productPromotionInfoFirstText":"大模型服务平台百炼","productPromotionInfoFirstLink":"https://www.aliyun.com/product/bailian","productPromotionInfoSecondText":"人工智能平台 PAI","productPromotionInfoSecondLink":"https://www.aliyun.com/product/bigdata/learn"},{"$id":"2","productPromotionGroupingTitle":"技术解决方案","productPromotionInfoFirstText":"向量检索与通义千问搭建专属问答服务","productPromotionInfoFirstLink":"https://www.aliyun.com/solution/tech-solution/dashvector","productPromotionInfoSecondText":"创意加速器：AI 绘画创作","productPromotionInfoSecondLink":"https://www.aliyun.com/solution/tech-solution/tongyi-wanxiang"},{"$id":"3","productPromotionGroupingTitle":"热门模型","productPromotionInfoFirstText":"通义千问","productPromotionInfoFirstLink":"https://tongyi.aliyun.com","productPromotionInfoSecondText":"通义万相","productPromotionInfoSecondLink":"https://tongyi.aliyun.com/wanxiang"}],"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock","activityPromotionInfoBlock":[]}}

阿里云 AI

从 AI 应用构建，模型部署到训练，一站式了解阿里云经典的 AI 应用场景和解决方案。

热门体验

文生文应用文生图应用

热门产品

大模型服务平台百炼人工智能平台 PAI

技术解决方案

向量检索与通义千问搭建专属问答服务创意加速器：AI 绘画创作

热门模型

通义千问通义万相

阿里云机器学习平台PAI

阿里云机器学习PAI（Platform of Artificial Intelligence）面向企业及开发者，提供轻量化、高性价比的云原生机器学习平台，涵盖PAI-iTAG智能标注平台、PAI-Designer（原Studio）可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台，支持千亿特征、万亿样本规模加速训练，百余落地场景，全面提升工程效率。

+关注