基于ACK多机分布式部署DeepSeek满血版推理部署实战
本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...
如何进行SQL调优(下推更多计算和增加索引)
找出需调优的慢SQL后,先通过EXPLAIN查看执行计划,然后通过如下方法优化SQL:下推更多计算至存储层MySQL,适当增加索引,优化执行计划。
《2023云原生实战案例集》——04 互联网——新东方 基于函数计算实现直播流实时转码
客户简介新东方教育科技集团定位于以学生全面成长为核心,以科技为驱动力的综合性教育集团。 新东方线上教育业务的云教室系统支持了视频直播、转码、点播等新东方所有在线教育 场景。随着业务量的增大,由于直播转录及视频转码任务处理平台具有明显的波峰波谷 特性,自建机房较低的资源利用率成为了业务的核心痛点。客户需求直播+录播是新东方主推的课程交付模式。新东方开始对接大学生线上教育业务,对录播 课....

《2023云原生实战案例集》——04 互联网——Salesforce 容器化改造,成功落地安全可信软件供应链
客户简介SaLesforce是一家提供云计算服务的软件公司,专门从事客户关系管理。Salesforce的 服务可以让企业利用云技术更好地与客户、合作伙伴和潜在客户进行连接。客户痛点在进行容器化交付改造的过程中,需要解决云原生场景下的软件供应链风险挑战,主要 包括环境复杂化、多样化等问题。• 三方及开源组件带来的安全隐患:企业软件项目越来越依赖于来自供应商、三方或开 源社区的组件。这些组件常以基础....

《2023云原生实战案例集》——04 互联网——鱼传科技 基于函数计算高性价比地支持了一个日活50W+的小程序
客户简介深圳鱼传科技有限公司是专注以精准营销和互联网生态产品运营为核心的综合互联网营 销推广服务商。通过整合全网优质媒体资源,并结合智能数据模型和AI标签算法,向企 业提供包括流量矩阵搭建运营、媒介流量采买、投放模型设计、产品营销策划、数据监 控分析、效果运营等多层次服务。客户痛点• 突增流量问题:"多多有礼”是公司旗下一款主打互动领奖的小程序,目前已经积累 了百万日活的规模。为了抗....

《2023云原生实战案例集》——04 互联网——南瓜电影 基于SAE 7天内全面Serverless化实践
客户简介南瓜电影成立于2015年,是国内近两年发展非常迅速的流媒体平台,凭借着无广告、 纯付费的商业模式,在影迷圈中打响了一定的知名度;之后又靠着很强的社区互动性(AI智能推荐、影评互动、通过放映厅实现线上"云观影”等),迅速完成会员增长及 流媒体市场占位;接下来将逐渐往多元化视频平台发展:如纪录片、各类自制节目等。客户痛点南瓜电影底层使用阿里云ECS,基础设施、中间件、数据库、大数....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
云原生更多实战相关
阿里云云原生
关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践
+关注