基于ACK多机分布式部署DeepSeek满血版推理部署实战
本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...
《2023云原生实战案例集》——01 汽车/制造——小鹏汽车 基于云原生实现研发提效,加速探索未来出行
客户简介小鹏汽车成立于2014年,是一家专注未来出行的科技公司。一直坚持饱和式研发投入, 构建全栈自研的核心能力,今天小鹏汽车已经成为中国领先的智能电动汽车公司之一。客户痛点数据处理链路复杂:自动驾驶车联网数据链路长且数据增长快,因此数据时效性要求自动驾驶AI服务资源利用率低:缺乏有效的AI模型GPU训练和推理优化。可观测系统不完善:前端Web和后端服务缺乏有效的监控和分析,同时自建....

《2023云原生实战案例集》——01 汽车/制造——东风日产 借力ASM实现流量精细化管控
客户简介东风日产数据服务有限公司(以下简称东风日产)成立于2014年,拥有员工800余人, 是汽车全价值链数据服务供应商。专注为东风日产、东风启辰等品牌提供数营服务、销 售服务、客户服务、商城运营服务,全渠道数据价值挖掘分析及应用。客户痛点成本控制难:除了能够自动按需提供环境,还需要增量式部署以节省服务器资源,控 制服务器资源成本等问题。生产环境灰度复杂度高:需要对7层流量进行精细化....

《2023云原生实战案例集》——01 汽车/制造——元戎启行 基于ACK@Edge加速云端协同管理
客户简介深圳元戎启行科技有限公司是一家专注于研发和应用L4级自动驾驶技术的科技公司, 拥有自动驾驶乘用车〃元启行'‘和自动驾驶轻卡〃元启运"两大产品,覆盖量产汽车、 Robotaxi出行、轻卡运力三条业务线。其中,Robotaxi出行搭载元戎启行自研L4级自 动驾驶解决方案,通过自营车队和合作运营的模式落地。元戎启行L4级自动驾驶前装 方案车队已投入运营,为乘客提供城市出行服务。客户....

《2023云原生实战案例集》——01 汽车/制造——VIVO AI计算平台的ACK One混合云实践
客户简介vivo是一家以设计驱动创造产品/以智能终端和智慧服务为核心的科技公司。客户痛点•资源交付周期长:此前使用自建机房/新增资源的采购流程复杂/周期长/无法及时 响应业务临时的大量算力需求,例如大规模参数模型的训练和在线服务的节假日活动 扩容。同时由于服务器供应链形势严峻,网卡、硬盘、GPU卡等硬件设备都缺货/采 购交付存在较大风险。•需要更高性能的基础设施:AI计算平台对网络、....

《2023云原生实战案例集》——01 汽车/制造——TCL 拥抱云原生,实现IT成本治理优化
客户简介TCL创立于1981年,总部设于中国广东省惠州市,目前已形成TCL实业和TCL科技两 大主体,布局智能终端、半导体显示、新能源光伏三大核心产业,成长为一家具有全球 竞争力的智能科技产业集团。TCL目前拥有13万名员工,在全球布局43个研发中心和 32个制造基地,业务遍及160多个国家和地区,全球累计服务用户超9.6亿。客户痛点整体资源利用率较低,成本洞察粒度不足,无法驱动策略....

《2023云原生实战案例集》——01 汽车/制造——传音 基于ARMS构建全球一体化可观测平台,高效支撑业务创新
客户简介作为"非洲手机之王",传音从事以手机为核心的智能终端的设计、研发、生产、销售 和品牌运营,是新兴市场消费者喜爱的智能终端产品和移动互联服务提供商。据IDC报 告显示2021年占据非洲智能手机出货量的47.9%。传音移动互联广告平台是传音控股 的重要业务之一,是非洲最为主流的营销平台之一。客户痛点在技术架构方面,传音控股采用Spring Cloud进行全面微服务化,应用运行在阿....

《2023云原生实战案例集》——01 汽车/制造——云快充 云原生稳定性建设之路
客户简介云快充成立于2016年,以充电服务和能源管理为核心,业务涵盖九个方向。截止到 2022年11月,业务覆盖370个城市,接入电桩运营商7400人,接入充电终端31万家, 与640个桩企达成合作。客户痛点为确保业务的稳定性运行,自2019年起,云快充采用百分百容器化技术指路线。然后, 在容器化改造的过程中,云快充遇到了两个挑战:自建Kubernetes集成维护困难:Kuberne....

《2023云原生实战案例集》——01 汽车/制造——SKG未来穿戴 基于SAE打通CI/CD流程,实现高效运维
SKG未来穿戴是一家专注于高端健康产品的研发、设计与制造的企业。专注为消费者提 供精致、时尚的高端产品,以及极致的按摩仪产品体验。随着市场需求的迅速变化, SKG的IT系统也逐渐面临着库存不准确、线上线下渠道无法协同、部署架构不灵活、IT 响应速度过慢等问题,为了能适配销售拓展、提高效率、加强规模化运营,SKG同阿里 云达成战略合作,打造基于线上线下打通,并覆盖全渠道应用场景的渠道中....

《2023云原生实战案例集》——01 汽车/制造——节卡机器人 云拨测测助力全面优化海外网站性能
客户简介作为国际领先的新一代协作型机器人企业,节卡机器人经过多年发展,与全球超过300 家自动化方案公司紧密合作,并部署逾万台机器人。这些机器人灵活高效地服务于汽车、 电子、半导体等全球知名品牌的生产线,同样也在众多商业新消费领域从事与消费者直 接接触的服务工作。客户痛点为了更好地服务全球各地客户,保证节卡机器人官网能够在全球范围内被正常浏览,成 为运营团队以及运维团队面临的主要问题。而这一问题....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
云原生更多实战相关
阿里云云原生
关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践
+关注