使用vLLM容器镜像分布式部署满血版DeepSeek-R1
AC2(Alibaba Cloud AI Containers )是阿里云官方推出的一系列AI容器镜像的合集。通过内置多种硬件加速库、AI运行时和AI框架等满足了您在不同场景的部署需求。同时,AC2与Alibaba Cloud Linux操作系统深度集成,显著提升系统的性能。本文将介绍以Alibaba Cloud Linux 3作为操作系统,运行AC2维护的vLLM容器镜像,采用多机多卡的方式进行...
Alibaba Cloud Linux 3 容器优化版
Alibaba Cloud Linux 3 容器优化版是基于 Alibaba Cloud Linux 默认标准镜像针对容器场景进行优化的镜像版本。针对容器场景更高业务部署密度、更快启动速度、更高安全隔离诉求等特点,阿里云结合容器服务 Kubernetes 版中海量客户实战经验,推出自研云原生操作系统 Alibaba Cloud Linux 3 容器优化版镜像。您可以使用本镜像进行容器化业务部署。
Alibaba Cloud Linux 3系统中使用GPU进行加速的容器启动后,容器内无法使用GPU的解决方案
本文介绍了Alibaba Cloud Linux 3系统中使用GPU进行加速的容器启动后,容器内无法使用GPU的原因及解决方案。
Alibaba Cloud Linux 3中容器里的内存使用高于宿主机系统中的内存
Alibaba Cloud Linux 3系统中,通过free命令查看容器里的内存使用高于宿主机系统中的内存。本文介绍这种情况的可能原因和解决方案。
使用NVIDIA GPU部署AI容器镜像Qwen-7B-Chat
本文聊天机器人为例,介绍如何使用Alibaba Cloud AI Containers(简称AC2)提供的AI容器镜像在NVIDIA GPU上部署通义千问Qwen-7B-Chat。背景信息通义千问-7B(Qwen-7B)是阿里云研发的通义千问大模型系列的70亿参数规模模型。Qwen-7B是基于Tra...
开箱即用!Linux 内核首个原生支持,让你的容器体验飞起来!| 龙蜥技术
作者:高性能存储 SIG容器化是最近几年 devops 界流行的趋势,通过业务的容器化我们将创建一个完全打包、自包含的计算环境,让软件开发人员能够更加快速地创建和部署自己的应用程序。然而长期以来,由于镜像格式的限制,容器启动镜像的加载是很慢的,相关背景细节可以参考“容器技术之容器镜像篇”。为了加速容器的启动,我们可以将优化后的容器镜像搭配 P2P 网络等技术,从而有效降低容器部署启动的时间,并可....

一文解读 Linux 主线内核首个原生支持容器镜像分发方案
容器化是最近几年 DevOps 界流行的趋势,通过业务的容器化我们将创建一个完全打包、自包含的计算环境,让软件开发人员能够更加快速地创建和部署自己的应用程序。然而长期以来,由于镜像格式的限制,容器启动镜像的加载是很慢的(相关背景细节可以参考“容器技术之容器镜像篇”)。为了加速容器的启动,我们可以将优化后的容器镜像搭配 P2P 网络等技术,从而有效降低容器部署启动的时间,并可保障容器持续稳定运行。....

开箱即用!Linux 内核首个原生支持,让你的容器体验飞起来!| 龙蜥技术
文/阿里云内核存储团队,龙蜥社区高性能存储技术 SIG 成员容器化是最近几年 DevOps 界流行的趋势,通过业务的容器化我们将创建一个完全打包、自包含的计算环境,让软件开发人员能够更加快速地创建和部署自己的应用程序。然而长期以来,由于镜像格式的限制,容器启动镜像的加载是很慢的(相关背景细节可以参考“容器技术之容器镜像篇”)。为了加速容器的启动,我们可以将优化后的容器镜像搭配 P2P 网络等技术....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
Linux宝库