阿里云文档 2025-04-08

ACCL:阿里云自研高性能集合通信库

ACCL(Alibaba Collective Communication Library)是阿里云自研的,基于NCCL(Nvidia Collective Communication Library)开发的集合通信库。它结合阿里云自身网络特点以及丰富的大模型任务通信调优经验,可为客户任务提供更高的通信性能,并且具备一定的故障诊断和自愈能力。本文为您介绍ACCL的主要特性和安装方法。

阿里云文档 2025-03-28

Chat With Web Search应用流

本文详细介绍了如何使用LangStudio构建“Chat With Web Search”应用流。该应用流通过集成阿里云信息查询服务的实时搜索功能,为模型提供了额外的联网搜索能力,从而在处理用户输入的问题时,能够结合实时搜索结果提供更准确的回答。开发者可以基于该模板进行灵活扩展和二次开发,以满足特定场景的需求。

阿里云文档 2025-02-17

通过阿里云 Milvus 与 PAI LangStudio快速搭建DeepSeek RAG解决方案

大语言模型通常缺乏企业私有数据或实时信息的支持,而检索增强生成(RAG, Retrieval-Augmented Generation)技术能够通过检索企业私有知识库,将相关信息以上下文形式提供给大语言模型,从而显著提升其回答的准确性与相关性。本文基于阿里云的人工智能平台PAI LangStudio,结合阿里云向量检索Milvus版的强大能力,并以DeepSeek-R1-Distill模型为例,为...

阿里云文档 2024-11-27

通过阿里云Milvus与PAI构建大模型RAG对话系统

阿里云Milvus现已无缝集成于阿里云PAI平台,一站式赋能用户构建高性能的RAG(Retrieval-Augmented Generation)对话系统。您可以利用Milvus作为向量数据的实时存储与检索核心,高效结合PAI和LangChain技术栈,实现从理论到实践的快速转化,搭建起功能强大的RAG解决方案。

问答 2024-10-29 来自:开发者社区

在阿里云PAI-DSW完成微调的大模型,通过EAS部署为AI-web应用,如何开放为公网web应用

在阿里云PAI-DSW完成微调的大模型,通过EAS部署为AI-web应用,目前能通过自己的机器访问该web页面,但是其他IP提示需登录验证ram用户,该web应用下也提示“同一主账号下的子账号均可查看应用”。我如何讲该应用开放为公网web应用,能提供给用户在公网ip访问呢

文章 2024-07-16 来自:开发者社区

带你读《阿里云产品五月刊》——一、PAI+Llama Factory低代码微调Llama3模型

LLaMA Factory是一款开源低代码大模型微调框架,集成了业界广泛使用的微调技术,支持通过Web UI界面零代码微调大模型。本教程将基于Meta AI开源的LlaMA 3 8B模型,介绍如何使用PAI平台及LLaMA Factory训练框架完成模型的中文化与角色扮演微调和评估。 准备环境和资源 ∙ 创建工作空间,具体操作,请参见创建工作空间。 ∙ 创建DSW实例,其...

带你读《阿里云产品五月刊》——一、PAI+Llama Factory低代码微调Llama3模型
文章 2024-01-11 来自:开发者社区

Mixtral 8X7B MoE模型在阿里云PAI平台的微调部署实践

1.引言Mixtral 8x7B 是Mixtral AI最新发布的大语言模型,在许多基准测试上表现优于 GPT-3.5,是当前最为先进的开源大语言模型之一。阿里云人工智能平台PAI是面向开发者和企业的机器学习/深度学习平台,提供了对于 Mixtral 8x7B 模型的全面支持,开发者和企业用户可以基于 PAI-快速开始(PAI-QuickStart)轻松完成Mixtral 8x7B 模型的微调和....

Mixtral 8X7B MoE模型在阿里云PAI平台的微调部署实践

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

人工智能平台PAI

人工智能平台 PAI(Platform for AI,原机器学习平台PAI)是面向开发者和企业的机器学习/深度学习工程平台,提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务,内置140+种优化算法,具备丰富的行业场景插件,为用户提供低门槛、高性能的云原生AI工程化能力。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等