文章 2025-05-28 来自:开发者社区

阿里云人工智能平台 PAI 开源 EasyDistill 框架助力大语言模型轻松瘦身

前言 知识蒸馏是一种将大模型的知识转移到小模型的方法,其核心思想是在不显著降低性能的前提下,通过训练将复杂的模型转化为更小、更高效的版本。通过这种方式,知识蒸馏不仅能够有效降低计算成本,还能够提高模型在资源受限环境中的适应性,从而为大规模应用提供可能。在此背景下,阿里云人工智能平台(PAI)推出了一款新的开源工具包——EasyDistill ,旨在简化大型语言模型的知识蒸馏过程,助力参数...

阿里云人工智能平台 PAI 开源 EasyDistill 框架助力大语言模型轻松瘦身
阿里云文档 2025-04-24

Chat With Web Search应用流

本文详细介绍了如何使用LangStudio构建“IQS联网搜索聊天助手”应用流。该应用流通过集成阿里云信息查询服务的实时搜索功能,为模型提供了额外的联网搜索能力,从而在处理用户输入的问题时,能够结合实时搜索结果提供更准确的回答。开发者可以基于该模板进行灵活扩展和二次开发,以满足特定场景的需求。

阿里云文档 2025-04-22

ACCL:阿里云自研高性能集合通信库

ACCL(Alibaba Collective Communication Library)是阿里云自研的,基于NCCL(Nvidia Collective Communication Library)开发的集合通信库。它结合阿里云自身网络特点以及丰富的大模型任务通信调优经验,可为客户任务提供更高的通信性能,并且具备一定的故障诊断和自愈能力。本文为您介绍ACCL的主要特性和安装方法。

阿里云文档 2025-02-17

通过阿里云 Milvus 与 PAI LangStudio快速搭建DeepSeek RAG解决方案

大语言模型通常缺乏企业私有数据或实时信息的支持,而检索增强生成(RAG, Retrieval-Augmented Generation)技术能够通过检索企业私有知识库,将相关信息以上下文形式提供给大语言模型,从而显著提升其回答的准确性与相关性。本文基于阿里云的人工智能平台PAI LangStudio,结合阿里云向量检索Milvus版的强大能力,并以DeepSeek-R1-Distill模型为例,为...

阿里云文档 2024-11-27

通过阿里云Milvus与PAI构建大模型RAG对话系统

阿里云Milvus现已无缝集成于阿里云PAI平台,一站式赋能用户构建高性能的RAG(Retrieval-Augmented Generation)对话系统。您可以利用Milvus作为向量数据的实时存储与检索核心,高效结合PAI和LangChain技术栈,实现从理论到实践的快速转化,搭建起功能强大的RAG解决方案。

问答 2022-06-13 来自:开发者社区

为了应对当前分布式训练的挑战,阿里云机器学习PAI团队自主研发了什么训练框架?

为了应对当前分布式训练的挑战,阿里云机器学习PAI团队自主研发了什么训练框架?

文章 2022-06-13 来自:开发者社区

阿里云机器学习PAI开源中文NLP算法框架EasyNLP,助力NLP大模型落地

作者:临在、岑鸣、熊兮一 导读随着 BERT、Megatron、GPT-3 等预训练模型在NLP领域取得瞩目的成果,越来越多团队投身到超大规模训练中,这使得训练模型的规模从亿级别发展到了千亿甚至万亿的规模。然而,这类超大规模的模型运用于实际场景中仍然有一些挑战。首先,模型参数量过大使得训练和推理速度过慢且部署成本极高;其次在很多实际场景中数据量不足的问题仍然制约着大模型在小样本场景中的应用,提高....

阿里云机器学习PAI开源中文NLP算法框架EasyNLP,助力NLP大模型落地

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云机器学习平台PAI

阿里云机器学习PAI(Platform of Artificial Intelligence)面向企业及开发者,提供轻量化、高性价比的云原生机器学习平台,涵盖PAI-iTAG智能标注平台、PAI-Designer(原Studio)可视化建模平台、PAI-DSW云原生交互式建模平台、PAI-DLC云原生AI基础平台、PAI-EAS云原生弹性推理服务平台,支持千亿特征、万亿样本规模加速训练,百余落地场景,全面提升工程效率。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问