LLM应用构建的相关内容

阿里云文档 2025-05-19

LLM 大语言模型应用/推理服务接入 ARMS

Python探针是阿里云可观测产品自研的Python语言的可观测采集探针，其基于OpenTelemetry标准实现了自动化埋点能力，支持追踪LLM应用程序。

阿里云文档 2025-04-22

使用EAS部署LLM大语言模型

EAS（Elastic Algorithm Service）是PAI为在线推理场景提供的模型在线服务，为自动化部署和应用LLM大语言模型提供了一键式解决方案。通过EAS，您可以轻松部署多种开源大模型服务应用，同时支持标准部署和多种加速部署方式。使用加速部署，您可以体验到高并发和低延迟的技术优势。本文为您介绍如何通过EAS一键部署和调用LLM大语言模型，以及常见的问题和解决方法。

阿里云文档 2025-02-13

LLM应用概览

为LLM（Large Language Model）应用安装Python探针后，ARMS即可开始监控LLM应用，您可以在概览页面了解LLM应用的大模型调用次数、Token使用次数、Trace数、会话数等信息。

文章 2025-01-16 来自：开发者社区

FlowiseAI：34K Star！集成多种模型和100+组件的 LLM 应用低代码开发平台，拖拽组件轻松构建程序

❤️ 如果你也关注 AI 的发展现状，且对 AI 应用开发非常感兴趣，我会每日分享大模型与 AI 领域的最新开源项目和应用，提供运行实例和实用教程，帮助你快速上手AI技术，欢迎关注我哦！微信公众号｜搜一搜：蚝油菜花快速阅读功能：通过拖拽可视化组件，快速构建自定义 LLM 应用，支持多模型集成和记忆功能。部署：支持本地、Docker 和云平台部署，操作简单，适合不同场景。 ...

阿里云文档 2024-11-04

基于ModelScope模型库和GPU实例闲置计费功能低成本快速搭建LLM应用

LLM（Large Language Model）是指大型语言模型，是一种采用深度学习技术训练的具有大量参数的自然语言处理模型。您可以基于ModelScope模型库和函数计算GPU实例的闲置计费功能低成本快速搭建LLM应用实现智能问答。

阿里云文档 2024-08-28

如何快速构建基于OpenSearch-LLM智能问答版的企业微信应用

本文将介绍如何通过生态对接功能将企业知识问答机器人引入到企业微信应用中。

文章 2024-07-11 来自：开发者社区

LLM代理应用实战：构建Plotly数据可视化代理

如果你尝试过像ChatGPT这样的LLM，就会知道它们几乎可以为任何语言或包生成代码。但是仅仅依靠LLM是有局限的。对于数据可视化的问题我们需要提供一下的内容描述数据:模型本身并不知道数据集的细节，比如列名和行细节。手动提供这些信息可能很麻烦，特别是当数据集变得更大时。如果没有这个上下文，LLM可能会产生幻觉或虚构列名，从而导致数据可视化中的错误。样式和偏好:数据可视化是一种艺术形式，每...

共有7条

< 1 >

跳转至： GO

更新时间 2025-01-17 12:10:31

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

LLM您可能感兴趣

产品推荐

{"cardStyle":"productCardStyle","productCode":"kvstore","productCardInfo":{"productTitle":"Tair KVCache","productDescription":"阿里云数据库 Tair KVCache 为 LLM 推理提供分布式动态分级缓存服务，通过软硬协同设计实现智能路由和缓存资源的最优管理，优化 GPU 服务器资源利用率的同时提升 LLM 推理的速度和吞吐性能，实现降本增效。","productContentLink":"https://www.aliyun.com/product/kvcache","isDisplayProductIcon":true,"productButton1":{"productButtonText":"了解详情","productButtonLink":"https://www.aliyun.com/product/kvcache"},"productButton2":{"productButtonText":"立即咨询","productButtonLink":"https://page.aliyun.com/form/act176452088/index.htm?spm=5176.30063692.J__Z58Z6CX7MY__Ll8p1ZOR.1.66a55ac316TezL"},"productButton3":{"productButtonText":"","productButtonLink":""},"productPromotionInfoBlock":[{"$id":"0","productPromotionGroupingTitle":"最新活动","productPromotionInfoFirstText":"","productPromotionInfoFirstLink":"","productPromotionInfoSecondText":"邀请试用","productPromotionInfoSecondLink":"https://page.aliyun.com/form/act176452088/index.htm?spm=5176.30063692.J__Z58Z6CX7MY__Ll8p1ZOR.3.66a55ac316TezL"},{"$id":"1","productPromotionGroupingTitle":"快速入门","productPromotionInfoFirstText":"Tair KVCache 产品介绍","productPromotionInfoFirstLink":"https://help.aliyun.com/zh/redis/product-overview/tair-kvcache?spm=5176.30063692.J_zhz1C6uKKPBvN1fur6xih.1.b87b5ac3Iu5Wen#ef4997358dmto","productPromotionInfoSecondText":"","productPromotionInfoSecondLink":""},{"$id":"2","productPromotionGroupingTitle":"产品动态","productPromotionInfoFirstText":"","productPromotionInfoFirstLink":"","productPromotionInfoSecondText":"Tair KVCache 推理缓存解决方案","productPromotionInfoSecondLink":"https://developer.aliyun.com/article/1658082"},{"$id":"3","productPromotionGroupingTitle":"产品推荐","productPromotionInfoFirstText":"云数据库 Tair（兼容 Redis®*）","productPromotionInfoFirstLink":"https://www.aliyun.com/product/tair","productPromotionInfoSecondText":"","productPromotionInfoSecondLink":""}],"isOfficialLogo":false},"activityCardInfo":{"activityTitle":"","activityDescription":"","cardContentBackgroundMode":"LightMode","activityContentBackgroundImageLink":"","activityCardBottomInfoSelect":"activityPromotionInfoBlock"}}

Tair KVCache

阿里云数据库 Tair KVCache 为 LLM 推理提供分布式动态分级缓存服务，通过软硬协同设计实现智能路由和缓存资源的最优管理，优化 GPU 服务器资源利用率的同时提升 LLM 推理的速度和吞吐性能，实现降本增效。