阿里云文档 2025-04-14

缓存

在重复性强的 AI 请求场景,通过将大语言模型(LLM)生成的响应结果缓存到 Redis 数据库中,避免重复调用大语言模型,提升响应速度。本文将为您介绍缓存策略的功能优势,以及开启步骤。

阿里云文档 2025-04-01

联网搜索

联网搜索策略能够扩展大语言模型的知识范围,通过实时检索互联网数据(支持夸克和必应搜索引擎),提升生成内容的准确性与时效性。本文将为您介绍AI API 联网搜索策略的功能优势,以及开启步骤。

阿里云文档 2025-03-24

为云原生API网关配置内网DNS server

为服务配置DNS服务器可以实现高效、安全的内部域名解析,确保内部服务的访问稳定性和可靠性。通过合理配置DNS服务器,可以实现对内部服务域名的集中管理,避免因外部DNS故障或网络波动导致的服务不可用问题。

阿里云文档 2025-03-21

内容安全防护

AI 网关能够保护和大模型交互时的数据安全,一方面对输入到外部模型的数据进行隐私保护,另一方面对输出给用户的数据进行内容过滤。

阿里云文档 2025-03-21

限流

API限流策略专为大模型服务及高并发调用场景设计,采用基于调用Token量的动态控制机制,取代传统请求数或请求体积的限流方式。该策略可针对消费者身份、请求Header参数、Query参数、客户端IP等多维度配置限流规则,根据单次API调用消耗的Token总量进行实时计费和流量管控。这种以Token消耗为核心的限流模式能精准匹配大模型计算资源消耗特性,有效防止系统过载、接口滥用及恶意调用,同时保障核...

问答 2024-07-23 来自:开发者社区

在手动处理API Gateway和OSS域名绑定时,需要注意哪些步骤?

在手动处理API Gateway和OSS域名绑定时,需要注意哪些步骤?

问答 2024-07-23 来自:开发者社区

如何处理API Gateway和OSS域名未绑定成功的问题?

如何处理API Gateway和OSS域名未绑定成功的问题?

问答 2024-07-11 来自:开发者社区

Higress的gateway api支持HTTPPathModifier这个属性吗?

Higress的gateway api支持HTTPPathModifier这个属性吗?

文章 2024-07-03 来自:开发者社区

云原生周刊:Argo Rollouts 支持 Kubernetes Gateway API 1.0 | 2024.7.1

开源项目 Kubetools Recommender System Kubetools Recommender System (Krs) 是一个基于 GenAI 的工具,用于帮助管理和优化 Kubernetes 集群。 buoy buoy 是 Kubernetes 的声明式 TUI 仪表板。你可以在 JSON 文件中定义仪表板,它将从 Kubernetes 集群中...

文章 2024-06-28 来自:开发者社区

Spring Cloud Gateway中的GlobalFilter:构建强大的API网关过滤器

在微服务架构中,API网关扮演着至关重要的角色,负责路由、过滤、以及对进入微服务集群的请求进行预处理。Spring Cloud Gateway作为Spring Cloud生态中的一款高性能API网关,提供了丰富的功能来满足这些需求。其中,GlobalFilter是一个核心概念,允许开发者定义全局的过滤逻辑,应用于所有或特定的路由请求上。本文将深入解析GlobalFilter接口及其核心方法Mon....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

开发与运维

集结各类场景实战经验,助你开发运维畅行无忧

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等