阿里云文档 2025-04-03

服务网络模型组件Gateway API

Gateway API是Kubernetes中用于对服务网络流量进行建模的一系列资源,提供了一套表现力强、易扩展、面向角色的服务网络模型。本文介绍Gateway API组件信息、使用说明和变更记录。

阿里云文档 2025-03-21

使用ACK Gateway with Inference Extension实现智能路由与流量管理

针对Kubernetes集群中的LLM推理服务,经典负载均衡方法往往基于简单的流量分配,无法处理LLM推理过程中的复杂请求和动态流量负载。本文介绍如何使用ACK Gateway with Inference Extension组件配置推理服务扩展,以实现智能路由和高效流量管理。

阿里云文档 2025-03-20

ACK Gateway with Inference Extension组件介绍和变更记录

ACK Gateway with Inference Extension组件是基于Kubernetes社区Gateway API及其Inference Extension规范实现的增强型组件,支持Kubernetes四层/七层路由服务,并提供面向Inference大语言模型(LLM)推理场景的智能负载均衡能力。本文介绍ACK Gateway with Inference Extension组件的信...

文章 2025-03-17 来自:开发者社区

ACK Gateway with AI Extension:面向Kubernetes大模型推理的智能路由实践

【阅读原文】戳:ACK Gateway with AI Extension:面向Kubernetes大模型推理的智能路由实践 在当今大语言模型(LLM)推理场景中,Kubernetes已经成为LLM推理服务部署不可获取的基础设施,但在LLM流量管理方面、由于LLM推理服务和推理流量的特殊性,传统的负载均衡和路由调度算法已难以满足该类服务的高性能、高可靠性需求。阿里云容...

ACK Gateway with AI Extension:面向Kubernetes大模型推理的智能路由实践
阿里云文档 2025-03-05

如何使用Gateway API访问服务

Gateway API是Kubernetes中用于对服务网络流量进行建模的一系列资源。它的目标是建立一套表现力强、易扩展、面向角色的服务网络模型。本文介绍如何使用Gateway API访问服务。

阿里云文档 2025-01-07

API网关为K8s容器应用集群提供强大的接入能力

API网关作为成熟的云产品,已经集成了非常丰富的接入能力。将API网关作为Kubernetes集群应用的接入服务使用,将大大提高Kubernetes集群的服务能力,并可以作为大型互联网应用的标准架构。本文介绍API网关如何作为Kubernetes集群的接入层。

文章 2023-11-03 来自:开发者社区

5 分钟了解 Kubernetes Ingress 和 Gateway API

了解 Kubernetes Ingress 和 Gateway API 之间的差异,以实现有效的流量管理。原文: Kubernetes Ingress Vs Gateway APIIngress vs Gateway API概述Kubernetes 如今被广泛应用于容器管理、微服务编排解决方案。对于如何控制微服务的入口流量,Kubernetes 提供了两种选择: Ingress 和 Gatewa....

5 分钟了解 Kubernetes Ingress 和 Gateway API
文章 2023-10-12 来自:开发者社区

【Kubernetes中Gateway和ServiceEntry使用、SDS认证授权等使用】

Kubernetes中的Gateway和ServiceEntry是实现服务网格的重要组件,提供了不同层次的流量控制和服务发现功能。SDS认证授权是服务网格的安全策略之一,通过将证书和密钥集中管理,可以实现对服务间通信的严格控制和保护。下面分别介绍一下这些功能的使用方法:1. Gateway和ServiceEntry使用Gateway是实现Kubernetes服务网格中对外暴露服务的组件,可以根据....

文章 2023-05-06 来自:开发者社区

Kubernetes Gateway API 深入解读和落地指南

背景Kubernetes Gateway API 是 Kubernetes 1.18 版本引入的一种新的 API 规范,是 Kubernetes 官方正在开发的新的 API,Ingress 是 Kubernetes 已有的 API。Gateway API 会成为 Ingress 的下一代替代方案。Gateway API 提供更丰富的功能,支持 TCP、UDP、TLS 等,不仅仅是 HTTP。In....

Kubernetes Gateway API 深入解读和落地指南
文章 2022-02-17 来自:开发者社区

Istio Gateway与Kubernetes Ingress Controller对比

在Kubernetes环境中,Kubernetes Ingress用于配置需要在集群外部公开的服务。但是在Istio服务网格中,更好的方法是使用新的配置模型,即Istio Gateway。Gateway允许将Istio流量管理的功能应用于进入集群的流量。 二者在支持的功能上的对比,如下表所示 Istio Gateway 阿里云Ingress Controller NGINX Ingres...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

开发与运维

集结各类场景实战经验,助你开发运维畅行无忧

+关注