服务网络模型组件Gateway API
Gateway API是Kubernetes中用于对服务网络流量进行建模的一系列资源,提供了一套表现力强、易扩展、面向角色的服务网络模型。本文介绍Gateway API组件信息、使用说明和变更记录。
使用ACK Gateway with Inference Extension实现智能路由与流量管理
针对Kubernetes集群中的LLM推理服务,经典负载均衡方法往往基于简单的流量分配,无法处理LLM推理过程中的复杂请求和动态流量负载。本文介绍如何使用ACK Gateway with Inference Extension组件配置推理服务扩展,以实现智能路由和高效流量管理。
ACK Gateway with Inference Extension组件介绍和变更记录
ACK Gateway with Inference Extension组件是基于Kubernetes社区Gateway API及其Inference Extension规范实现的增强型组件,支持Kubernetes四层/七层路由服务,并提供面向Inference大语言模型(LLM)推理场景的智能负载均衡能力。本文介绍ACK Gateway with Inference Extension组件的信...
ACK Gateway with AI Extension:面向Kubernetes大模型推理的智能路由实践
【阅读原文】戳:ACK Gateway with AI Extension:面向Kubernetes大模型推理的智能路由实践 在当今大语言模型(LLM)推理场景中,Kubernetes已经成为LLM推理服务部署不可获取的基础设施,但在LLM流量管理方面、由于LLM推理服务和推理流量的特殊性,传统的负载均衡和路由调度算法已难以满足该类服务的高性能、高可靠性需求。阿里云容...

如何使用Gateway API访问服务
Gateway API是Kubernetes中用于对服务网络流量进行建模的一系列资源。它的目标是建立一套表现力强、易扩展、面向角色的服务网络模型。本文介绍如何使用Gateway API访问服务。
API网关为K8s容器应用集群提供强大的接入能力
API网关作为成熟的云产品,已经集成了非常丰富的接入能力。将API网关作为Kubernetes集群应用的接入服务使用,将大大提高Kubernetes集群的服务能力,并可以作为大型互联网应用的标准架构。本文介绍API网关如何作为Kubernetes集群的接入层。
5 分钟了解 Kubernetes Ingress 和 Gateway API
了解 Kubernetes Ingress 和 Gateway API 之间的差异,以实现有效的流量管理。原文: Kubernetes Ingress Vs Gateway APIIngress vs Gateway API概述Kubernetes 如今被广泛应用于容器管理、微服务编排解决方案。对于如何控制微服务的入口流量,Kubernetes 提供了两种选择: Ingress 和 Gatewa....

【Kubernetes中Gateway和ServiceEntry使用、SDS认证授权等使用】
Kubernetes中的Gateway和ServiceEntry是实现服务网格的重要组件,提供了不同层次的流量控制和服务发现功能。SDS认证授权是服务网格的安全策略之一,通过将证书和密钥集中管理,可以实现对服务间通信的严格控制和保护。下面分别介绍一下这些功能的使用方法:1. Gateway和ServiceEntry使用Gateway是实现Kubernetes服务网格中对外暴露服务的组件,可以根据....
Kubernetes Gateway API 深入解读和落地指南
背景Kubernetes Gateway API 是 Kubernetes 1.18 版本引入的一种新的 API 规范,是 Kubernetes 官方正在开发的新的 API,Ingress 是 Kubernetes 已有的 API。Gateway API 会成为 Ingress 的下一代替代方案。Gateway API 提供更丰富的功能,支持 TCP、UDP、TLS 等,不仅仅是 HTTP。In....

Istio Gateway与Kubernetes Ingress Controller对比
在Kubernetes环境中,Kubernetes Ingress用于配置需要在集群外部公开的服务。但是在Istio服务网格中,更好的方法是使用新的配置模型,即Istio Gateway。Gateway允许将Istio流量管理的功能应用于进入集群的流量。 二者在支持的功能上的对比,如下表所示 Istio Gateway 阿里云Ingress Controller NGINX Ingres...
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
Gateway kubernetes相关内容
Gateway您可能感兴趣
- Gateway优化
- Gateway分布式
- Gateway实践
- Gateway灰度
- Gateway模型
- Gateway路由
- Gateway工程
- Gateway微服务
- Gateway过滤器
- Gateway springcloud
- Gateway spring
- Gateway网关
- Gateway cloud
- Gateway服务
- Gateway配置
- Gateway api
- Gateway nacos
- Gateway nginx
- Gateway学习笔记
- Gateway实战
- Gateway报错
- Gateway alibaba
- Gateway限流
- Gateway time-out
- Gateway网站
- Gateway sentinel
- Gateway集成
- Gateway higress
- Gateway开发
- Gateway请求
开发与运维
集结各类场景实战经验,助你开发运维畅行无忧
+关注