文章 2024-06-19 来自:开发者社区

go语言并发实战——日志收集系统(二) Kafka简介

消息队列的通信模式 点对点模式 消息生产者生产消息发送到消息队列(queue),消费者从queue中取出并且消费信息,而这条信息被消费后queue中就没有了这条信息,不存在重复消费 发布/订阅 基本概念发布者发布消息发送到消息队列(topic),订阅者从topic中取出并且消费信息,而这条信息被消费后topic中还存在这条信息,存在重复消费 ...

go语言并发实战——日志收集系统(二) Kafka简介
文章 2023-12-20 来自:开发者社区

【大数据技术Hadoop+Spark】Flume、Kafka的简介及安装(图文解释 超详细)

Flume简介Flume是Cloudera提供的一个高可用、高可靠、分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理,并写到各种数据接受方(可定制)的能力。Flume主要由3个重要的组件构成:1)Source:完成对日志数据的收集,分成transtion 和 event 打入到channel之中。2)Cha....

【大数据技术Hadoop+Spark】Flume、Kafka的简介及安装(图文解释 超详细)
文章 2023-11-07 来自:开发者社区

消息中间件系列教程(19) -Kafka-简介

1. Kafaka简介Apache Kafka是分布式发布-订阅消息系统,在 kafka官网上对 kafka 的定义:一个分布式发布-订阅消息传递系统。它最初由LinkedIn公司开发,Linkedin于2010年贡献给了Apache基金会并成为顶级开源项目。Kafka是一种快速、可扩展的、设计内在就是分布式的,分区的和可复制的提交日志服务。注意Kafka并没有遵循JMS规范,它只提供了发布和订....

消息中间件系列教程(19) -Kafka-简介
文章 2023-09-14 来自:开发者社区

Kafka-Eagle安装及使用简介

1 下载安装1.kafka-eagle-bin-1.2.4.tar.gz 安装包下载,官网 或者在我百度网盘中下载。点击下载2.我们直接按照步骤详细说明下安装步骤,JDK一定要安装必须知道JDK的安装路径2 环境配置2.1.安装包拷贝至服务器解压安装包tar -zxf kafka-eagle-bin-1.2.4.tar.gz2.2设置全局变量,设置JDK的全局变量JAVA_HOME和本应用的KE....

Kafka-Eagle安装及使用简介
阿里云文档 2023-05-25

Kafka的SDK简介、支持的多语言SDK列表及使用说明

本文介绍云消息队列 Kafka 版SDK、支持的多语言SDK。

文章 2023-01-12 来自:开发者社区

【微服务安全】使用 Spring Boot、Kafka、Vault 和 Kubernetes 保护微服务间通信——第 1 部分:简介和架构

链接第 1 部分:简介和架构 <--本文第 2 部分:设置 Kubernetes 和 Kafka第 3 部分:设置保险柜第 4 部分:构建微服务第 5 部分:部署和测试介绍微服务是一种设计模式,其中大型单体应用程序被分离成更小、更易于管理的组件。这些组件可以协同工作来解决特定的业务问题。 为此,组件需要相互通信。组件之间的通信可以通过多种方式实现:RESTful Web 服务、SOAP W....

【微服务安全】使用 Spring Boot、Kafka、Vault 和 Kubernetes 保护微服务间通信——第 1 部分:简介和架构
文章 2022-11-12 来自:开发者社区

kafka学习 之 简介

kafka是一个分布式的流媒体平台,这意味着:类似消息队列,它可以发布订阅消息流用一个容错的持久化的方式存储消息流实时的处理消息流kakfa通常被用户下面两大类应用:构建一个能在系统跟应用之间可靠的传输数据的实时的流数据管道构建实时流应用程序,能够转换或响应数据流一些重要的概念:kafka作为一个集群运行在一个或多个服务器上,这些服务可以跨多个数据中心kafka集群将记录流存储在称为topics....

kafka学习 之 简介
文章 2022-06-13 来自:开发者社区

Sentry 监控 - Snuba 数据中台架构简介(Kafka+Clickhouse)

Snuba 是一种在 Clickhouse 之上提供丰富数据模型以及快速摄取消费者(直接从 Kafka 获取数据)和查询优化器的服务。Snuba 最初的开发目的是取代 Postgres 和 Redis 的组合,以搜索和提供有关 Sentry 错误的聚合数据。从那时起,它已经演变成目前的形式,在多个数据集上支持大多数与时间序列相关的 Sentry 功能。功能为 Clickhouse 分布式数据存储....

Sentry 监控 - Snuba 数据中台架构简介(Kafka+Clickhouse)
文章 2022-06-10 来自:开发者社区

【Kafka】(一)kafka 简介与设计、实现分析2

讨论四:消费者设计概要消费者与消费组假设这么个场景:我们从Kafka中读取消息,并且进行检查,最后产生结果数据。我们可以创建一个消费者实例去做这件事情,但如果生产者写入消息的速度比消费者读取的速度快怎么办呢?这样随着时间增长,消息堆积越来越严重。对于这种场景,我们需要增加多个消费者来进行水平扩展。Kafka消费者是消费组的一部分,当多个消费者形成一个消费组来消费主题时,每个消费者会收到不同分区的....

【Kafka】(一)kafka 简介与设计、实现分析2
文章 2022-06-10 来自:开发者社区

【Kafka】(一)kafka 简介与设计、实现分析1

一、Kafka 简介1、Kafka 创建背景Kafka 是一个消息系统,原本开发自 LinkedIn,用作 LinkedIn 的活动流(Activity Stream)和运营数据处理管道(Pipeline)的基础。现在它已被多家不同类型的公司作为多种类型的数据管道和消息系统使用。活动流数据是几乎所有站点在对其网站使用情况做报表时都要用到的数据中最常规的部分。活动数据包括页面访问量(Page Vi....

【Kafka】(一)kafka 简介与设计、实现分析1

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

消息队列

消息队列是构建分布式互联网应用的基础设施,通过消息队列实现的松耦合架构设计可以提高系统可用性以及可扩展性,是适用于现代应用的优秀设计方案。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问