kafka 只有低级 api 才拿得到 offset 吗?
kafka 只有低级 api 才拿得到 offset 吗? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。
大佬们,请教个问题,spark 2.4对接的kafka消费者低级api是不是去除了?
大佬们,请教个问题,spark 2.4对接的kafka消费者低级api是不是去除了? 本问题来自阿里云开发者社区的【11大垂直技术领域开发者社群】。 点击这里欢迎加入感兴趣的技术领域群。
kafka API consumer
kafka API consumer1.kafka consumer流程1.1.在启动时或者协调节点故障转移时,消费者发送ConsumerMetadataRequest给bootstrap brokers列表中的任意一个brokers。在ConsumerMetadataResponse中,它接收消费者对应的消费组所属的协调节点的位置信息。 1.2.消费者连接协调节点,并发送HeartbeatRe....
请教大家一个问题,请教大家一个问题,我们在应用里面使用了KafkaConnector 然后现在要对kafka里面的每个topic的一些特征数据做一些简单的监控,现在的思路是基于Flink 的system metrics 但是我大概看了一下官方的文档,和Flink 里面FlinkKafkaConsumerBase的open方法和run方法的实现,暂时没有找到获取kafka topic相关的信息的API,大家有这方面的经验吗?
转自钉钉群21789141:请教大家一个问题,请教大家一个问题,我们在应用里面使用了KafkaConnector 然后现在要对kafka里面的每个topic的一些特征数据做一些简单的监控,现在的思路是基于Flink 的system metrics 但是我大概看了一下官方的文档,和Flink 里面FlinkKafkaConsumerBase的open方法和run方法的实现,暂时没有找到获取kafk....
在Kubernetes / OpenShift中运行Kafka Connect Workers而不通过REST API发布配置?
我想在OpenShift上运行Kafka connect worker。我想使用OpenShift(自动)向外扩展。但是,如果通常在特定工作程序启动后通过REST调用手动提供连接器配置,则不清楚如何传递连接器配置。因此,问题是是否可以在没有REST调用的情况下在启动时向工作者提供连接器的完整规范。
请叫一个flink和kafka集成问题,如果用这个API(FlinkKafkaConsumer010(List<String> topics, DeserializationSchema<T> deserializer, Properties props))同时读多个topic,用什么Schema,能在收到的消息中得到这个消息时来自哪个topic?
转自钉钉群21789141:请叫一个flink和kafka集成问题,如果用这个API(FlinkKafkaConsumer010(List topics, DeserializationSchema deserializer, Properties props))同时读多个topic,用什么Schema,能在收到的消息中得到这个消息时来自哪个topic? 我知道可以用多个stream,map一下....
Kafka API实践
系统学习三步骤走:理解原理、搭建系统、Api练习。 从哪里找到Api?Document和git。 例如,Kafka在github上的地址github.com/apache/kafka,找到example目录。 这也算是一个小技巧/apache/xxx,就是XXX的git目录。 Kafka文档路径更好找,就在kafka.apache.org。 别用百度搜索,再跳转一次,记住xxx.apache......
windows 本地测试spark streaming + kafka direct api
windows 本地测试spark streaming + kafka direct api 卡在如下信息出: “Kafka scala consumer marked as dead for group” 1.环境: kafka server为集群,连接时使用的是hostname:9092方法去连接,程序也不报错, 就是卡在上面的信息出,没有输出。 2.之前已经在集群上使用shel...
kafka-Java-SpringBoot-listener API开发
listener开发过程是独立的,你也可以不开发,使用@KafkaListener注解来监听kafka的消息,我的方式是实现一个唯一方法的接口,然后在该方法里面进行消费,无需关心kafka的具体实现,只需要添加一个topics到配置值文件即可.项目git地址: git@github.com:wudonghua/Java-Kafka-SpringBoot-API.git 接口: import or....
kafka-Java-SpringBoot-consumer API开发
ConsumerAPI的开发逻辑和Product是一样的,只不过多了一项必填选项group_id.属性: import org.springframework.boot.context.properties.ConfigurationProperties; import org.apache.kafka.common.serialization.StringDeserializer; impor....
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。