问答 2018-10-18 来自:开发者社区

有个问题咨询下大家,集群中有一个taskmanager运行期间宕机或者网络连不上了,这种情况下flink是怎么把数据迁移到其他节点上的?会丢数据吗?

转自钉钉群21789141:有个问题咨询下大家,集群中有一个taskmanager运行期间宕机或者网络连不上了,这种情况下flink是怎么把数据迁移到其他节点上的?会丢数据吗?

文章 2017-11-21 来自:开发者社区

Flink运行时之网络通信NetworkEnvironment分析

网络环境(NetworkEnvironment)是TaskManager进行网络通信的主对象,主要用于跟踪中间结果并负责所有的数据交换。每个TaskManager的实例都包含一个网络环境对象,在TaskManager启动时创建。NetworkEnvironment管理着多个协助通信的关键部件,它们是: NetworkBufferPool:网络缓冲池,负责申请一个TaskManager的所有的内.....

文章 2017-11-21 来自:开发者社区

Flink运行时之基于Netty的网络通信上

概述 本文以及接下来的几篇文章将介绍Flink运行时TaskManager间进行数据交换的核心部分——基于Netty通信框架远程请求ResultSubpartition。作为系列文章的第一篇,先列出一些需要了解的基础对象。 NettyConnectionManager Netty连接管理器(NettyConnectionManager)是连接管理器接口(ConnectionManager)...

文章 2017-11-21 来自:开发者社区

Flink运行时之基于Netty的网络通信中

PartitionRequestClient 分区请求客户端(PartitionRequestClient)用于发起远程PartitionRequest请求,它也是RemoteChannel跟Netty通信层之间进行衔接的对象。 对单一的TaskManager而言只存在一个NettyClient实例。但处于同一TaskManager中不同的任务实例可能会跟不同的远程TaskManager上的任务....

文章 2017-11-21 来自:开发者社区

Flink运行时之基于Netty的网络通信(下)

客户端核心处理器 这一篇,我们分析一下客户端协议栈中的核心的处理器PartitionRequestClientHandler,该处理器用于处理服务端的响应消息。 我们以客户端获取到响应之后回调该处理器的channelRead方法为入口来进行分析: public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exce.....

文章 2017-11-21 来自:开发者社区

Flink之CEP案例分析-网络攻击检测

上一篇我们介绍了Flink CEP的API,这一篇我们将以结合一个案例来练习使用CEP的API编写应用程序,以强化对API的理解。所选取的案例是对网络遭受的潜在攻击进行检测并给出告警。当下互联网安全形势仍然严峻,网络攻击屡见不鲜且花样众多,这里我们以DDOS(分布式拒绝服务攻击)产生的流入流量来作为遭受攻击的判断依据。 假定一家云服务提供商,有多个跨地区的数据中心,每个数据中心会定时向监控中心.....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

实时计算 Flink

实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等