Flink实时计算大促压测实践
一、背景:临近双11大促,为避免流量峰值较高,电商公司都会对系统进行压测。一直做实时数据计算,应用是基于Flink做的,接收kafka消息,进行数据统计,包括:pv、uv、dau、单量、成交额等等。为了保证应用在大促期间不出问题,需要进行实时计算程序进行压测。由于统计的数据分为两类(流量数据、订单数据),对这两类数据进行不同方式的压测。 二、压测准备(1)压测时间选择:一般选择在凌晨,....

Flink CDC中我们做压测,如果只是insert非常快,目标是kafka,源端mysql,如果?
Flink CDC中我们做压测,如果只是insert非常快,目标是kafka,源端mysql,如果是先插入,再更新,更新采集要900多秒,是啥原因呢?一条,是插入一条,再把这一条更新了,一秒1000条的压,更新的速度也非常快,只是简单的mysql到binlog,我直接看的mysql的创建时间,和kafka的timestamp进行对比时间差,mysql到kafka,服务器时间一致
大佬,Flink CDC 中pg解析的是wal日志,我们增量压测占的资源主要是带宽资源,当用4个sl
大佬,Flink CDC 中pg解析的是wal日志,我们增量压测占的资源主要是带宽资源,当用4个slot的时候,网络流量从100Mb/s增加到200Mb/s,当用7个slot的时候继续增加,这样的涨幅dba不能接受,请大佬指点一二
大佬,Flink CDC 中我这边已经在pg设置最大上限是20,也做了充分的压测,目前还有一个问题是
大佬,Flink CDC 中我这边已经在pg设置最大上限是20,也做了充分的压测,目前还有一个问题是网络开销太大,占用资源多,dba 那边不同意,2大问题拦在这,根本无法应用到生产,大佬,pg解析的是wal日志,我们增量压测占的资源主要是带宽资源,当用4个slot的时候,网络流量从100Mb/s增加到200Mb/s,当用7个slot的时候继续增加,这样的涨幅dba不能接受,请大佬指点一二
亲们,你们flink压测怎么做啊,怎么知道jobmanager给多少内存合适,每个taskmanag
亲们,你们flink压测怎么做啊,怎么知道jobmanager给多少内存合适,每个taskmanager给多少内存合适,每个job开多少并行度合适?
现在做flinkcdc,到clickhouse的压测。每分钟5000多单,是不是对flink压力太小
现在做flinkcdc,到clickhouse的压测。每分钟5000多单,是不是对flink压力太小了?
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
实时计算 Flink版您可能感兴趣
- 实时计算 Flink版银行
- 实时计算 Flink版实战
- 实时计算 Flink版案例
- 实时计算 Flink版CEP
- 实时计算 Flink版云上
- 实时计算 Flink版批计算
- 实时计算 Flink版增量
- 实时计算 Flink版构建
- 实时计算 Flink版最佳实践
- 实时计算 Flink版数仓
- 实时计算 Flink版CDC
- 实时计算 Flink版数据
- 实时计算 Flink版SQL
- 实时计算 Flink版mysql
- 实时计算 Flink版报错
- 实时计算 Flink版同步
- 实时计算 Flink版任务
- 实时计算 Flink版实时计算
- 实时计算 Flink版flink
- 实时计算 Flink版版本
- 实时计算 Flink版oracle
- 实时计算 Flink版kafka
- 实时计算 Flink版表
- 实时计算 Flink版配置
- 实时计算 Flink版产品
- 实时计算 Flink版Apache
- 实时计算 Flink版设置
- 实时计算 Flink版作业
- 实时计算 Flink版模式
- 实时计算 Flink版数据库
实时计算 Flink
实时计算Flink版是阿里云提供的全托管Serverless Flink云服务,基于 Apache Flink 构建的企业级、高性能实时大数据处理系统。提供全托管版 Flink 集群和引擎,提高作业开发运维效率。
+关注