问答 2025-04-17 来自:开发者社区

flink中taskmanager产生的checkpoint文件占用空间一直增长是什么原因?

Flink1.19运行一段时间后发现磁盘空间被taskmanager下产生的checkpoint文件(900G)将存储占满了,然后flink程序挂掉,而jobmanager产生的ck目录并不大,状态后端使用的是增量rocksdb,观察发现rocksdb占用空间并不多,请问是什么原因?如何减小ck占用大小,让业务长时间正常运行。flink-conf.yaml主要配置如下:state.backend....

文章 2024-08-26 来自:开发者社区

美团 Flink 大作业部署问题之新启动作业的 Checkpoint 跨作业文件引用的问题要如何避免

问题一:制作 Checkpoint5 时如何知道 02.sst 和 03.sst 已经上传过了? 制作 Checkpoint5 时如何知道 02.sst 和 03.sst 已经上传过了? 参考回答: 制作 Checkpoint5 时,通过 previous-sst-list 来记录上次成功的 Checkpoint 中所有 SST 文件信息,从而知道 0...

美团 Flink 大作业部署问题之新启动作业的 Checkpoint 跨作业文件引用的问题要如何避免
文章 2024-08-26 来自:开发者社区

美团 Flink 大作业部署问题之Checkpoint 的 metadata 文件包含什么信息

问题一:为什么更倾向于使用 Retained Checkpoint 而不是 Savepoint 来重启作业? 为什么更倾向于使用 Retained Checkpoint 而不是 Savepoint 来重启作业? 参考回答: 我们更倾向于使用 Retained Checkpoint 来重启作业,因为使用 RocksDBStateBackend 的增量 C...

美团 Flink 大作业部署问题之Checkpoint 的 metadata 文件包含什么信息
问答 2024-05-20 来自:开发者社区

Flink CDC里checkpoint状态进行恢复,根据报错是提示这个binlog文件已经不在了?

Flink CDC里checkpoint状态进行恢复,根据报错是提示这个binlog文件已经不在了。提示的建议方案是when_needed。这个有用吗?but this is no longer available on the server. Reconfigure the connector to use a snapshot when needed。

问答 2024-04-15 来自:开发者社区

Flink CDC里checkpoint状态进行恢复,报错提示这个binlog文件已经不在了为啥?

Flink CDC 报错 but this is no longer available on the server. Reconfigure the connector to use a snapshot when needed。这种报错无论是从checkpoint恢复,还是从timestamp或者从某个binlog文件进行恢复,应该都不行了,这个时候cdc是不是只有全量读取去恢复数据了?

问答 2024-03-25 来自:开发者社区

Flink CDC里全量阶段开了之后,checkpoint的文件过大,现在不知道怎么优化了?

Flink CDC里全量阶段开了之后,checkpoint的文件过大,现在不知道怎么优化了。而且ck过大之后重启,长时间无法恢复正常运行。怎么控制全增量切换?

问答 2024-02-25 来自:开发者社区

Flink CDC里 rocksdb 全量checkpoint开启了ttl,为什么文件还会增大?

Flink CDC里 rocksdb 全量checkpoint开启了ttl,为什么checkpoint文件还持续增大 ?

问答 2024-02-06 来自:开发者社区

Flink CDC里任务失败会自动清除其他机器的checkpoint文件,只保留本机吗?

Flink CDC里任务失败会自动清除其他机器的checkpoint文件,只保留本机的checkpoint么?我这个问题就是 taskmanager1执行任务 然后挂掉了,重启,taskmanager2接手这个任务,但是在2这个机器里找不到checkpoint的文件。

问答 2024-02-06 来自:开发者社区

Flink CDC里我的flink集群的checkpoint文件是存在本地的,报错怎么解决?

Flink CDC里我的flink集群的checkpoint文件是存在本地的,然后我手动kill掉taskmanager,任务在其他机器上重启时,报错找不到checkpoint文件,这种情况怎么解决?通过state.checkpoints.dir这个配置在集群所有机器全部创建checkpoint文件么?

问答 2023-10-04 来自:开发者社区

flink checkpoint 文件怎么 明文查看?

flink checkpoint 文件怎么 明文查看?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云实时计算Flink

一套基于Apache Flink构建的一站式、高性能实时大数据处理平台,广泛适用于流式数据处理、离线数据处理、DataLake计算等场景。

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等