问答 2021-11-10 来自:开发者社区

实时计算 Flink 版 + RDS/KV/OLAP 这套架构的运行逻辑是什么?

实时计算 Flink 版 + RDS/KV/OLAP 这套架构的运行逻辑是什么?

文章 2021-08-13 来自:开发者社区

企业数仓如何处理?Flink来报到 | 开发者社区精选文章合集(二十一)

每日集成开发者社区精品内容,你错过的干货补给站每日精选博文推荐一套 SQL 搞定数据仓库?Flink有了新尝试目前企业的数仓建设大多是离线一套,实时一套。业务要求低延时的使用实时数仓;业务复杂的使用离线数仓。架构十分复杂,需要使用很多系统和计算框架,这就要求企业储备多方面的人才,导致人才成本较高,且出了问题难以排查,终端用户也需要熟悉多种语法。本文分析目前的数仓架构,探索离线和实时数仓是否能放在....

企业数仓如何处理?Flink来报到 | 开发者社区精选文章合集(二十一)
文章 2021-01-26 来自:开发者社区

Flink 助力美团数仓增量生产

本文由美团研究员、实时计算负责人鞠大升分享,主要介绍 Flink 助力美团数仓增量生产的应用实践。内容包括: 数仓增量生产 流式数据集成 流式数据处理 流式 OLAP 应用 未来规划 一、数仓增量生产 1.美团数仓架构 先介绍一下美团数仓的架构以及增量生产。如下图所示,这是美团数仓的简单架构,我把它叫做三横四纵。所谓三横,第一是贯穿全链路的元数据以及血缘,贯穿数据集成、数据处理、数据消费、以...

Flink 助力美团数仓增量生产
文章 2021-01-05 来自:开发者社区

数仓实时化改造:Hudi on Flink 在顺丰的实践应用

作者 | 蔡适择(顺丰大数据平台负责人) 整理 | 赵阳(Flink 社区志愿者) 本文主要介绍顺丰在数据仓库的数据实时化、数据库 CDC、Hudi on Flink 上的实践应用及产品化经验。文章主要分为以下几部分: ● 顺丰业务介绍 ● Hudi on Flink ● 产品化支持 ● 后续计划 1、顺丰业务 1.1 顺丰大数据的应用 先来看一下顺丰大数据业务的全景图。 大数据平台,中间的基.....

数仓实时化改造:Hudi on Flink 在顺丰的实践应用
文章 2020-11-05 来自:开发者社区

Flink 1.11 与 Hive 批流一体数仓实践

导读:Flink 从 1.9.0 开始提供与 Hive 集成的功能,随着几个版本的迭代,在最新的 Flink 1.11 中,与 Hive 集成的功能进一步深化,并且开始尝试将流计算场景与Hive 进行整合。 本文主要分享在 Flink 1.11 中对接 Hive 的新特性,以及如何利用 Flink 对 Hive 数仓进行实时化改造,从而实现批流一体的目标。主要内容包括: · Flink ...

Flink 1.11 与 Hive 批流一体数仓实践
文章 2020-07-04 来自:开发者社区

专治数仓疑难杂症!美团点评 Flink 实时数仓应用经验分享

整理 | 青渊(Flink 社区志愿者)校对 | 青雉(Flink 社区志愿者)作者 | 黄伟伦@美团点评 摘要:本文根据 Apache Flink 系列直播整理而成,由美团点评数据系统研发工程师黄伟伦老师分享。主要内容如下: 实时数仓建设目的 如何建立实时数仓 仓库质量保证 Tips:点击「阅读原文」链接可查看作者原版 PPT 及分享视频~ 实时数仓建设目的 解决传统数仓的问题 实时数...

专治数仓疑难杂症!美团点评 Flink 实时数仓应用经验分享
文章 2020-06-17 来自:开发者社区

数仓系列 | 深入解读 Flink 资源管理机制

作者:宋辛童(五藏)整理:王文杰(Flink 社区志愿者) 摘要:本文根据 Apache Flink 系列直播整理而成,由阿里巴巴高级开发工程师宋辛童分享。文章主要从基本概念、当前机制与策略、未来发展方向等三个方面帮助开发者深入理解 Flink 的资源管理机制。 基本概念 当前机制与策略 未来发展方向 Tips:点击「下方链接」可查看更多数仓系列视频~https://ververica.c...

数仓系列 | 深入解读 Flink 资源管理机制
文章 2020-06-09 来自:开发者社区

数仓系列 | Flink 窗口的应用与实现

作者 | 张俊(OPPO大数据平台研发负责人)整理 | 祝尚(Flink 社区志愿者)校对 | 邹志业(Flink 社区志愿者) 摘要:本文根据 Apache Flink 系列直播整理而成,由 Apache Flink Contributor、OPPO 大数据平台研发负责人张俊老师分享。主要内容如下: 整体思路与学习路径 应用场景与编程模型 工作流程与实现机制 Tips:点击「下方链接」可...

数仓系列 | Flink 窗口的应用与实现
文章 2020-06-01 来自:开发者社区

深度解读 Flink 1.11:流批一体 Hive 数仓

作者:李劲松、李锐 Flink 1.11 features 已经冻结,流批一体在新版中是浓墨重彩的一笔,在此提前对 Flink 1.11 中流批一体方面的改善进行深度解读,大家可期待正式版本的发布。 首先恭喜 Table/SQL 的 blink planner 成为默认 Planner,撒花、撒花。 Flink 1.11 中流计算结合 Hive 批处理数仓,给离线数仓带来 Flink 流处理实时....

深度解读 Flink 1.11:流批一体 Hive 数仓
问答 2020-05-19 来自:开发者社区

kafka作为实时数仓,它的元数据如何管理的,用啥技术合适?有ignite的使用场景么?#Flink

kafka作为实时数仓,它的元数据如何管理的,用啥技术合适?有ignite的使用场景么?#Flink

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

数据仓库

阿里云自主研发的云原生数据仓库,具有高并发读写、低峰谷读写、弹性扩展、安全可靠等特性,可支持PB级别数据存储,可广泛应用于BI、机器学习、实时分析、数据挖掘等场景。包含AnalyticDB MySQL版、AnalyticDB PostgreSQL 版。

+关注