金融场景 PB 级大规模日志平台：中信银行信用卡中心从 Elasticsearch 到 Apache Doris 的先进实践
导读：中信银行信用卡中心每日新增日志数据 140 亿条（80TB），全量归档日志量超 40PB，早期基于 Elasticsearch 构建的日志云平台，面临存储成本高、实时写入性能差、文本检索慢以及日志分析能力不足等问题。因此使用 Apache Doris 替换 Elasticsearch，实现资源投入降低 50%、查询速度提升 2～4 倍，同时显著提高了运维效率。 本文转录自陈地长（中信信用.....
众安保险 CDP 平台：借助阿里云数据库 SelectDB 版内核 Apache Doris 打破数据孤岛，人群圈选提速4倍
众安保险在CDP（Customer Data Platform，客户数据平台）建设中，通过引入阿里云数据库SelctDB版内核Apache Dois，成功打破了数据孤岛，并显著提升了人群圈选的速度，这是一个值得关注的技术进步。以下是对这一成果的详细解读： 打破数据孤岛的重要性ÿ...
众安保险 CDP 平台：借助阿里云数据库 SelectDB 版内核 Apache Doris 打破数据孤岛，人群圈选提速4倍
导读：2023 年 3 月，在阿里云瑶池数据库峰会上，阿里云与飞轮科技正式达成战略合作协议，双方旨在共同研发名为“阿里云数据库 SelectDB 版”的新一代实时数据仓库，为用户提供在阿里云上的全托管服务。SelectDB 是飞轮科技基于 Apache Doris 内核打造的聚焦于企业大数据实时分析需求的企业级产品。因此阿里云数据库 SelectDB 版也延续了 Apache Doris 性能优....
流数据湖平台Apache Paimon（六）集成Spark之DML插入数据
4.4. 插入数据INSERT 语句向表中插入新行。插入的行可以由值表达式或查询结果指定，跟标准的sql语法一致。INSERT INTO table_identifier [ part_spec ] [ column_list ] { value_expr | query }part_spec可选，指定分区的键值对列表，多个用逗号分隔。可以使用类型文字（例如，date’2019-01-02’）。....
流数据湖平台Apache Paimon（五）集成 Spark 引擎
第4章 集成 Spark 引擎4.1 环境准备Paimon 目前支持 Spark 3.4、3.3、3.2 和 3.1。课程使用的Spark版本是3.3.1。1）上传并解压Spark安装包tar -zxvf spark-3.3.1-bin-hadoop3.tgz -C /opt/module/mv /opt/module/spark-3.3.1-bin-hadoop3 /opt/module/sp....
流数据湖平台Apache Paimon（四）集成 Hive 引擎
第3章 集成 Hive 引擎前面与Flink集成时，通过使用 paimon Hive Catalog，可以从 Flink 创建、删除、查询和插入到 paimon 表中。这些操作直接影响相应的Hive元存储。以这种方式创建的表也可以直接从 Hive 访问。更进一步的与 Hive 集成，可以使用 Hive SQL创建、查询Paimon表。3.1 环境准备Paimon 目前支持 Hive 3.1、2.....
流数据湖平台Apache Paimon（三）Flink进阶使用
2.9 进阶使用2.9.1 写入性能Paimon的写入性能与检查点密切相关，因此需要更大的写入吞吐量：增加检查点间隔，或者仅使用批处理模式。增加写入缓冲区大小。启用写缓冲区溢出。如果您使用固定存储桶模式，请重新调整存储桶数量。2.9.1.1 并行度建议sink的并行度小于等于bucket的数量，最好相等。选项必需的默认类型描述sink.parallelismNo(none)Integer定义si....
流数据湖平台Apache Paimon（二）集成 Flink 引擎
第2章 集成 Flink 引擎Paimon目前支持Flink 1.17, 1.16, 1.15 和 1.14。本课程使用Flink 1.17.0。2.1 环境准备环境准备2.1.1 安装 Flink1）上传并解压Flink安装包tar -zxvf flink-1.17.0-bin-scala_2.12.tgz -C /opt/module/2）配置环境变量sudo vim /etc/profil....
流数据湖平台Apache Paimon（一）概述
第1章 概述1.1 简介Flink 社区希望能够将 Flink 的 Streaming 实时计算能力和 Lakehouse 新架构优势进一步结合，推出新一代的 Streaming Lakehouse 技术，促进数据在数据湖上真正实时流动起来，并为用户提供实时离线一体化的开发体验。Flink 社区内部孵化了 Flink Table Store （简称 FTS ）子项目，一个真正面向 Streami....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
Apache您可能感兴趣
- Apache技术
- Apache meetup
- Apache阿里云
- Apache数据库
- Apache doris
- Apache php7.1
- Apache php
- Apache编译
- Apache php版本
- Apache mysql
- Apache flink
- Apache配置
- Apache rocketmq
- Apache安装
- Apache dubbo
- Apache tomcat
- Apache服务器
- Apache linux
- Apache spark
- Apache开发
- Apache服务
- Apache报错
- Apache微服务
- Apache访问
- Apache kafka
- Apache从入门到精通
- Apache hudi
- Apache实践
- Apache日志
- Apache应用
Apache Spark 中国技术社区
阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区，定期推送精彩案例，问答区数个 Spark 技术同学每日在线答疑，只为营造 Spark 技术交流氛围，欢迎加入！
+关注