阿里云文档 2024-12-26

高并发近实时增量写入场景的架构设计的基本概念

数据流入Delta Table主要存在近实时增量写入和批量写入两种场景,本文为您介绍高并发近实时增量写入场景的架构设计。

文章 2024-10-13 来自:开发者社区

Hadoop-26 ZooKeeper集群 3台云服务器 基础概念简介与环境的配置使用 架构组成 分布式协调框架 Leader Follower Observer

章节内容 上节我们顺利完成了: Sqoop CDC ChangeDataCapture 差量数据捕获 CDC的几种类型 侵入式和非侵入式 Sqoop 数据差量更新导入 从 MySQL 到 Hive Sqoop目前就算告一段落了,接下来我们将开始 ZooKeeper!!! 背景介绍 这里是三台公网云服务器,每台 2C4G,...

Hadoop-26 ZooKeeper集群 3台云服务器 基础概念简介与环境的配置使用 架构组成 分布式协调框架 Leader Follower Observer
阿里云文档 2024-03-20

消息队列的应用场景,核心概念和消息收发模型

SOFAStack 消息队列(SOFAStack MQ,简称 SOFAMQ)是基于 Apache RocketMQ 构建的分布式消息中间件,并与金融分布式架构 SOFAStack 深度集成,为分布式应用系统提供异步解耦和削峰填谷的能力,支持事务消息、顺序消息、定时消息等多种消息类型,并具备高可靠、高吞吐、低延时等金融级特性。

阿里云文档 2024-03-19

实时监控有哪些基础术语

基本概念表中的基本概念按中文拼音进行排序。

文章 2023-12-20 来自:开发者社区

【大数据技术Hadoop+Spark】HDFS概念、架构、原理、优缺点讲解(超详细必看)

一、相关基本概念文件系统。文件系统是操作系统提供的用于解决“如何在磁盘上组织文件”的一系列方法和数据结构。分布式文件系统。分布式文件系统是指利用多台计算机协同作用解决单台计算机所不能解决的存储问题的文件系统。如单机负载高、数据不安全等问题。HDFS。英文全称为Hadoop Distributed File System,是Hadoop项目的核心子项目,是分布式计算中数据存储管理的基础,它是基于流....

【大数据技术Hadoop+Spark】HDFS概念、架构、原理、优缺点讲解(超详细必看)
阿里云文档 2023-07-26

工作空间组有哪些基本概念和术语

本文介绍工作空间组基本概念性信息,同时对工作空间和工作空间组之间的关系进行了阐述。

文章 2022-02-16 来自:开发者社区

Hadoop HDFS概念学习系列之初步掌握HDFS的架构及原理1(一)

HDFS 是做什么的?         HDFS(Hadoop Distributed File System)是Hadoop项目的核心子项目,是分布式计算中数据存储管理的基础,是基于流数据模式访问和处理超大文件的需求而开发的,可以运行于廉价的商用服务器上。它所具有的高容错、高可靠性、高可扩展性、高获得性、高吞吐率等特...

Hadoop HDFS概念学习系列之初步掌握HDFS的架构及原理1(一)
文章 2022-02-16 来自:开发者社区

Hadoop HDFS概念学习系列之初步掌握HDFS的架构及原理2(二)

HDFS 如何读取文件?   HDFS的文件读取原理,主要包括以下几个步骤: 1、首先调用FileSystem对象的open方法,其实获取的是一个DistributedFileSystem的实例。 2、DistributedFileSystem通过RPC(远程过程调用)获得文件的第一批block的locations,同一block按照重复数会返回多个locations,这些locatio...

Hadoop HDFS概念学习系列之初步掌握HDFS的架构及原理2(二)
文章 2022-02-16 来自:开发者社区

Hadoop HDFS概念学习系列之初步掌握HDFS的架构及原理3(三)

HDFS 如何写入文件?   HDFS的文件写入原理,主要包括以下几个步骤:   1.客户端通过调用DistributedFileSystem的create方法,创建一个新的文件。   2.DistributedFileSystem通过RPC(远程过程调用)调用NameNode,去创建一个没有blocks关联的新文件。创建前,NameNode 会做各种校验,比如文件是否存在,客户端有无权...

Hadoop HDFS概念学习系列之初步掌握HDFS的架构及原理3(三)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

金融级分布式架构

SOFAStack™(Scalable Open Financial Architecture Stack)是一套用于快速构建金融级分布式架构的中间件,也是在金融场景里锤炼出来的最佳实践。

+关注