阿里云文档 2024-04-18

配置Hadoop集群的弹性伸缩

当您的业务量需求不断波动时,建议您开启弹性伸缩功能并配置相应的伸缩规则,以便于E-MapReduce(简称EMR)可以按业务量波动增加或减少Task节点。确保作业完成的同时,可以节省成本。本文为您介绍如何在EMR控制台配置弹性伸缩。

阿里云文档 2023-09-13

如何配置数据湖构建作为EMR上Hadoop集群的元数据_EMR on ECS_开源大数据平台 E-MapReduce(EMR)

本文为您简单介绍阿里云数据湖构建,以及如何切换E-MapReduce(简称EMR)的元数据存储类型。

问答 2022-02-15 来自:开发者社区

hadoop 配置snappy失败:报错

我用的hadoop版本是Hadoop 2.6.0-cdh5.4.0 hadoop-snappy-0.0.1-SNAPSHOT\lib\native\Linux-amd64-64下编译好的文件放入hadoop的lib  文件夹下面  然后执行  hadoop  checknative  命令  看到 snappy 是false &...

问答 2022-02-15 来自:开发者社区

Hadoop配置成功后如何处理数据:报错

2台电脑分别装了虚拟机,使用ubuntu操作系统,完成了hadoop分布式的配置。然后对2个CSV文件进行数据处理,执行shell脚本,处理完成的情况下可以生成一个CSV文件。这里我的2个CSV文件只需要存放在主机上吗?(在不使用分布式进行处理的时候,一台电脑进行处理数据,2个CSV文件存放在本机上,执行shell脚本后,在本地指定的文件夹下生成一个处理后的CSV文件。现在使用2台电脑搭好分布式....

问答 2022-02-15 来自:开发者社区

hadoop配置问题:报错

为甚么我在配置hadoop的过程中,在bin文件夹中没有start-jobhistorysever.sh和task-controller文件,具体如下: 而我在jps查看进程时,也只有下面四个进程:

问答 2022-02-15 来自:开发者社区

HADOOP_INSTALL配置问题 :报错

每次执行hadoop命令时都样进入安装目录,怎么设置HADOOP_INSTALL的环境变量,可用不用每次都进入安装目录?在什么文件中设置?/etc/profile中吗?我进入编辑后是,只读文件啊?在什么地方修改啊

问答 2022-02-15 来自:开发者社区

hadoop中管理界面的端口号在哪里配置:报错

http://localhost:50030/  - Hadoop 管理介面 http://localhost:50060/  - Hadoop Task Tracker 状态 http://localhost:50070/ - Hadoop DFS 状态 这三个访问地址是在哪里配置的呢;还有上传dao hdfs的文件存放在哪里怎么看呀?

问答 2022-02-15 来自:开发者社区

Hadoop 配置完成后,出现slave无法建立的问题。:报错

[root@namenode1 bin]# ./start-all.sh  starting namenode, logging to /usr/program/hadoop1/libexec/../logs/hadoop-root-namenode-namenode1.out (10.102.10.35)' can't be established. RSA key fingerpri...

问答 2022-02-15 来自:开发者社区

hadoop 主节点什么配置比较好 :报错

公司要搭建hadoop集群,想了解主节点,需要什么硬件配置比较好.

问答 2022-02-15 来自:开发者社区

HADOOP_INSTALL配置问题 - 配置报错

每次执行hadoop命令时都样进入安装目录,怎么设置HADOOP_INSTALL的环境变量,可用不用每次都进入安装目录?在什么文件中设置?/etc/profile中吗?我进入编辑后是,只读文件啊?在什么地方修改啊

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

大数据

大数据计算实践乐园,近距离学习前沿技术

+关注