文章 2024-10-14 来自:开发者社区

大数据-95 Spark 集群 SparkSQL Action与Transformation操作 详细解释与测试案例(一)

点一下关注吧!!!非常感谢!!持续更新!!!目前已经更新到了:Hadoop(已更完)HDFS(已更完)MapReduce(已更完)Hive(已更完)Flume&...

大数据-95 Spark 集群 SparkSQL Action与Transformation操作 详细解释与测试案例(一)
文章 2024-10-14 来自:开发者社区

大数据-95 Spark 集群 SparkSQL Action与Transformation操作 详细解释与测试案例(二)

接上篇:https://developer.aliyun.com/article/1622574?spm=a2c6h.13148508.setting.28.27ab4f0ehhuqRuselect相关列的多种表示selectselectExpr启动 Spark-Shell 继续进行测试// 这里注意 option("header", "true&#...

大数据-95 Spark 集群 SparkSQL Action与Transformation操作 详细解释与测试案例(二)
阿里云文档 2024-07-30

高性能版Spark全密态计算引擎性能测试报告

本文介绍高性能版Spark全密态计算引擎与AnalyticDB for MySQL Spark的性能测试流程及对比结果,通过对比可知,在处理大规模数据集时,高性能版Spark全密态计算引擎相较于AnalyticDB for MySQL Spark 3.2.0版本的性能提升了0.9倍,具体性能对比详情请参见本文。

问答 2024-07-29 来自:开发者社区

在ODPS环境中,如何进行Spark的交互式开发测试?

在ODPS环境中,如何进行Spark的交互式开发测试?

文章 2024-06-21 来自:开发者社区

Spark-集群安装、部署、启动、测试(1.6.3)稳定版

Spark-集群安装、部署、启动、测试(1.6.3版) 一、下载地址: http://spark.apache.org/releases/spark-release-1-6-3.html 二、安装 将...

Spark-集群安装、部署、启动、测试(1.6.3)稳定版
文章 2024-05-29 来自:开发者社区

Spark 单元测试报Error:(26, 16) java: 程序包sun.misc不存在

在win10 中运行Spark出现Unsafe相关的包找不到的错误 Error:(25, 16) java: 程序包sun.misc不存在 Error:(30, 24) java: 找不到符号 符号: 类 Unsafe 位置: 类 org.apache.spark.unsa...

Spark 单元测试报Error:(26, 16) java: 程序包sun.misc不存在
文章 2024-04-22 来自:开发者社区

Spark【环境搭建 01】spark-3.0.0-without 单机版(安装+配置+测试案例)

我使用的安装文件是 spark-3.0.0-bin-without-hadoop.tgz ,以下内容均以此版本进行说明。使用 without 版本的安装包要进行 spark 和 hadoop 的关联配置【hadoo的版本是3.1.3】。 1.1 解压 我使用的是之前下载的安装包,也可以去官网下载,选择 Spark 版本【最新版本是3.1.2】和对应的 H...

Spark【环境搭建 01】spark-3.0.0-without 单机版(安装+配置+测试案例)
文章 2023-10-07 来自:开发者社区

Spark on Yarn集群模式搭建及测试

1.Spark on Yarn集群模式介绍Apache Spark是一个快速的、通用的大数据处理框架,它支持在各种环境中进行分布式数据处理和分析。在Yarn集群模式下搭建Spark环境可以充分利用Hadoop的资源管理和调度能力。本文将介绍如何搭建Spark on Yarn集群模式环境,步骤详细,代码量大,准备发车~2.搭建环境准备本次用到的环境有:Java 1.8.0_191Spark-2.2....

Spark on Yarn集群模式搭建及测试
文章 2023-10-07 来自:开发者社区

Spark Standalone环境搭建及测试

1.Spark Standalone环境搭建介绍Apache Spark是目前最流行的大数据处理框架之一,可用于分布式数据处理和分析。在Standalone模式下搭建Spark集群是学习和开发Spark应用程序的良好起点。2.搭建环境准备:本次用到的环境有:Java 1.8.0_191Spark-2.2.0-bin-hadoop2.7Hadoop 2.7.4Oracle Linux 7.43.搭....

Spark Standalone环境搭建及测试
文章 2023-10-07 来自:开发者社区

Spark Local环境搭建及测试

1.Spark Local环境搭建介绍Spark单机版的搭建,常用于本地开发测试Spark使用Scala语言编写,运行在Java虚拟机(JVM)当中,故在安装前检查下本机的Java虚拟机环境。用命令查询当前Java版本是否为6以上。2.搭建环境准备:本次用到的环境为:Java 1.8.0_191Spark-2.2.0-bin-hadoop2.73.搭建步骤:1.将spark安装包spark-2.....

Spark Local环境搭建及测试

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等