阿里云文档 2024-12-05

调用ListSparkTemplateFileIds列出集群中的Spark模板文件ID

查询集群所有保存的Spark模板文件ID。

问答 2024-06-10 来自:开发者社区

DMS任务编排跨库Spark SQL节点是否支持将数据导出到OSS单个文件

DMS任务编排跨库Spark SQL节点是否支持将数据导出到OSS单个文件

文章 2023-01-14 来自:开发者社区

spark2 sql读取json文件的格式要求

spark2 sql读取json文件的格式要求spark有多个数据源,json是其中一种。那么对于json格式的数据,spark在操作的过程中,可能会遇到哪些问题?这里首先我们需要对json格式的数据有一定的了解。json数据有两种格式:1.对象表示2.数组表示二者也有嵌套形式。比如我们创建一个个人信息的json。{ "people": [ { "n...

spark2 sql读取json文件的格式要求
文章 2022-02-17 来自:开发者社区

Spark SQL repartition 为啥生成的文件变大了?

记录一个客户问题 客户用Spark SQL的repartition接口来解决Hive ORC表小文件的问题,发现文件膨胀的很厉害 比如原来有1000个小文件,总大小是500MBrepartition(10) 再 insert overwrite之后 10个文件 总大小是2~3GB 但是检查了一下最终的两个分区的 row count是一致的 调查结论 先说一下这两接口不同 repartition ....

问答 2022-02-15 来自:开发者社区

Spark程序中使用SQL语句读取ORC文件的方法是什么?

Spark程序中使用SQL语句读取ORC文件的方法是什么?

问答 2022-02-15 来自:开发者社区

Spark程序中使用SQL语句把数据作为ORC文件格式保存的方法是什么?

Spark程序中使用SQL语句把数据作为ORC文件格式保存的方法是什么?

问答 2022-02-15 来自:开发者社区

Spark程序中使用SQL语句加载数据文件并创建一个RDD的方法是什么?

Spark程序中使用SQL语句加载数据文件并创建一个RDD的方法是什么?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等