阿里云文档 2022-12-29

概述Dataphin中运维页面终止Spark SQL任务实例后,底层Yarn作业也会终止。详细信息Dataphin中运维页面终止Spark SQL任务实例后,底层Yarn作业任务也会终止或者关闭。适用于Dataphin公共云V3.5.6

问答 2021-12-06 来自:开发者社区

spark的yarn运行模式根据Driver在集群中的位置的分类是什么?

spark的yarn运行模式根据Driver在集群中的位置的分类是什么?

阿里云文档 2021-06-25

如何将MapReduce和Spark作业日志配置到JindoFS或OSS上

本文为您介绍如何将MapReduce和Spark作业日志配置到JindoFS或OSS上。

问答 2019-05-16 来自:开发者社区

请教大家一个问题: spark on yarn 内存溢出 除了增加driver内存以外还有什么好的解决方案吗?

我现在一个清洗程序 从kafka读取消息 然后处理 然后写入kafka sink。 driver 给了它4G 还报内存溢出,我查了下内存溢出那时段的数据是比较少的。 一分钟最多100条。

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注