阿里云文档 2025-06-06

为Kyuubi Gateway配置并启用Ranger鉴权

Apache Ranger提供了集中式的权限管理框架。通过与Spark结合使用的Ranger Plugin,可以对Spark SQL访问数据库、表和列等进行细粒度的权限控制,从而增强数据访问的安全性。Kyuubi Gateway支持配置Ranger Plugin来启用数据访问的权限控制。

阿里云文档 2025-06-06

为Kyuubi Gateway配置并启用LDAP认证

通过启用LDAP认证,可以增强Kyuubi的安全性,确保只有提供正确的用户名和密码后,客户端才能成功连接到Kyuubi Server启动Spark Session并执行SQL查询,有效防止未授权访问敏感数据和功能的风险。

阿里云文档 2025-06-06

为Livy Gateway配置并启用LDAP认证

通过启用LDAP认证,可以增强Livy的安全性,确保只有提供正确的用户名和密码后,客户端才能成功连接到Livy Gateway执行相应的操作,有效防止未授权访问敏感数据和功能的风险。

阿里云文档 2025-04-18

为Spark Thrift Server配置并启用Ranger鉴权

Apache Ranger提供了集中式的权限管理框架。通过与Spark结合使用的Ranger Plugin,可以对Spark SQL访问数据库、表和列等进行细粒度的权限控制,从而增强数据访问的安全性。Spark Thrift Server会话支持配置Ranger Plugin来启用数据访问的权限控制。

阿里云文档 2025-02-26

为Spark作业配置动态资源分配

本文介绍在Spark中如何配置和使用动态资源分配(Dynamic Resource Allocation)功能,以最大化集群资源的利用效率,减少资源闲置,同时提升任务执行的灵活性和整体系统性能。

文章 2020-08-27 来自:开发者社区

对Spark硬件配置的建议

对于Spark开发人员来说,一个比较普遍的问题就是如何合理的配置Spark的硬件?当然如何合理的对Spark集群进行硬件配置要视情况而定,在这里给出以下建议: 存储系统 在大数据领域,有一句"名言":移动数据不如移动计算。主要因为数据量是庞大的,如果将数据从一个节点移动到另外一个节点甚至从一个局域网移动到另外一个局域网,就必然会牵涉到大量的磁盘IO和网络IO,这是非常影响性能的。而这里的计算可以....

文章 2017-05-19 来自:开发者社区

《Spark 官方文档》硬件配置

硬件配置 Spark开发者们常常被问到的一个问题就是:如何为Spark配置硬件。我们通常会给出以下的建议,但具体的硬件配置还依赖于实际的使用情况。   存储系统 因为绝大多数Spark作业都很可能是从外部存储系统加载输入数据(如:HDFS或者HBase),所以最好把Spark部署在离这些存储比较近的地方。建议如下: 只要有可能,就尽量在HDFS相同的节点上部署Spark。最简单的方式就是...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注