文章 2020-07-01 来自:开发者社区

在 kubernetes 中用 alluxio 加速 spark 数据访问

镜像下载、域名解析、时间同步请点击 阿里巴巴开源镜像站 一、背景信息 1. alluxio Alluxio是一个开源的基于内存的分布式存储系统,适合作为云上大数据和AI / ML的数据编排方案。Alluxio可以同时管理多个底层文件系统,将不同的文件系统统一在同一个名称空间下,让上层客户端可以自由访问统一名称空间内的不同路径,不同存储系统的数据。 alluxio的short-circuit功能可....

在 kubernetes 中用 alluxio 加速 spark 数据访问
文章 2020-06-30 来自:开发者社区

在kubernetes中用alluxio加速spark数据访问(二)

相关文章: 在kubernetes中用alluxio加速spark数据访问(一) 1.背景信息 1.1 alluxio Alluxio是一个开源的基于内存的分布式存储系统,适合作为云上大数据和AI / ML的数据编排方案。Alluxio可以同时管理多个底层文件系统,将不同的文件系统统一在同一个名称空间下,让上层客户端可以自由访问统一名称空间内的不同路径,不同存储系统的数据。 alluxio的sh....

在kubernetes中用alluxio加速spark数据访问(二)
文章 2020-06-30 来自:开发者社区

在Kubernetes中用Alluxio加速Spark数据访问(一)

相关文章: 在Kubernetes中用Alluxio加速Spark数据访问(二) 1.背景信息 1.1 alluxio Alluxio是一个开源的基于内存的分布式存储系统,适合作为云上大数据和AI / ML的数据编排方案。Alluxio可以同时管理多个底层文件系统,将不同的文件系统统一在同一个名称空间下,让上层客户端可以自由访问统一名称空间内的不同路径,不同存储系统的数据。 alluxio的sh....

在Kubernetes中用Alluxio加速Spark数据访问(一)
文章 2019-01-30 来自:开发者社区

基于Alluxio系统的Spark DataFrame高效存储管理技术

介绍越来越多的公司和组织开始将Alluxio和Spark一起部署从而简化数据管理,提升数据访问性能。Qunar最近将Alluxio部署在他们的生产环境中,从而将Spark streaming作业的平均性能提升了15倍,峰值甚至达到300倍左右。在未使用Alluxio之前,他们发现生产环境中的一些Spark作业会变慢甚至无法完成。而在采用Alluxio后这些作业可以很快地完成。在这篇文章中,我们将....

问答 2018-06-25 来自:开发者社区

Best Practices for Using Alluxio with Spark

Gene Pang等在Spark Summit 2017上做了主题为《Best Practices for Using Alluxio with Spark》的演讲,就Alluxio概述,Alluxio + Spark使用案例 ,使用Spark与Alluxio ,绩效评估等进行了深入的分享。 https://yq.aliyun.com/download/963?spm=a2c4e.11154...

文章 2017-03-03 来自:开发者社区

使用Alluxio高效存储Spark RDD

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 越来越多的公司和组织开始将Alluxio和Spark一起部署从而简化数据管理,提升数据访问性能。Qunar最近将Alluxio部署在他们的生产环境...

文章 2017-02-19 来自:开发者社区

【Spark Summit East 2017】使用Alluxio提升Spark效率

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 本讲义出自Gene Pang与Haoyuan  Li在Spark Summit East 2017上的演讲,主要介绍了Alluxio,前身为T...

文章 2017-01-26 来自:开发者社区

基于Alluxio系统的Spark DataFrame高效存储管理技术

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps。 越来越多的公司和组织开始将Alluxio和Spark一起部署从而简化数据管理,提升数据访问性能。Qunar最近将Alluxio部署在他们的生产环境中,....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

Apache Spark 中国技术社区

阿里巴巴开源大数据技术团队成立 Apache Spark 中国技术社区,定期推送精彩案例,问答区数个 Spark 技术同学每日在线答疑,只为营造 Spark 技术交流氛围,欢迎加入!

+关注
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等

登录插画

登录以查看您的控制台资源

管理云资源
状态一览
快捷访问