Apache zeppelin:Spark 集群配置

朱利安·戈麦斯

我是来自 Apache Zeppelin 0.7.1 的 pyspark 新用户,可以访问我的 Spark 集群。我配置了2台机器:

  • 机器 1:Spark Master + 2 个工人 + Apache Zeppelin
  • 机器 2 : 2 工人

情况:

  • 如果我使用 Master (Machine-1) 的 pyspark 控制台,集群工作正常。

  • 当我使用 Spark 的 Local[*] 配置时,
    Zeppelin一切正常

按照这个zeppelin 文档,我将 spark://Machine-1:7077 放在spark 解释器配置属性中。然后,一些代码在我的 Zeppelin Notebook 的单元格中运行正常:

%spark
sc.version
sc.getConf.get("spark.home")
System.getenv().get("PYTHONPATH")
System.getenv().get("SPARK_HOME")

但其他 RDD 转换(例如)永远不会结束:

%pyspark
input_file = "/tmp/kddcup.data_10_percent.gz"
raw_rdd = sc.textFile(input_file)

怎么了?一些忠告?先谢谢你。

朱利安·戈麦斯

最终我意识到:

  1. 工作人员的内存和核心参数不适合我的集群。我更改了 spark-env.sh 文件中的值,它正在工作!。
  2. Apache Zeppelin 中的配置参数也有一些错误(需要额外的 spark 模块)

谢谢你,格雷格,你的兴趣。

本文收集自互联网,转载请注明来源。

如有侵权,请联系[email protected] 删除。

编辑于
0

我来说两句

0条评论
登录后参与评论

相关文章

来自分类Dev

Apache Spark:具有不同配置节点的集群

来自分类Dev

如何配置多节点Apache Storm集群

来自分类Dev

使用Apache Spark提取kmeans集群信息

来自分类Dev

无法在Apache Spark集群上运行sparkPi

来自分类Dev

Hive的Apache Spark部署问题(集群模式)

来自分类Dev

Google Cloud 上的 Apache Spark、集群或无集群

来自分类Dev

如何在现有的Apache Spark独立群集上安装Apache Zeppelin

来自分类Dev

Apache Zeppelin使用哪种协议连接到Apache Spark?(iPython / ZeroMQ)?

来自分类Dev

Apache Spark K-Means集群-输入RDD

来自分类Dev

如何使用Supervisord自动启动Apache Spark集群?

来自分类Dev

从Eclipse调试Apache Spark集群应用程序

来自分类Dev

将apache spark与apache配置单元远程连接。

来自分类Dev

Apache Zeppelin和Spark Streaming:Twitter示例仅在本地有效

来自分类Dev

SPARK_SUBMIT_OPTIONS 在 Apache Zeppelin 0.7.3 中不起作用

来自分类Dev

Zeppelin-在本地模式下配置Spark解释器时如何连接到Spark ui

来自分类Dev

如何在Apache Spark和Drill AWS集群中优化AWS集群实例类型?

来自分类Dev

如何在Apache Spark和Drill AWS集群中优化AWS集群实例类型?

来自分类Dev

在 Apache Zeppelin 上配置 Hbase 解释器时遇到问题

来自分类Dev

JBoss集群应用程序冻结,Apache mod_cluster配置出现一些警告

来自分类Dev

带有集群jboss eap 6.4独立环境的Apache httpd配置

来自分类Dev

如何使用Spark org.apache.spark.ml.clustering预测kmeans集群。{KMeans,KMeansModel}

来自分类Dev

Apache-Zeppelin / Spark:为什么我不能使用此代码示例访问远程数据库

来自分类Dev

Apache-Zeppelin / Spark:为什么我不能使用此代码示例访问远程数据库

来自分类Dev

为Apache Spark指定外部配置文件

来自分类Dev

Apache Spark,创建配置单元上下文-NoSuchMethodException

来自分类Dev

Apache Spark与Apache Ignite

来自分类Dev

在集群上运行Apache Spark应用程序时是否可以缓存应用程序jar?

来自分类Dev

如何将基于TypeSafe Activator的应用程序部署到Apache Spark集群?

来自分类Dev

将 Apache Spark 应用程序提交到容器化集群时遇到问题

Related 相关文章

  1. 1

    Apache Spark:具有不同配置节点的集群

  2. 2

    如何配置多节点Apache Storm集群

  3. 3

    使用Apache Spark提取kmeans集群信息

  4. 4

    无法在Apache Spark集群上运行sparkPi

  5. 5

    Hive的Apache Spark部署问题(集群模式)

  6. 6

    Google Cloud 上的 Apache Spark、集群或无集群

  7. 7

    如何在现有的Apache Spark独立群集上安装Apache Zeppelin

  8. 8

    Apache Zeppelin使用哪种协议连接到Apache Spark?(iPython / ZeroMQ)?

  9. 9

    Apache Spark K-Means集群-输入RDD

  10. 10

    如何使用Supervisord自动启动Apache Spark集群?

  11. 11

    从Eclipse调试Apache Spark集群应用程序

  12. 12

    将apache spark与apache配置单元远程连接。

  13. 13

    Apache Zeppelin和Spark Streaming:Twitter示例仅在本地有效

  14. 14

    SPARK_SUBMIT_OPTIONS 在 Apache Zeppelin 0.7.3 中不起作用

  15. 15

    Zeppelin-在本地模式下配置Spark解释器时如何连接到Spark ui

  16. 16

    如何在Apache Spark和Drill AWS集群中优化AWS集群实例类型?

  17. 17

    如何在Apache Spark和Drill AWS集群中优化AWS集群实例类型?

  18. 18

    在 Apache Zeppelin 上配置 Hbase 解释器时遇到问题

  19. 19

    JBoss集群应用程序冻结,Apache mod_cluster配置出现一些警告

  20. 20

    带有集群jboss eap 6.4独立环境的Apache httpd配置

  21. 21

    如何使用Spark org.apache.spark.ml.clustering预测kmeans集群。{KMeans,KMeansModel}

  22. 22

    Apache-Zeppelin / Spark:为什么我不能使用此代码示例访问远程数据库

  23. 23

    Apache-Zeppelin / Spark:为什么我不能使用此代码示例访问远程数据库

  24. 24

    为Apache Spark指定外部配置文件

  25. 25

    Apache Spark,创建配置单元上下文-NoSuchMethodException

  26. 26

    Apache Spark与Apache Ignite

  27. 27

    在集群上运行Apache Spark应用程序时是否可以缓存应用程序jar?

  28. 28

    如何将基于TypeSafe Activator的应用程序部署到Apache Spark集群?

  29. 29

    将 Apache Spark 应用程序提交到容器化集群时遇到问题

热门标签

归档