博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spark提交任务:java.net.UnknownHostException: cluster1
阅读量:6961 次
发布时间:2019-06-27

本文共 681 字,大约阅读时间需要 2 分钟。

  hot3.png

由于我的hdfs集群配置了HA,在提交spark任务时,提示:java.net.UnknownHostException: cluster1。于是寻找解决方案。

首先参考:

1.复制hdfs-site.xml到spark的配置目录,没效果

2.复制hdfs-site.xml和core-site.xml到spark的配置目录,没效果

所以上面这篇文章没效果,通过google,找到这篇文章:

在这篇文章中找到了这么一句话:I've found the solution - adding "spark.files file:///opt/spark/conf/hdfs-site.xml,file:///opt/spark/conf/core-site.xml" to conf/spark-defaults.conf on each slave

3.于是我也在我的spark-default.xml加上了下面这一句配置

spark.files file:///home/bigdata/apps/spark-1.5.0-bin-hadoop2.6/conf/hdfs-site.xml,file:///home/bigdata/apps/spark-1.5.0-bin-hadoop2.6/conf/core-site.xml

重新启动spark集群,不再提示上面那个错误。

所以解决此问题的关键是在spark-default.xml中加上spark.files这个配置。

 

转载于:https://my.oschina.net/cjun/blog/668990

你可能感兴趣的文章
打印0~n之间的水仙花数。
查看>>
学平面设计需要什么基础呢?
查看>>
AJPFX:不用递归巧妙求出1000的阶乘所有零和尾部零的个数
查看>>
我的友情链接
查看>>
登录CHAP认证的iSCSI target
查看>>
Jmeter(the target server failed to respond)问题
查看>>
锐捷奖品
查看>>
跟着官网学Struts2使用(一)
查看>>
HCIE面试真题战报及点评系列12
查看>>
MS16-077--vulnerability
查看>>
php扩展redis
查看>>
Python_生成器generator
查看>>
关于内存对齐
查看>>
session+cookie
查看>>
云计算下的ERP发展之路
查看>>
jquert confirm each
查看>>
指定Tomcat使用的jdk版本而不依赖环境变量
查看>>
华为网络设备上常用的安全技术
查看>>
本人对Servlet的两点不同方向的认识
查看>>
关于JAVA中内存溢出的解决办法(转)
查看>>