windows连接远程Hadoop/Spark
環(huán)境是Ubuntu,PC上使用Windows 10 ,在idea上連接Hadoop使用Mapreduce。
Hadoop使用的版本是hadoop-2.6.0-cdh5.15.1
報錯:
Exception in thread "main" java.lang.UnsatisfiedLinkError: org.apache.hadoop.io.nativeio.NativeIO$Wi
首先使用winutils.exe,從https://github.com/4ttty/winutils下載hadoop2.6.0和hadoop.dll
將winutils和hadoop.dll放在C:\Windows\System32下,然后修改org.apache.hadoop.io.nativeio路徑下的NativeIO文件(方法是:復制到本地同樣的包名,然后寫上和源碼一樣的類NativeIO,然后修改文件):
如果上述設置之后,還是無法運行hadoop,可以將winutils和hadoop.dll放到D:\java\winutils\bin
然后配置環(huán)境變量:
新建HADOOP_HOME:
編輯PATH:
然后在程序中指定:
System.setProperty("hadoop.home.dir", "D:\\winutils")即可。
出現(xiàn)問題:
可以將hadoop-2.7.1的hadoop.dll文件添加進來,替換掉2.6.0版本的hadoop.dll
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的windows连接远程Hadoop/Spark的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: MapReduce概述
- 下一篇: Spark SQL使用window进行统