深圳上市公司全部名单,杭州seo网站,教育学校网站源码 php,中山seo扣费文章目录 2.x 和 3.x 的区别Java最小支持版本常用的端口号配置文件Classpath隔离NodeManager重连 进入官网自行查阅 2.x 和 3.x 的区别
Java最小支持版本
Hadoop 2.x#xff1a;2.7 版本需要 Java 7#xff0c;2.6 以及更早期版本支持 Java 6Hadoop 3.x#xff1a;最低要求… 文章目录 2.x 和 3.x 的区别Java最小支持版本常用的端口号配置文件Classpath隔离NodeManager重连 进入官网自行查阅 2.x 和 3.x 的区别
Java最小支持版本
Hadoop 2.x2.7 版本需要 Java 72.6 以及更早期版本支持 Java 6Hadoop 3.x最低要求 Java 8并且所有 Hadoop JAR 都已针对 Java 8的运行时版本编译。这意味着用户需要升级到 Java 8 或更高版本才能运行Hadoop 3.x。
常用的端口号
NameNode (NN) 端口 在Hadoop 2.x中NameNode的默认HTTP UI端口是50070内部通常端口是8020/9000。在Hadoop 3.x中这个端口被改为9870内部通常端口是8020/9000/9820。 DataNode (DN) 端口 Hadoop 2.x中DataNode的默认HTTP UI端口是50075。在Hadoop 3.x中该端口变更为9864。 YARN ResourceManager (RM) 端口 Hadoop 2.x中的ResourceManager HTTP UI端口通常是8088。这个端口在Hadoop 3.x中保持不变仍为8088。
配置文件
datanode节点信息配置文件名不同 hadoop2.xslaveshadoop3.xworkers 其余四个文件 core-site.xmlhdfs-site.xmlyarn-site.xmlmapred-site.xml 文件名相同其中 yarn-site.xml 需要文件添加环境变量的继承
!-- 环境变量的继承 --
propertynameyarn.nodemanager.env-whitelist/namevalueJAVA_HOME,HADOOP_COMMON_HOME,HADOOP_HDFS_HOME,HADOOP_CONF_DIR,CLASSPATH_PREPEND_DISTCACHE,HADOOP_YARN_HOME,HADOOP_MAPRED_HOME/value
/propertyClasspath隔离
在Hadoop 3.x中通过改进类路径隔离来防止不同版本jar包之间的冲突这在使用Hadoop、HBase和Spark等混合环境时特别有用。
NodeManager重连
Hadoop 2.x NodeManager不会自动重连到ResourceManager。 Hadoop 3.x NodeManager可以自动重连到ResourceManager。
在搭建和部署时务必参考相应版本的官方文档以确保按照最新的指南进行操作。这样可以确保系统能够充分利用新特性并保持最佳的性能和稳定性。
进入官网自行查阅
具体内容可以去 Index of /docs (apache.org) 中找对应版本的文档 HDFS 的 Shell 命令在这里 Apache Hadoop 3.3.1 – Overview Java API 文档在最下面 Overview (Apache Hadoop Main 3.3.1 API) 再下面就是各个配置文件里面有所有参数的名称所对应的值以及它的解释
