首页 > 代码库 > centos6.5 64位下编译hadoop2.5.1源码

centos6.5 64位下编译hadoop2.5.1源码

2024-08-02 05:51:51   224人阅读

  1. 需要的工具：centos6.5 -64bit

  2. 需要的软件：java, svn, autoconf, automake, libtool, ncurses-devel, openssl-devel, gcc, lzo-devel, zlib-devel, znt, maven, protobuf, cmake

     

    检测系统中是否已安装了某一软件命令：rpm -qa|grep 软件名，如检测系统中是否安装了svn：

    $ rpm -qa|grep svn

    在CentOS-x86_64位机器下编译hadoop-2.2.0源码

  3. 如果已安装，则跳过，如果没有安装，用命令：yum install svn进行安装，如：

    $ yum install svn

     

    如果yum命令安装失败（找不到相应的包），则需手动下载相应的软件包进行安装，比如maven, protobuf这两个个软件；

        接下需要首先去apach官网下载hadoop2.5.1源码包，并解压；之后安装jdk、maven、ant.详细步骤网上很多。


        问题导读：

        1.如果获取hadoop src  maven包？
        2.编译hadoop需要装哪些软件？
        3.如何编译hadoop2.4?
        扩展：
        编译hadoop为何安装这些软件？

        protobuf的安装
            为防止出错，这里补充一些内容，
                先安装g++

                sudo apt-get install g++

                centos 下：yum install gcc-c++

           下载 protobuf-2.5.0.tar.gz   网盘下载链接：http://pan.baidu.com/s/1dDgWe6P 密码：xgiu

         解压  tar zxvf protobuf-2.5.0.tar.gz 

            $ sudo ./configure 

            $ sudo make 

            $ sudo make check 

            $ sudo make install 

            $ sudo ldconfig 

            如果系统中已经存在了低版本的protobuf，并被识别出来，则进行如下设置

            修改环境变量：

            vi /etc/profile

           export LD_LIBRARY_PATH=~/protobuf-2.5.0 

         （LD_LIBRARY_PATH的这里，填写的是protobuf文件的位置）

         source /etc/profile

        注意：配置/etc/profile，在虚拟机重启后，可能配置会失效，所以重启后，需要再次执行source操作。

        验证   protoc --version

 

      .安装openssl库

      sudo apt-get install libssl-dev  / yum install openssl

       CMake安装

       sudo apt-get install cmake /  sudo yum install cmake

       安装findbugs（选择安装）

$ wget http://prdownloads.sourceforge.net/findbugs/findbugs-2.0.3.tar.gz?download
$ sudo tar zxf findbugs-2.0.3.tar.gz -C /opt
$ sudo vim /etc/profile
export FINDBUGS_HOME=/opt/findbugs-2.0.3
export PATH=$PATH:$FINDBUGS_HOME/bin

验证：
[root@hadoop001 bin]# fb -version
2.0.3


进入src包执行编译命令

mvn package -Pdist,native -DskipTests -Dtar  --不生成文档

生成文档的还未试验

使用-Pdocs选项可以生成文档,当然前提是安装了Forrest 和Findbugs  可以参考如下命令手动指定:FORREST_HOME和FINDBUGS_HOME.

mvn package -Pdocs -DskipTests -Dtar -Dmaven.test.skip -Denv.FORREST_HOME=/usr/local/apache-forrest  -Denv.FINDBUGS_HOME=/usr/local/findbugs

生成的文档在各自的target/site目录下.




记录：

jdk1.8下编译会有处理注释标签的问题。类似于一下问题：

[ERROR] Exit code: 1 - /home/hadoop/Desktop/hadoop-2.5.1-src/hadoop-common-project/hadoop-annotations/src/main/java/org/apache/hadoop/classification/InterfaceStability.java:27: error: unexpected end tag: </ul>



centos6.5 64位下编译hadoop2.5.1源码


联系
我们