ubuntu 下安装伪分布式 hadoop

时间:2021-12-23 16:21:08

安装准备:

(1)hadoop安装包:hadoop-1.2.1.tar.gz
(2)jdk安装包:jdk-7u60-linux-i586.gz
(3)要是须要eclipse开发的话 还须要eclipse安装包 和eclipse和hadoop相关连的jar包。

安装:

(1)能够选择一个新建用户安装 也能够使用眼下账户。
ubuntu 下安装伪分布式 hadoop
(2)规定 所属用户组:
ubuntu 下安装伪分布式 hadoop
(3) 给予用户hadoop权限:
sudo vim /etc/sudoers 改动加入:ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">

 说到vim ubuntu本身自带的是vim tiny 不可用 须要使用的是vim full版本号 须要下载安装:
sudo apt-get  remove vim-common
sudo apt-get install vim
vim 本身的一些配置可依据自己的喜好进行设置。
(4) 安装 jdk:
依据自己须要选择安装路径、
sudo mkdir /usr/java
tar -zxvf jdk-7u60-linux-i586.gz
mv jdk-1.7.0 jdk(改动名字 能够不设置(最好))
ubuntu 下安装伪分布式 hadoop
删除安装包:
ubuntu 下安装伪分布式 hadoop
(5)  配置jdk环境:
sudo vim /etc/profile 加入
ubuntu 下安装伪分布式 hadoop
更新一下(必须):source /etc/profile
測试一下:
ubuntu 下安装伪分布式 hadoop
jdk 完毕。
(6) ssh 免password:
一般ssh-client 包括在ubuntu系统中,可是ssh-server并没有 安装,能够通过 ssh ip 測试下;
安装ssh-server: sudo apt-get install ssh
安装之后进行操作:
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">

生成:
ubuntu 下安装伪分布式 hadoop

ubuntu 下安装伪分布式 hadoop

ubuntu 下安装伪分布式 hadoop

ssh 能够登录。
(7) 安装hadoop
能够先创建一个hadoop到目录:
sudo mkdir /usr/hadoop
cd /usr/hadoop/
sudo tar -zxvf hadoop-1.2.1.tar.gz
sudo mv hadoop-1.2.1 hadoop
sudo chown -R hadoop:hadoop hadoop 将目录hadoop 读权限赋予hadoop用户
sudo rm -rf hadoop-1.2.1.tar.gz
安装之后须要进行配置:
配置 /etc/profile 加入:
sudo vim /etc/profile
ubuntu 下安装伪分布式 hadoop
配置hadoop-env.sh文件:
sudo vim /usr/hadoop/conf/hadoop-env.sh:
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">


建立一个目录:用于配置hadoop.tmp.dir參数:
sudo mkdir /usr/hadoop/tmp

配置核心文件:
core-site.xml:
ubuntu 下安装伪分布式 hadoop

hdfs-site.xml:
ubuntu 下安装伪分布式 hadoop

mapred-site.xml:
ubuntu 下安装伪分布式 hadoop

启动:因为前面配置 输入:
格式化节点:
hadoop namenode -format
启动:start-all.sh
jps 查看
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">

停止:stop-all.sh 

(8)安装eclipse
同上 先创建一个目录 解压安装....
ubuntu 下安装伪分布式 hadoop
进去启动eclipse 遇到个小问题:
      eclipse找不到jdk 或是jre
解决:
cd /home/hadoop/eclipse (安装eclipse)
sudo ln -sf $JRE_HOME jre
就是这个:
ubuntu 下安装伪分布式 hadoop
进行eclipse 配置hadoop 将相关连的插件 拷贝到 eclipse下到plugins目录里面:
ubuntu 下安装伪分布式 hadoop

启动 eclipse:
 window->perferences:
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">

hadoop的安装文件夹。
设置:
右键以下的空白区域:
ubuntu 下安装伪分布式 hadoop
出现:并配置
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">


ubuntu 下安装伪分布式 hadoop
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">


点开左側小象:
ubuntu 下安装伪分布式 hadoop

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQveGRfMTIy/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">

eclipse配置完毕。

以后能够在eclipse书写作业  然后到终端进行运行。

配置遇到的问题:
namenode datanode 没有起来:
解决例如以下:
(1)删除 /usr/hadoop/tmp
(2)在创建 : sudo mkdir /usr/hadoop/tmp
(3)删除 /tmp目录下 全部以hadoop开头的文件:
sudo rm -rf /tmp/hadoop*
(4)又一次格式化:
hadoop namenode -format
(5)启动 
start-all.sh