• 【Hadoop】2、Hadoop高可用集群部署

    时间:2024-01-15 22:30:02

    1.服务器设置集群规划Namenode-Hadoop管理节点10.25.24.9210.25.24.93Datanode-Hadoop数据存储节点10.25.24.8910.25.24.9010.25.24.91Zookeeper—高可用推举机制1-    标识需要安装NN-namenodeDN-d...

  • MapReduce编程入门实例之WordCount:分别在Eclipse和Hadoop集群上运行

    时间:2024-01-15 08:15:36

    上一篇博文如何在Eclipse下搭建Hadoop开发环境,今天给大家介绍一下如何分别分别在Eclipse和Hadoop集群上运行我们的MapReduce程序!1. 在Eclipse环境下运行MapReduce程序(WordCount程序)首先看一下我的项目结构和WordCount程序:其中word....

  • 用Docker在一台笔记本电脑上搭建一个具有10个节点7种角色的Hadoop集群(上)-快速上手Docker

    时间:2024-01-14 22:12:24

    如果想在一台电脑上搭建一个多节点的Hadoop集群,传统的方式是使用多个虚拟机。但这种方式占用的资源比较多,一台笔记本能同时运行的虚拟机的数量是很有限的。这个时候我们可以使用Docker。Docker可以看做是一种轻量级的虚拟机,占用资源少,用起来和传统的虚拟机很像,使用的时候可以类比VMware或...

  • 在Ubuntu14.10中部署Hadoop2.6.0单节点伪分布集群

    时间:2024-01-13 23:01:26

    1. 环境信息如下:ubuntu:14.10jdk:openjdk-1.7.0hadoop:2.6.02. 下载hadoop2.6.0, http://apache.fayea.com/hadoop/common/hadoop-2.6.0/hadoop-2.6.0.tar.gz本文的$HADOOP_...

  • Hadoop 2.6.0集群搭建

    时间:2024-01-10 14:17:55

    yum install gccyum install gcc-c++yum install makeyum install autoconfautomake libtool cmakeyum install ncurses-develyum install openssl-develgroupadd...

  • 基于hadoop2.6.0搭建5个节点的分布式集群

    时间:2024-01-09 11:17:24

    1、前言我们使用hadoop2.6.0版本配置Hadoop集群,同时配置NameNode+HA、ResourceManager+HA,并使用zookeeper来管理Hadoop集群2、规划1、主机规划 hadoop1/ 192.168.56.131hadoop2/ 192.168.56.132had...

  • hadoop-1.1.0 rpm + centos 6.3 64虚拟机 + JDK7 搭建分布式集群

    时间:2024-01-06 22:17:28

    第一步 ,环境准备. 宿主机为CentOS6.3 64位,3个虚拟机为CentOS6.3 64位. (注意:有个技巧,可以先创建一台虚拟机,在其上安装好JDK、hadoop后再克隆两台,这样省时又省力。) 操作系统. CentOS 6.3 64hadoop版本 hadoop 1.1.0 rpm 开...

  • 集群RedHat6.5+JDK1.8+Hadoop2.7.3+Spark2.1.1+zookeeper3.4.6+kafka2.11+flume1.6环境搭建步骤

    时间:2024-01-05 14:07:28

    1、RHEL 6.5系统安装配置图解教程(rhel-server-6.5)2、在Linux下安装JDK图文解析3、RedHat6.5上安装Hadoop集群4、RedHat6.5安装Spark集群5、RedHat6.5安装zookeeper集群6、RedHat6.5安装kafka集群7、RedHat6...

  • Hadoop化繁为简-从安装Linux到搭建集群环境

    时间:2024-01-04 19:20:54

    简介与环境准备hadoop的核心是分布式文件系统HDFS以及批处理计算MapReduce。近年,随着大数据、云计算、物联网的兴起,也极大的吸引了我的兴趣,看了网上很多文章,感觉还是云里雾里,很多不必要的配置都在入门教程出现。通过思考总结与相关教程,我想通过简单的方式传递给同样想入门hadoop的同学...

  • apach hadoop2.6 集群利用Phoenix 4.6-hbase 批量导入并自动创建索引

    时间:2024-01-03 16:15:15

    基础环境:1、安装apach 版本hadoop2.62、部署hbase1.0.03、下载phoenix-4.6.0-HBase-1.0。下载地址(http://mirror.nus.edu.sg/apache/phoenix/phoenix-4.6.0-HBase-1.0/bin/phoenix-4...

  • CentOS7 安装Hadoop集群环境

    时间:2023-12-31 20:55:52

    先按照上一篇安装与配置好CentOS以及zookeeperhttp://www.cnblogs.com/dopeter/p/4609276.html本章介绍在CentOS搭建Hadoop集群环境一、 安装Hadoop1. 解压文件tar -zxvf hadoop-2.7.0-x64.tar.gz -...

  • Apache Hadoop集群安装(NameNode HA + SPARK + 机架感知)

    时间:2023-12-28 15:39:42

    1、主机规划序号主机名IP地址角色1nn-1192.168.9.21NameNode、mr-jobhistory、zookeeper、JournalNode2nn-2192.168.9.22Secondary NameNode、JournalNode3dn-1192.168.9.23DataNode...

  • linux hadoop 集群安装步骤

    时间:2023-12-28 15:18:10

    http://blog.csdn.net/xjavasunjava/article/details/120136771,时间同步hadoop集群的每台机器的时间不能相差太大。安装集群前最好进行一下时间同步:ntpdate stdtime.gov.hk 跟标准时间同步date 查看本机时间2,无...

  • 1.Hadoop集群安装部署

    时间:2023-12-28 15:14:48

    Hadoop集群安装部署1.介绍(1)架构模型(2)使用工具VMWAREcenos7XshellXftpjdk-8u91-linux-x64.rpmhadoop-2.7.3.tar.gz2.安装步骤(1)部署master创建一台虚拟机修改ip这里请参考:VMWARE虚拟机中CentOs7网络连接Xf...

  • hadoop集群安装

    时间:2023-12-28 15:09:32

    首现非常感谢 虾皮(http://www.cnblogs.com/xia520pi/archive/2012/05/16/2503949.html) 安装过程是参照他的《Hadoop集群(第5期)_Hadoop安装配置》进行配置安装的,但是安装过程中出现了一些细节问题,特此在这做个记录,有遇到和我相...

  • Apache Hadoop集群安装(NameNode HA + YARN HA + SPARK + 机架感知)

    时间:2023-12-28 15:08:47

    1、主机规划序号主机名IP地址角色1nn-1192.168.9.21NameNode、mr-jobhistory、zookeeper、JournalNode2nn-2192.168.9.22Secondary NameNode、JournalNode3dn-1192.168.9.23DataNode...

  • 2 Hadoop集群安装部署准备

    时间:2023-12-28 15:08:34

    2 Hadoop集群安装部署准备集群安装前需要考虑的几点硬件选型--CPU、内存、磁盘、网卡等--什么配置?需要多少?网络规划--1 GB? 10 GB?--网络拓扑?操作系统选型及基础环境--Linux?Windows?什么版本?--哪些基础环境?Hadoop版本选型--Apache? CDH?H...

  • Apache Hadoop 集群安装文档

    时间:2023-12-28 15:03:47

    简介:Apache Hadoop 集群安装文档软件:jdk-8u111-linux-x64.rpm、hadoop-2.8.0.tar.gzhttp://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.8.0/hadoop-2.8.0.tar....

  • hadoop集群安装故障解决

    时间:2023-12-28 14:51:59

    nodemanager进程解决:http://blog.csdn.net/baiyangfu_love/article/details/13504849编译安装:http://blog.csdn.net/ilovemilk/article/details/44465487hadoop默认不提供64位...

  • Hadoop集群系类文章

    时间:2023-12-28 11:52:09

    http://www.cnblogs.com/xia520pi/archive/2012/04/08/2437875.html后续文章地址:http://www.xiapistudio.com/taste-page