怎么配置Hadoop单机模式并运行Wordcount
本篇内容主要讲解“怎么配置Hadoop单机模式并运行Wordcount”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“怎么配置Hadoop单机模式并运行Wordcount”吧!
创新新互联,凭借十载的成都网站制作、成都网站建设、外贸营销网站建设经验,本着真心·诚心服务的企业理念服务于成都中小企业设计网站有数千家案例。做网站建设,选成都创新互联。
2.安装rsync
我们的Ubuntu 12.10版本默认安装了rsync,我们可以通过以下命令来安装或者更新rsync
3.安装hadoop,家林把下载下来的最新稳定版本的hadoop保存在电脑本地的以下位置:
创建/usr/local/hadoop目录并把下载下来的Hadoop解压/usr/local/hadoop中:
4.在hadoop-env.sh配置Java安装信息.
进入/usr/local/Hadoop/Hadoop-1.2.1/conf
打开hadoop-env.sh:
按下回车即可进入该配置文件:
在前面我们安装Java的时候把Java安装在了“/usr/lib/java/jdk1.7.0_60”,此时我们在hadoop-env.sh配置文件加入如下配置信息
保存退出.
使用source命令使hadoop-env.sh配置信息生效:
此时Hadoop的单机模式配置成功!
为了方便我们在开机启动后也可以立即使用Hadoop的bin目录下的相关命令,可以把bin目录配置到“~/.bashrc”文件中,此时开启启动后系统自动读取“~/.bashrc”文件的内容,我就就可以随时使用Hadoop的命令了:
修改后的文件内容:
保存退出,使用下面的命令使配置生效:
5.验证Hadoop的版本信息,使用“hadoop version”命令即可:
6.运行Hadoop自带的WordCount例子:
首先在hadoop的目录下创建一个input目录并把conf下的所有文件copy到该目录下,需要如下命令即可:
使用hadoop命令运行自带的wordcount程序并把结果输出到output中:
运行过程如下:
一直运行知道完成(因为运行过程有些长,中间省略了一些运行过程,只截取了开始和结束部分):
查看运行结果:
该命令执行后即显示出Wordcount运行input中若干个文件中单词统计结果,如下所示(直截取了其中一部分):
单机模式的构建、配置和运行测试彻底成功!
到此,相信大家对“怎么配置Hadoop单机模式并运行Wordcount”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
网站标题:怎么配置Hadoop单机模式并运行Wordcount
本文链接:http://hbruida.cn/article/ipessg.html