在线客服
扫描二维码
下载博学谷APP扫描二维码
关注博学谷微信公众号
大数据时代的浪潮袭来,Hadoop作为一种用来处理海量数据分析的工具,是每一个大数据开发者必须要学习和掌握的利器。本文总结了Hadoop入门基础知识,主要包括了Hadoop概述、Hadoop的发展历程和Hadoop的特性。下面一起来看看吧!
1、Hadoop概述
Hadoop 是 Apache 旗下的一个用 Java 语言实现开源软件框架,它还是一个开发和运行处理大规模数据的软件平台。Hadoop允许使用简单的编程模型,在大量计算机集群上,对大型数据集进行分布式处理。
狭义上说,Hadoop 指 Apache 这款开源框架,它的核心组件有:HDFS(分布式文件系统):解决海量数据存储 ;YARN(作业调度和集群资源管理的框架):解决资源任务调度;MAPREDUCE(分布式运算编程框架):解决海量数据计算。
广义上来说,Hadoop 通常是指一个更广泛的概念——Hadoop 生态圈。当下的 Hadoop 已经成长为一个庞大的体系,随着生态系统的成长,新出现的项目越来越多,其中不乏一些非 Apache 主管的项目,这些项目对 HADOOP 是很好的补充或者更高层的抽象。比如,HDFS: 分 布 式 文 件 系 统;MAPREDUCE:分布式运算程序开发框架;HIVE:基于 HADOOP 的分布式数据仓库,提供基于 SQL 的查询数据操作;HBASE:基于Hadoop的分布式海量数据库;ZOOKEEPER:分布式协调服务基础组件;Mahout:基于 mapreduce/spark/flink 等分布式运算框架的机器学习算法库;OOZIE:工作流调度框架;Sqoop:数据导入导出工具;FLUME:日志数据采集框架;IMPALA:基于 hive 的实时 sql 查询分析。
2、Hadoop的发展历程
Hadoop 是 Apache Lucene 创始人 Doug Cutting 创建的。最早起源于 Nutch, 它是 Lucene 的子项目。Nutch 的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加,遇到了严重的可扩展性问题:如何解决数十亿网页的存储和索引问题。
2003 年 Google 发表了一篇论文为该问题提供了可行的解决方案。论文中描述的是谷歌的产品架构,该架构称为:谷歌分布式文件系统(GFS),可以解决他们在网页爬取和索引过程中产生的超大文件的存储需求。
2004 年 Google 发表论文向全世界介绍了谷歌版的MapReduce 系统。 同时期,Nutch 的开发人员完成了相应的开源实现 HDFS 和 MAPREDUCE,并从Nutch 中剥离成为独立项目 HADOOP,到 2008 年 1 月,HADOOP 成为 Apache 顶级项目,迎来了它的快速发展期。
2006 年 Google 发表了论文是关于 BigTable 的,这促使了后来的 Hbase的发展。 因此,Hadoop 及其生态圈的发展离不开 Google 的贡献。
3、Hadoop的特性
(1)扩容能力:Hadoop 是在可用的计算机集群间分配数据并完成计算任务的,这些集群可用方便的扩展到数以千计的节点中。
(2)成本低:Hadoop 通过普通廉价的机器组成服务器集群来分发以及处理数据,以至于成本很低。
(3)高效率:通过并发数据,Hadoop 可以在节点之间动态并行的移动数据,使得速度非常快。
(4)可靠性:能自动维护数据的多份复制,并且在任务失败后能自动地重新部署计算任务。所以 Hadoop 的按位存储和处理数据的能力值得人们信赖。
4、Hadoop的应用
Hadoop 最受青睐的行业是互联网领域,可以说互联网公司是 hadoop 的主要使用力量。国外来说,Yahoo、Facebook、IBM 等公司都大量使用 hadoop 集群来支撑业务。比如:Yahoo 的 Hadoop 应用在支持广告系统、用户行为分析、支持 Web 搜索等。 Facebook 主要使用 Hadoop 存储内部日志与多维数据,并以此作为报告、分析和机器学习的数据源。
国内来说,BAT 领头的互联网公司是当仁不让的 Hadoop 使用者、维护者。比如 Ali 云梯(14 年国内最大 Hadoop 集群)、百度的日志分析平台、推荐引擎系统等。国内其他非互联网领域也有不少 hadoop 的应用,比如:金融行业的个人征信分析,证券行业的投资模型分析,还有交通行业的车辆、路况监控分析和电信行业的用户上网行为分析 。
Hadoop入门基础知识就分享到这里了,博学谷平台上除了关于大数据的学习干货之外,还有更专业的学习视频资源,大家如果对于学习大数据感兴趣,不妨现在就开始在线学习吧~
— 申请免费试学名额 —
在职想转行提升,担心学不会?根据个人情况规划学习路线,闯关式自适应学习模式保证学习效果
讲师一对一辅导,在线答疑解惑,指导就业!
相关推荐 更多
大数据Lambda架构概念及应用
Lambda Architecture 概念Mathan Marz的大作Big Data: Principles and best practices of scalable real-time data systems介绍了Lambda Architecture的概念,用于在大数据架构中,如何让real-time与batch job更好地结合起来,以达成对大数据的实时处理。
8599
2020-09-04 17:57:48
大数据Hadoop集群搭建步骤讲解
相信每一个大数据学习者都明白,Hadoop在大数据中的重要地位。Hadoop简称HDFS,它是是大数据的基础,所以大家一定要掌握好Hadoop的相关基础知识。本文主要是详细讲解Hadoop集群的基本概念、搭建步骤及注意事项。
6022
2019-08-22 16:18:16
计算机大数据应用技术就业前景怎么样?
计算机大数据应用技术就业前景怎么样?作为目前最为广泛和热门的新兴技术,计算机大数据应用技术的意义不在于存储海量的的数据信息,而在于对这些数据进行专业化处理,从而更好地辅助工作中的各项决策。因此,掌握了计算机大数据应用技术,其就业前景自然广阔明亮无比。关于大数据的更多就业方向选择,我们可以看看以下的具体分析。
11982
2020-01-14 15:33:07
想要进入大数据行业应该先了解什么?
想要进入大数据行业应该先了解什么?如今在国内,大数据的应用才刚刚萌芽,人才市场还不那么成熟,而且小编认为各行各业对大数据人员专业要求各不相同,所以先了解行业情况在深入。
4664
2020-03-26 14:32:30
什么是数据分析?数据分析的概念理解
众所周知,数据分析已然成为我们生活和工作中必不可缺的一部分。我们常常在当下听到的数据分析被频繁的提及,但是你真的了解数据分析的意思吗?究竟什么是数据分析呢?简单来讲,数据分析离不开数据,计量和记录一起促成了数据的诞生。下面我们一起来看看数据分析的概念理解。
12861
2020-06-02 10:35:05