在线客服
扫描二维码
下载博学谷APP扫描二维码
关注博学谷微信公众号
如今,大数据的大浪已经把我们每个人都卷入其中,随着大数据技术一起引起大众注意的还有HIve数据仓库。作为大数据分析的核心工具之一,它一直发挥着为企业提供决策支持的重要作用。因此掌握Hive是入门大数据学习的关键之一,下面我们就一起来看看HIve数据仓库应用案例讲解。
将本地文件数据加载到Hive数据仓库:
首先在/public/users/yexin/Hadoop/hadoopdata下建立文本文件:
Hive中建立表后只有两种方式可以加载数据:
(1)从本地文件系统加载数据
(2)从Hadoop文件系统加载数据
在node63节点启动hive服务:分别输入:hive --service metastore &;hive --service hiveserver2或直接输
入hiveserver2
在node70节点下输入hive登陆,执行如下操作,
创建表:
hive> CREATE TABLE score (
> sno int,name String,
> java decimal(10,2),
> python decimal(10,2))
> ROW FORMAT DELIMITED
> FIELDS TERMINATED BY '\t'
> LINES TERMINATED BY '\n'
> STORED AS TEXTFILE;
OK
Time taken: 0.429 seconds
导入数据:从本地系统文件按导入
Time taken: 0.429 seconds
hive> load data local inpath '/public/users/yexin/Hadoop/hadoopdata/score.txt' overwrite into table
score;
Loading data to table yexin.score
OK
Time taken: 1.413 seconds
查询score表:
查看HDFS数据:
查看元数据:
use hive;
删除表:drop tabel score? 记住删除表时HDFS上的数据一起删除了。
注意:如果建立的是外部表,drop后HDFS中的文件并没有删除
Beelin命令:
设置访问权限:修改hadoop的core-site.xml
用其他节点作为客户端,需要在node63节点配置hive2的监听节点端口,才能让远程访问hive服务(beeline)
vim hive-site.xml
添加:来绑定node70客户端访问 。这样远程就可以访问了。
<property>
<name>hive.server2.thrift.bind.host</name>
<value>node70</value>
</property>
<property>
<name>hive.server2.long.polling.timeout</name>
<value>5000</value>
</property>
在node70节点(hive的客户端)来连接HiveServer2(允许多个客户端并发操作)
输入:beeline进入beeline,输入:
!connect jdbc:hive2://node70:10000 yexin 12345
以上就是HIve数据仓库应用案例讲解分析,不知道大家都弄清楚了吗?如果对于HIve数据仓库还有深入的学习需求,可以上博学谷官网报名免费大数据相关课程。
— 申请免费试学名额 —
在职想转行提升,担心学不会?根据个人情况规划学习路线,闯关式自适应学习模式保证学习效果
讲师一对一辅导,在线答疑解惑,指导就业!
相关推荐 更多
云计算大数据在线培训班靠不靠谱?
如今,云计算和大数据已经成为了未来的发展趋势。在时代潮流的要求下,不少人纷纷想进入云计算大数据行业,然而自学难度大、时间长、效率低,那么到底应该如何进入该行业呢?参加云计算大数据在线培训班可以说是一个有效的方法。然而,也有不少人会担心,云计算大数据在线培训班靠不靠谱?下面小编将从课程内容、师资力量和教学方式,为大家全面分析一下云计算大数据在线培训班。
6463
2019-12-30 21:18:38
Hadoop集群动态扩容讲解
今天本文要讲解的是Hadoop集群动态扩容的内容,那么什么是动态扩容呢?数据量随着公司业务的增长越来越大,原有的datanode节点的容量,已经不能满足存储数据的需求,需要在原有集群基础上,动态添加新的数据节点,这就是我们说的动态扩容。下面一起来看看基础准备、添加datanode、datanode负载均衡服务、添加nodemanager等相关内容吧~
6433
2020-06-08 10:56:55
大数据智能与人工智能的联系和区别
现在进入了互联网时代,提出人工智能概念,人工智能已经在多个领域中实践,比如无人驾驶、图像识别、语音识别等领域。大数据不断采集、沉淀、分类等积累数据,人工智能基于大数据的支持和采集,运用于人工设定的特定性能和运算方式来实现。
6510
2020-07-27 16:48:30
Pandas如何分块处理大文件?
在处理快手的用户数据时,碰到600M的txt文本,用sublime打开蹦了,用pandas.read_table()去读竟然花了小2分钟,打开有3千万行数据。仅仅是打开,要处理的话不知得多费劲。解决方法:读取文件的函数有两个参数:chunksize、iterator。原理分多次不一次性把文件数据读入内存中。
5496
2020-08-14 16:16:47
大数据开发工程师必备技能有哪些?
大数据开发工程师必备技能有哪些?随着全行业数字化转型和新基建时代的到来,对技术人才提出了更高的要求。不管是面试还是实际工作过程中,数据工程师要时时刻刻面对这些层出不穷的技术演进。
4199
2021-01-29 14:50:23