大家好，又见面了，我是你们的朋友全栈君。
HADOOP生态圈以及各组成部分的简介
1各组件简介
重点组件：
HDFS：分布式文件系统
MAPREDUCE：分布式运算程序开发框架
HIVE：基于大数据技术（文件系统+运算框架）的SQL数据仓库工具
HBASE：基于HADOOP的分布式海量数据库
ZOOKEEPER：分布式协调服务基础组件
Mahout：基于mapreduce/spark/flink等分布式运算框架的机器学习算法库
Oozie：工作流调度框架（Azakaba）
Sqoop：数据导入导出工具
Flume：日志数据采集框架
2. 数据分析流程介绍
初步理解hadoop数据如何处理流程
一个应用广泛的数据分析系统：“web日志数据挖掘”
2.1 案例需求描述
“Web点击流日志”包含着网站运营很重要的信息，通过日志分析，我们可以知道网站的访问量，哪个网页访问人数最多，哪个网页最有价值，广告转化率、访客的来源信息，访客的终端信息等。
2.2 数据来源
本案例的数据主要由用户的点击行为记录
获取方式：在页面预埋一段js程序，为页面上想要监听的标签绑定事件，只要用户点击或移动到标签，即可触发ajax请求到后台servlet程序，用log4j记录下事件信息，从而在web服务器（nginx、tomcat等）上形成不断增长的日志文件。
2.3 数据流程解析
本案例跟典型的BI系统极其类似，整体流程如下：
但是，由于本案例的前提是处理海量数据，因而，流程中各环节所使用的技术则跟传统BI完全不同，后续课程都会一一讲解：
- 数据采集：定制开发采集程序，或使用开源框架FLUME
- 数据预处理：定制开发mapreduce程序运行于hadoop集群
- 数据仓库技术：基于hadoop之上的Hive
- 数据导出：基于hadoop的sqoop数据导入导出工具
- 数据可视化：定制开发web程序或使用kettle等产品
- 整个过程的流程调度：hadoop生态圈中的oozie工具或其他类似开源产品
2.4 项目技术架构图
2.5 项目最终效果
经过完整的数据处理流程后，会周期性输出各类统计指标的报表，在生产实践中，最终需要将这些报表数据以可视化的形式展现出来，本案例采用web程序来实现数据可视化
效果如下所示：
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/143628.html原文链接：https://javaforall.net
