热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

大数据入门,告诉你什么是大数据以及应用场景

什么是大数据?   基 本 概 念:                                                                    

什么是大数据?

 

 基 本 概 念:

 

                                                                                    《数 据 处 理》

    在互联网技术发展到现今阶段,大量日常、工作等事务产生的数据都已经信息化,人类产生的数据量相比以前有了爆炸式的增长,以前的传统的数据处理技术已经无法胜任,需求催生技术,一套用来处理海量数据的软件工具应运而生,这就是大数据!

 

处理海量数据的核心技术:

海量数据存储:分布式

海量数据运算:分布式

 

这些核心技术的实现是不需要用户从零开始造轮子的

存储和运算,都已经有大量的成熟的框架来用

 

存储框架:

HDFS——分布式文件存储系统(HADOOP中的存储框架)

HBASE——分布式数据库系统

KAFKA——分布式消息缓存系统(实时流式数据处理场景中应用广泛)

 

运算框架:(要解决的核心问题就是帮用户将处理逻辑在很多机器上并行)

MAPREDUCE—— 离线批处理/HADOOP中的运算框架

SPARK —— 离线批处理/实时流式计算

STORM —— 实时流式计算

 

辅助类的工具(解放大数据工程师的一些繁琐工作):

    HIVE —— 数据仓库工具:可以接收sql,翻译成mapreduce或者spark程序运行

   FLUME——数据采集

   SQOOP——数据迁移

   ELASTIC SEARCH —— 分布式的搜索引擎

.......

 

 

换个角度说,大数据是:

  1. 有海量的数据
  2. 有对海量数据进行挖掘的需求
  3. 有对海量数据进行挖掘的软件工具(hadoop、spark、storm、flink、tez、impala......)

 

 

大数据在现实生活中的具体应用

 

数据处理的最典型应用:公司的产品运营情况分析

 

电商推荐系统:基于海量的浏览行为、购物行为数据,进行大量的算法模型的运算,得出各类推荐结论,以供电商网站页面来为用户进行商品推荐

 

精准广告推送系统:基于海量的互联网用户的各类数据,统计分析,进行用户画像(得到用户的各种属性标签),然后可以为广告主进行有针对性的精准的广告投放


推荐阅读
author-avatar
哈王豐3_408
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有