Spark入门:流计算简介

大数据技术原理与应用

【版权声明】博客内容由厦门大学数据库实验室拥有版权,未经允许,请勿转载!
[返回Spark教程首页]

数据总体上可以分为静态数据和流数据。对静态数据和流数据的处理,对应着两种截然不同的计算模式:批量计算和实时计算。批量计算以“静态数据”为对象,可以在很充裕的时间内对海量数据进行批量处理,计算得到有价值的信息。Hadoop就是典型的批处理模型,由HDFS和HBase存放大量的静态数据,由MapReduce负责对海量数据执行批量计算。流数据必须采用实时计算,实时计算最重要的一个需求是能够实时得到计算结果,一般要求响应时间为秒级。当只需要处理少量数据时,实时计算并不是问题;但是,在大数据时代,不仅数据格式复杂、来源众多,而且数据量巨大,这就对实时计算提出了很大的挑战。因此,针对流数据的实时计算——流计算,应运而生。

总的来说,流计算秉承一个基本理念,即数据的价值随着时间的流逝而降低。因此,当事件出现时就应该立即进行处理,而不是缓存起来进行批量处理。为了及时处理流数据,就需要一个低延迟、可扩展、高可靠的处理引擎。对于一个流计算系统来说,它应达到如下需求。
* • 高性能。处理大数据的基本要求,如每秒处理几十万条数据。
* • 海量式。支持TB级甚至是PB级的数据规模。
* • 实时性。必须保证一个较低的延迟时间,达到秒级别,甚至是毫秒级别。
* • 分布式。支持大数据的基本架构,必须能够平滑扩展。
* • 易用性。能够快速进行开发和部署。
* • 可靠性。能可靠地处理流数据。

图10-3-流计算示意图
图 流计算示意图

目前,市场上有很多流计算框架,比如Twitter Storm和Yahoo! S4等。Twitter Storm是免费、开源的分布式实时计算系统,可简单、高效、可靠地处理大量的流数据;Yahoo! S4开源流计算平台,是通用的、分布式的、可扩展的、分区容错的、可插拔的流式系统。

流计算处理过程包括数据实时采集、数据实时计算和实时查询服务。
* 数据实时采集:数据实时采集阶段通常采集多个数据源的海量数据,需要保证实时性、低延迟与稳定可靠。以日志数据为例,由于分布式集群的广泛应用,数据分散存储在不同的机器上,因此需要实时汇总来自不同机器上的日志数据。目前有许多互联网公司发布的开源分布式日志采集系统均可满足每秒数百MB的数据采集和传输需求,如Facebook的Scribe、LinkedIn的Kafka、淘宝的TimeTunnel,以及基于Hadoop的Chukwa和Flume等。

  • 数据实时计算:流处理系统接收数据采集系统不断发来的实时数据,实时地进行分析计算,并反馈实时结果。
  • 实时查询服务:流计算的第三个阶段是实时查询服务,经由流计算框架得出的结果可供用户进行实时查询、展示或储存。

图10-5-流计算的数据处理流程
图 流计算的数据处理流程

子雨大数据之Spark入门
扫一扫访问本博客