1.1

Flink起源于一个叫作Stratosphere的项目#xff0c;它是由3所地处柏林的…Flink是Apache基金会旗下的一个开源大数据处理框架如今已被很多人认为是大数据实时处理的方向和未来许多公司也都在招聘和储备掌握Flink技术的人才。

1.1

Flink起源于一个叫作Stratosphere的项目它是由3所地处柏林的大学和欧洲其他一些大学共同进行的研究项目由柏林工业大学的教授沃克尔·马尔科Volker

Markl领衔开发。

2014年4月Stratosphere的代码被复制并捐赠给了Apache软件基金会Flink就是在此基础上被重新设计出来的。

⚫2014年8月Flink第一个版本0.6正式发布至于0.5之前的版本那就是在Stratosphere名下的了。

与此同时Fink的几位核心开发者创办了Data

Artisans公司主要做Fink的商业应用帮助企业部署大规模数据处理解决方案。

⚫2014年12月Flink项目完成了孵化一跃成为Apache软件基金会的顶级项目。

⚫2015年4月Flink发布了里程碑式的重要版本0.9.0很多国内外大公司也正是从这时开始关注、并参与到Flink社区建设的。

⚫2019年1月长期对Flink投入研发的阿里巴巴以9000万欧元的价格收购了Data

Artisans公司之后又将自己的内部版本Blink开源继而与8月份发布的Flink1.9.0版本进行了合并。

自此之后Flink被越来越多的人所熟知成为当前最火的新一代大数据处理框架。

由此可见Flink从真正起步到火爆只不过几年时间。

在这短短几年内Flink从最初的第一个稳定版本0.9到目前本书编写期间已经发布到了1.13.0这期间不断有新功能新特性加入。

从一开始Flink就拥有一个非常活跃的社区而且一直在快速成长。

Flink是一个框架和分布式处理引擎如图所示用于对无界和有界数据流进行有状态计算。

Flink被设计在所有常见的集群环境中运行以内存执行速度和任意规模来执行计算。

1.2

Flink是一个大数据流处理引擎它可以为不同的行业提供大数据实时处理的解决方案。

随着Flink的快速发展完善如今在世界范围许多公司都可以见到Flink的身影。

1.2.1

Flink主要的应用场景可以看到各种行业的众多公司都在使用Flink那到底他们用Flink来实现什么需求呢换句话说什么的场景最适合Flink大显身手呢

电商和市场营销举例实时数据报表、广告投放、实时推荐在电商行业中网站点击量是统计PV、UV的重要来源也是如今“流量经济”的最主要数据指标。

很多公司的营销策略比如广告的投放也是基于点击量来决定的。

另外在网站上提供给用户的实时推荐往往也是基于当前用户的点击行为做出的。

我们需要的是直接处理数据流而Flink就可以做到这一点。

物联网IOT举例传感器实时数据采集和显示、实时报警交通运输业物联网是流数据被普遍应用的领域。

各种传感器不停获得测量数据并将它们以流的形式传输至数据中心。

而数据中心会将数据处理分析之后得到运行状态或者报警信息实时地显示在监控屏幕上。

所以在物联网中低延迟的数据传输和处理以及准确的数据分析通常很关键。

物流配送和服务业举例订单状态实时更新、通知信息推送在很多服务型应用中都会涉及订单状态的更新和通知的推送。

这些信息基于事件触发不均匀地连续不断生成处理之后需要及时传递给用户。

这也是非常典型的数据流的处理。

银行和金融业举例实时结算和通知推送实时检测异常行为银行和金融业是另一个典型的应用行业。

在全球化经济中能够提供24小时服务变得越来越重要。

现在交易和报表都会快速准确地生成我们跨行转账也可以做到瞬间到账还可以接到实时的推送通知。

这就需要我们能够实时处理数据流。

1.3

Flink的主要应用场景就是处理大规模的数据流。

那为什么一定要用Flink呢数据处理还有没有其他的方式要解答这个疑惑我们就需要先从流处理和批处理的概念讲起。

1.3.1

对于具体应用来说有些场景数据是一个一个来的是一组有序的数据序列我们把它叫作“数据流”而有些场景的数据本身就是一批同时到来是一个有限的数据集这就是批量数据有时也直接叫数据集。

容易想到处理数据流当然应该“来一个就处理一个”这种数据处理模式就叫作流处理因为这种处理是即时的所以也叫实时处理。

与之对应处理批量数据自然就应该一批读入、一起计算这种方式就叫作批处理也叫作离线处理。

在IT应用场景中数据的生成一般都是流式的。

企业的绝大多数应用程序都是在不停地接收用户请求、记录用户行为和系统日志或者持续接收采集到的状态信息。

所以数据会在不同的时间持续生成形成一个有序的数据序列——这就是典型的数据流。

所以流数据更真实地反映了我们的生活方式。

真实场景中产生的一般都是数据流。

显然对于流式数据用流处理是最好、也最合理的方式。

但我们知道传统的数据处理架构并不是这样。

无论是关系型数据库、还是数据仓库都倾向于先“收集数据”然后再进行处理。

为什么不直接用流处理的方式呢这是因为分布式批处理在架构上更容易实现。

想想生活中发消息聊天的例子我们就很容易理解了如果来一条消息就立即处理“微信秒回”这样做一定会很受人欢迎但是这要求自己必须时刻关注新消息这会耗费大量精力工作效率会受到很大影响。

如果隔一段时间查一下新消息做个“批处理”压力明显就小多了。

当然这样的代价就是可能无法及时处理有些消息造成一定的后果。

1.3.2

flink通过巧妙的设计完美解决了乱序数据对结果正确性所造成的影响。

这一代系统还做到了精确一次exactly-once的一致性保障是第一个具有一致性和准确结果的开源流处理器。

另外先前的流处理器仅能在高吞吐和低延迟中二选一而新一代系统能够同时提供这两个特性。

所以可以说这一代流处理器仅凭一套系统就完成了Lambda架构两套系统的工作它的出现使得Lambda架构黯然失色。

除了低延迟、容错和结果准确性之外新一代流处理器还在不断添加新的功能例如高可用的设置以及与资源管理器如YARN或Kubernetes的紧密集成等等。

1.4

⚫结果的准确性。

Flink提供了事件时间event-time和处理时间processing-time语义。

对于乱序事件流事件时间语义仍然能提供一致且准确的结果。

Kafka、Apache

Cassandra、Elasticsearch、JDBC、Kinesis和分布式文件系统如HDFS和S3。

⚫高可用。

本身高可用的设置加上与K8sYARN和Mesos的紧密集成再加上从故障中快速恢复和动态扩展任务的能力Flink能做到以极少的停机时间实现7×24全天候运行。

⚫能够更新应用程序代码并将作业jobs迁移到不同的Flink集群而不会丢失应用程序的状态。

1.4.2

除了上述这些特性之外Flink还是一个非常易于开发的框架因为它拥有易于使用的分层API整体API分层下图所示。

1.5

Spark是一个通用大规模数据分析引擎。

它提出的内存计算概念让大家耳目一新得以从Hadoop繁重的MapReduce程序中解脱出来可以说是划时代的大数据处理框架。

除了计算速度快、可扩展性强Spark还为批处理SparkSQL、流处理SparkStreaming、机器学习SparkMLlib、图计算SparkGraphX提供了统一的分布式数据处理平台整个生态经过多年的蓬勃发展已经非常完善。

然而正在大家认为Spark已经如日中天、即将一统天下之际Flink如一颗新星异军突起使得大数据处理的江湖再起风云。

很多读者在最初接触都会有这样的疑问想学习一个大数据处理框架到底选择Spark还是Flink呢

1.5.1

从根本上说Spark和Flink采用了完全不同的数据处理方式。

可以说两者的世界观是截然相反的。

Spark以批处理为根本并尝试在批处理之上支持流计算在Spark的世界观中万物皆批次离线数据是一个大批次而实时数据则是由一个一个无限的小批次组成的。

所以对于流处理框架Spark

Streaming而言其实并不是真正意义上的“流”处理而是“微批次”micro-batching处理如图所示

而Flink则认为流处理才是最基本的操作批处理也可以统一为流处理。

在Flink的世界观中万物皆流实时数据是标准的、没有界限的流而离线数据则是有界限的流。

无界数据流Unbounded

所谓无界数据流就是有头没尾数据的生成和传递会开始但永远不会结束如图1-9所示。

我们无法等待所有数据都到达因为输入是无界的永无止境数据没有“都到达”的时候。

所以对于无界数据流必须连续处理也就是说必须在获取数据后立即处理。

在处理无界流时为了保证结果的正确性我们必须能够做到按照顺序处理数据。

有界数据流Bounded

对应的有界数据流有明确定义的开始和结束如图1-9所示所以我们可以通过获取所有数据来处理有界流。

处理有界流就不需要严格保证数据的顺序了因为总可以对有界数据集进行排序。

有界流的处理也就是批处理。

有界流和无界流

正因为这种架构上的不同Spark和Flink在不同的应用领域上表现会有差别。

一般来说Spark

基于微批处理的方式做同步总有一个“攒批”的过程所以会有额外开销因此无法在流处理的低延迟上做到极致。

在低延迟流处理场景Flink

已经有明显的优势。

而在海量数据的批处理领域Spark能够处理的吞吐量更大加上其完善的生态和成熟易用的API目前同样优势比较明显。

1.5.2

Spark和Flink在底层实现最主要的差别就在于数据模型不同。

Streaming

进行微批处理的底层接口DStream实际上处理的也是一组组小批数据RDD的集合。

可以看出Spark在设计上本身就是以批量的数据集作为基准的更加适合批处理的场景。

而Flink的基本数据模型是数据流DataFlow以及事件Event序列。

Flink基本上是完全按照Google的DataFlow模型实现的所以从底层数据模型上看Flink是以处理流式数据作为设计目标的更加适合流处理的场景。

数据模型不同对应在运行处理的流程上自然也会有不同的架构。

Spark做批计算需要将任务对应的DAG划分阶段Stage一个完成后经过shuffle再进行下一阶段的计算。

而Flink是标准的流式执行模式一个事件在一个节点处理完后可以直接发往下一个节点进行处理。

1.5.3

通过前文的分析我们已经可以看出Spark和Flink可以说目前是各擅胜场批处理领域Spark称王而在流处理方面Flink当仁不让。

具体到项目应用中不仅要看是流处理还是批处理还需要在延迟、吞吐量、可靠性以及开发容易度等多个方面进行权衡。

如果在工作中需要从Spark和Flink这两个主流框架中选择一个来进行实时流处理更加推荐使用Flink主要的原因有

⚫Flink的延迟是毫秒级别而SparkStreaming的延迟是秒级延迟。

加快编程效率,

当然在海量数据的批处理方面Spark还是具有明显的优势。

而且Spark的生态更加成熟也会使其在应用中更为方便。

相信随着Flink的快速发展和完善这方面的差距会越来越小。

另外Spark

Streaming流处理引擎借鉴DataFlow进行了大量优化同样做到了低延迟、时间正确性以及精确一次性语义保证Spark

Processing模式更是可以在至少一次语义保证下做到1毫秒的延迟。

而Flink自1.9版本合并Blink以来在SQL的表达和批处理的能力上同样有了长足的进步。