Apache Flink

✍ dations ◷ 2025-02-24 02:21:38 #Articles with missing Cite arXiv inputs,自由系统软件,使用Apache许可证的软件,Apache软件基金会,用Java编

Apache Flink是由Apache软件基金会开发的开源流处理框架,其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和管道方式执行任意流数据程序,Flink的流水线运行时系统可以执行批处理和流处理程序。此外,Flink的运行时本身也支持迭代算法的执行。

Flink提供高吞吐量、低延迟的流数据引擎以及对事件-时间处理和状态管理的支持。Flink应用程序在发生机器故障时具有容错能力,并且支持exactly-once语义。程序可以用Java、Scala、Python和SQL等语言编写,并自动编译和优化到在集群或云环境中运行的数据流程序。

Flink并不提供自己的数据存储系统,但为Amazon Kinesis、Apache Kafka、Alluxio、HDFS、Apache Cassandra和Elasticsearch等系统提供了数据源和接收器。

Apache Flink是由Apache软件基金会内的Apache Flink社区基于Apache许可证2.0开发的,该项目已有超过100位代码提交者和超过460贡献者。 页面存档备份,存于互联网档案馆

data Artisans 页面存档备份,存于互联网档案馆是由Apache Flink的创始人创建的公司。目前,该公司已聘用了12个Apache Flink的代码提交者。

Apache Flink的数据流编程模型在有限和无限数据集上提供单次事件(event-at-a-time)处理。在基础层面,Flink程序由流和转换组成。 “从概念上讲,流是一种(可能永无止境的)数据流记录,转换是一种将一个或多个流作为输入并因此产生一个或多个输出流的操作”。

Apache Flink包括两个核心API:用于有界或无界数据流的数据流API和用于有界数据集的数据集API。Flink还提供了一个表API,它是一种类似SQL的表达式语言,用于关系流和批处理,可以很容易地嵌入到Flink的数据流和数据集API中。Flink支持的最高级语言是SQL,它在语义上类似于表API,并将程序表示为SQL查询表达式。

Flink程序在执行后被映射到流数据流,每个Flink数据流以一个或多个源(数据输入,例如消息队列或文件系统)开始,并以一个或多个接收器(数据输出,如消息队列、文件系统或数据库等)结束。Flink可以对流执行任意数量的变换,这些流可以被编排为有向无环数据流图,允许应用程序分支和合并数据流。

Flink提供现成的源和接收连接器,包括Apache Kafka、Amazon Kinesis、HDFS和Apache Cassandra等。

Flink程序可以作为集群内的分布式系统运行,也可以以独立模式或在YARN、Mesos、基于Docker的环境和其他资源管理框架下进行部署。

Apache Flink具有一种基于分布式检查点的轻量级容错机制。 检查点是应用程序状态和源流中位置的自动异步快照。在发生故障的情况下,启用了检查点的Flink程序将在恢复时从上一个完成的检查点恢复处理,确保Flink在应用程序中保持一次性(exactly-once)状态语义。检查点机制暴露应用程序代码的接口,以便将外部系统包括在检查点机制中(如打开和提交数据库系统的事务)。

Flink还包括一种名为保存点的机制,它是一种手动触发的检查点。用户可以生成保存点,停止正在运行的Flink程序,然后从流中的相同应用程序状态和位置恢复程序。 保存点可以在不丢失应用程序状态的情况下对Flink程序或Flink群集进行更新。从Flink 1.2开始,保存点还允许以不同的并行性重新启动应用程序,这使得用户可以适应不断变化的工作负载。

Flink的数据流API 页面存档备份,存于互联网档案馆支持有界或无界数据流上的转换(如过滤器、聚合和窗口函数),包含了20多种不同类型的转换,可以在Java和Scala中使用。

有状态流处理程序的一个简单Scala示例是从连续输入流发出字数并在5秒窗口中对数据进行分组的应用:

import org.apache.flink.streaming.api.scala._import org.apache.flink.streaming.api.windowing.time.Timecase class WordCount(word: String, count: Int)object WindowWordCount {  def main(args: Array) {    val env = StreamExecutionEnvironment.getExecutionEnvironment    val text = env.socketTextStream("localhost", 9999)    val counts = text.flatMap { _.toLowerCase.split("\\W+") filter { _.nonEmpty } }      .map { WordCount(_, 1) }      .keyBy("word")      .timeWindow(Time.seconds(5))      .sum("count")    counts.print    env.execute("Window Stream WordCount")  }}

Apache Beam - Flink Runner

Apache Beam“提供了一种高级统一编程模型,允许(开发人员)实现可在在任何执行引擎上运行批处理和流数据处理作业”。Apache Flink-on-Beam运行器是功能最丰富的、由Beam社区维护的能力矩阵。

data Artisans与Apache Flink社区一起,与Beam社区密切合作,开发了一个强大的Flink runner。

Flink的数据集API 页面存档备份,存于互联网档案馆支持对有界数据集进行转换(如过滤、映射、连接和分组),包含了20多种不同类型的转换。 该API可用于Java、Scala和实验性的Python API。Flink的数据集API在概念上与数据流API类似。

Flink的表API 页面存档备份,存于互联网档案馆是一种类似SQL的表达式语言,用于关系流和批处理,可以嵌入Flink的Java和Scala数据集和数据流API中。表API和SQL接口在关系表抽象上运行,可以从外部数据源或现有数据流和数据集创建表。表API支持关系运算符,如表上的选择、聚合和连接等。

也可以使用常规SQL查询表。表API提供了和SQL相同的功能,可以在同一程序中混合使用。将表转换回数据集或数据流时,由关系运算符和SQL查询定义的逻辑计划将使用Apache Calcite进行优化,并转换为数据集或数据流程序。

Flink Forward 页面存档备份,存于互联网档案馆是一个关于Apache Flink的年度会议。第一届Flink Forward于2015年在柏林举行。为期两天的会议有来自16个国家的250多名与会者。 会议分为两个部分,Flink开发人员提供30多个技术演示,另外还有一个Flink培训实践。

2016年,350名与会者参加了会议,40多位发言人在3个平行轨道上进行了技术讲座。第三天,与会者被邀请参加实践培训课程。

2017年,该活动也将扩展到旧金山。 会议致力于Flink如何在企业中使用、Flink系统内部、与Flink的生态系统集成以及平台的未来进行技术会谈。它包含主题演讲Flink用户在工业和学术界的讲座以及关于Apache Flink的实践培训课程。

来自以下组织的发言人在Flink Forward会议上发表了演讲:阿里巴巴集团、Amadeus(英语:Amadeus IT Group)、Bouygues Telecom(英语:Bouygues Telecom)、第一资本、Cloudera、data Artisans、EMC、爱立信、Hortonworks、华为、IBM、Google、MapR、MongoDB、Netflix、New Relic(英语:New Relic)、Otto Group(英语:Otto GmbH),Red Hat、ResearchGate、Uber和Zalando。

2010年,研究项目“Stratosphere:云上的信息管理”(由德国研究基金会(DFG)资助)由柏林工业大学、柏林洪堡大学和Hasso-Plattner-Institut合作启动。Flink从Stratosphere的分布式执行引擎的一个分支开始,于2014年3月成为Apache孵化器项目。2014年12月,Flink称为Apache顶级项目。

相关

  • 前驱物前体(英文:precursor),又称前驱物。在化学领域,前体是一种可以参与化学反应的化学物质,其反应结果是生成另一种化学物质。一个简单的例子是,甲烷可称作一氯甲烷的前体。在生物化学
  • 代盖赫利耶省代盖赫利耶省(阿拉伯语:محافظة الدقهلية‎),是埃及二十九省之一,位于该国尼罗河三角洲东北部。首府曼苏拉。面积3,471平方公里,人口4,985,187人(2006年统计)。
  • 孤束核孤束核(英文:Nucleus of the solitary tract;拉丁文:Nucleus tractus solitarii,缩写:NTS)是延髓灰质内的一组柱状神经核(英语:Nucleus (neuroanatomy))。于孤束核内的神经纤维称为孤
  • 马修·梅塞尔森马修·梅瑟生(英语:Matthew Stanley Meselson,1930年5月24日-),美国遗传学家与分子生物学家,曾经对DNA复制、重组与DNA修复等作用做过重要研究。
  • 技术中心主义技术中心主义,是当代绿色政治的一个理念流派,是环境伦理学的一种研究视角。它是一种有关生态和环境保护的思想流派和解决问题的思路,与此相对是生态中心主义。这里的技术是广义
  • 陈旭麓陈旭麓(1918年3月31日-1988年12月1日),初名陈修禄,湖南省湘乡县(今双峰县)人,中国历史学家。1943年毕业于大夏大学(今华东师范大学)历史社会学系,1940年代曾任大夏大学、圣约翰大学教授
  • 利奥波德王储 (安哈尔特)利奥波德·弗里德里希·弗朗茨·恩斯特(德语:Leopold Friedrich Franz Ernst;1855年7月18日-1886年2月2日),出生于德绍。安哈尔特王储。是安哈尔特公爵弗里德里希一世与萨克森-阿
  • BTOOOM!《BTOOOM!》(日语:ブトゥーム;中文:惊爆游戏)是日本漫画家井上淳哉的漫画作品。2009年6月19日(29号)至2010年8月27日(39号,最终号)在新潮社旗下青年漫画杂志《周刊Comic Bunch》上连载
  • Slush创业投资大会Slush创业投资大会是一个自2008年起在芬兰赫尔辛基举办的科技及创业公司的投资大会。Slush大会为创业公司和包括风险投资者在内的投资人牵线搭桥,为他们举办对接会及路演比赛
  • 陶恩培陶恩培(1802年-1855年),字益之,号问云。浙江山阴人,清朝政治人物,进士出身。道光十五年(1835年)进士,授翰林院庶吉士。道光十六年(1836年)散馆授编修。历官四川乡试正考官,提督福建学政,迁