Apache Flink

✍ dations ◷ 2024-12-23 06:01:01 #Articles with missing Cite arXiv inputs,自由系统软件,使用Apache许可证的软件,Apache软件基金会,用Java编

Apache Flink是由Apache软件基金会开发的开源流处理框架,其核心是用Java和Scala编写的分布式流数据流引擎。Flink以数据并行和管道方式执行任意流数据程序,Flink的流水线运行时系统可以执行批处理和流处理程序。此外,Flink的运行时本身也支持迭代算法的执行。

Flink提供高吞吐量、低延迟的流数据引擎以及对事件-时间处理和状态管理的支持。Flink应用程序在发生机器故障时具有容错能力,并且支持exactly-once语义。程序可以用Java、Scala、Python和SQL等语言编写,并自动编译和优化到在集群或云环境中运行的数据流程序。

Flink并不提供自己的数据存储系统,但为Amazon Kinesis、Apache Kafka、Alluxio、HDFS、Apache Cassandra和Elasticsearch等系统提供了数据源和接收器。

Apache Flink是由Apache软件基金会内的Apache Flink社区基于Apache许可证2.0开发的,该项目已有超过100位代码提交者和超过460贡献者。 页面存档备份,存于互联网档案馆

data Artisans 页面存档备份,存于互联网档案馆是由Apache Flink的创始人创建的公司。目前,该公司已聘用了12个Apache Flink的代码提交者。

Apache Flink的数据流编程模型在有限和无限数据集上提供单次事件(event-at-a-time)处理。在基础层面,Flink程序由流和转换组成。 “从概念上讲,流是一种(可能永无止境的)数据流记录,转换是一种将一个或多个流作为输入并因此产生一个或多个输出流的操作”。

Apache Flink包括两个核心API:用于有界或无界数据流的数据流API和用于有界数据集的数据集API。Flink还提供了一个表API,它是一种类似SQL的表达式语言,用于关系流和批处理,可以很容易地嵌入到Flink的数据流和数据集API中。Flink支持的最高级语言是SQL,它在语义上类似于表API,并将程序表示为SQL查询表达式。

Flink程序在执行后被映射到流数据流,每个Flink数据流以一个或多个源(数据输入,例如消息队列或文件系统)开始,并以一个或多个接收器(数据输出,如消息队列、文件系统或数据库等)结束。Flink可以对流执行任意数量的变换,这些流可以被编排为有向无环数据流图,允许应用程序分支和合并数据流。

Flink提供现成的源和接收连接器,包括Apache Kafka、Amazon Kinesis、HDFS和Apache Cassandra等。

Flink程序可以作为集群内的分布式系统运行,也可以以独立模式或在YARN、Mesos、基于Docker的环境和其他资源管理框架下进行部署。

Apache Flink具有一种基于分布式检查点的轻量级容错机制。 检查点是应用程序状态和源流中位置的自动异步快照。在发生故障的情况下,启用了检查点的Flink程序将在恢复时从上一个完成的检查点恢复处理,确保Flink在应用程序中保持一次性(exactly-once)状态语义。检查点机制暴露应用程序代码的接口,以便将外部系统包括在检查点机制中(如打开和提交数据库系统的事务)。

Flink还包括一种名为保存点的机制,它是一种手动触发的检查点。用户可以生成保存点,停止正在运行的Flink程序,然后从流中的相同应用程序状态和位置恢复程序。 保存点可以在不丢失应用程序状态的情况下对Flink程序或Flink群集进行更新。从Flink 1.2开始,保存点还允许以不同的并行性重新启动应用程序,这使得用户可以适应不断变化的工作负载。

Flink的数据流API 页面存档备份,存于互联网档案馆支持有界或无界数据流上的转换(如过滤器、聚合和窗口函数),包含了20多种不同类型的转换,可以在Java和Scala中使用。

有状态流处理程序的一个简单Scala示例是从连续输入流发出字数并在5秒窗口中对数据进行分组的应用:

import org.apache.flink.streaming.api.scala._import org.apache.flink.streaming.api.windowing.time.Timecase class WordCount(word: String, count: Int)object WindowWordCount {  def main(args: Array) {    val env = StreamExecutionEnvironment.getExecutionEnvironment    val text = env.socketTextStream("localhost", 9999)    val counts = text.flatMap { _.toLowerCase.split("\\W+") filter { _.nonEmpty } }      .map { WordCount(_, 1) }      .keyBy("word")      .timeWindow(Time.seconds(5))      .sum("count")    counts.print    env.execute("Window Stream WordCount")  }}

Apache Beam - Flink Runner

Apache Beam“提供了一种高级统一编程模型,允许(开发人员)实现可在在任何执行引擎上运行批处理和流数据处理作业”。Apache Flink-on-Beam运行器是功能最丰富的、由Beam社区维护的能力矩阵。

data Artisans与Apache Flink社区一起,与Beam社区密切合作,开发了一个强大的Flink runner。

Flink的数据集API 页面存档备份,存于互联网档案馆支持对有界数据集进行转换(如过滤、映射、连接和分组),包含了20多种不同类型的转换。 该API可用于Java、Scala和实验性的Python API。Flink的数据集API在概念上与数据流API类似。

Flink的表API 页面存档备份,存于互联网档案馆是一种类似SQL的表达式语言,用于关系流和批处理,可以嵌入Flink的Java和Scala数据集和数据流API中。表API和SQL接口在关系表抽象上运行,可以从外部数据源或现有数据流和数据集创建表。表API支持关系运算符,如表上的选择、聚合和连接等。

也可以使用常规SQL查询表。表API提供了和SQL相同的功能,可以在同一程序中混合使用。将表转换回数据集或数据流时,由关系运算符和SQL查询定义的逻辑计划将使用Apache Calcite进行优化,并转换为数据集或数据流程序。

Flink Forward 页面存档备份,存于互联网档案馆是一个关于Apache Flink的年度会议。第一届Flink Forward于2015年在柏林举行。为期两天的会议有来自16个国家的250多名与会者。 会议分为两个部分,Flink开发人员提供30多个技术演示,另外还有一个Flink培训实践。

2016年,350名与会者参加了会议,40多位发言人在3个平行轨道上进行了技术讲座。第三天,与会者被邀请参加实践培训课程。

2017年,该活动也将扩展到旧金山。 会议致力于Flink如何在企业中使用、Flink系统内部、与Flink的生态系统集成以及平台的未来进行技术会谈。它包含主题演讲Flink用户在工业和学术界的讲座以及关于Apache Flink的实践培训课程。

来自以下组织的发言人在Flink Forward会议上发表了演讲:阿里巴巴集团、Amadeus(英语:Amadeus IT Group)、Bouygues Telecom(英语:Bouygues Telecom)、第一资本、Cloudera、data Artisans、EMC、爱立信、Hortonworks、华为、IBM、Google、MapR、MongoDB、Netflix、New Relic(英语:New Relic)、Otto Group(英语:Otto GmbH),Red Hat、ResearchGate、Uber和Zalando。

2010年,研究项目“Stratosphere:云上的信息管理”(由德国研究基金会(DFG)资助)由柏林工业大学、柏林洪堡大学和Hasso-Plattner-Institut合作启动。Flink从Stratosphere的分布式执行引擎的一个分支开始,于2014年3月成为Apache孵化器项目。2014年12月,Flink称为Apache顶级项目。

相关

  • 蛋白质蛋白质(英语:protein,旧称“朊”)是大型生物分子,或高分子,它由一个或多个由α-氨基酸残基组成的长链条组成。α-氨基酸分子呈线性排列,相邻α-氨基酸残基的羧基和氨基通过肽键连接
  • 烷烃列表以下的列表示介绍常见正构烷烃的物理性质。高级烷烃
  • 加拿大原住民加拿大原住民,他们是在1982年宪政法案第25和35节中所认定的原住民族群,分别是第一民族、因纽特人以及梅蒂人。根据2006年的人口普查,加拿大总人口超过33,570,000人,其中包含3.8%
  • 海南话拼音方案海南话拼音方案是广东省教育部门于1960年9月公布的广东拼音方案之一,以海南省文昌市文昌口音为标准,以拉丁字母拼写语音,以右上方标数字表示声调。注: (1)e 念 ê,ˆ一般不写出来。
  • 林赛·霍伊尔爵士Lynda Anne Fowler ( div. 1982)在手动语言转换规则中检测到错误爵士(英语:Sir Lindsay Harvey Hoyle,1957年6月10日-)是一位英国政治人物,他以前的党籍是工党。自1997年开始,他
  • 海恩豪森王家花园海恩豪森王宫花园 (德语:Herrenhäuser Gärten),位于德国下萨克森州首府汉诺威市内,由大花园(Großer Garten)、小山花园、乔治花园和威尔芬花园所组成,原属于汉诺威王室遗产。
  • 三乡河三乡河,又称大河,位于中国云南省中部,是扒河左岸支流,发源于峨山彝族自治县甸中镇东南浪泥箐山北麓,西北流经甸中镇镜湖村、甸中社区、小甸中村、白土村等村,至易门县十街彝族乡西
  • HDVHDV是一种用MiniDV录像带来录影的高清录影格式,提供一个比以前高清格式更高成本效益高清制作方案。为方便起见,以下表格列出了三种HDV格式:HDV 720p、HDV 1080i及HDV 1080p。HD
  • 斑马马斑马马(zorse),亦有译为“斑马兽”、“斑驹”,是公斑马与雌马杂交所生的后代,而马斑马(hobra)则是公马与雌斑马所生的后代,两者都是人类蓄意使其交配所产生的动物。斑马马,属混种
  • SysinternalsSysinternals是一个由位于德克萨斯州奥斯汀的Winternals Software LP公司营运的网站,原名为ntinternals,于1996年由软件设计师Bryce Cogswell与Mark Russinovich开办,并在2006