Spark Streaming关联

Spark Streaming关联

与Spark类似,Spark Streaming也可以利用maven仓库。编写你自己的Spark Streaming程序,你需要引入下面的依赖到你的SBT或者Maven项目中

<dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-streaming_2.10</artifactId>
    <version>1.2</version>
</dependency>

为了从Kafka, Flume和Kinesis这些不在Spark核心API中提供的源获取数据,我们需要添加相关的模块spark-streaming-xyz_2.10到依赖中。例如,一些通用的组件如下表所示:

SourceArtifact
Kafkaspark-streaming-kafka_2.10
Flumespark-streaming-flume_2.10
Kinesisspark-streaming-kinesis-asl_2.10
Twitterspark-streaming-twitter_2.10
ZeroMQspark-streaming-zeromq_2.10
MQTTspark-streaming-mqtt_2.10

为了获取最新的列表,请访问Apache repository

作者:admin,如若转载,请注明出处:https://www.web176.com/spark/11938.html

(0)
打赏 支付宝 支付宝 微信 微信
adminadmin
上一篇 2023年3月6日
下一篇 2023年3月6日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注