?

本期內容 :

• Spark Streaming+Spark SQL案例展示
• 基于案例貫穿Spark Streaming的運行源碼

?

一、?案例代碼闡述 :

　　在線動態計算電商中不同類別中最熱門的商品排名，例如:手機類別中最熱門的三種手機、電視類別中最熱門的三種電視等。

?

　　1、案例運行代碼 :

import org.apache.spark.SparkConf import org.apache.spark.sql.Row import org.apache.spark.sql.hive.HiveContext import org.apache.spark.sql.types.{IntegerType, StringType, StructField, StructType} import org.apache.spark.streaming.{Seconds, StreamingContext} object OnlineTheTop3ItemForEachCategory2DB {def main(args: Array[String]){ 　　　/**
　　　　** 第1步：創建Spark的配置對象SparkConf，設置Spark程序的運行時的配置信息， 　　　　*/val conf = new SparkConf() //創建SparkConf對象conf.setAppName("OnlineTheTop3ItemForEachCategory2DB") //設置應用程序的名稱，在程序運行的監控界面可以看到名稱 　　//conf.setMaster("spark://Master:7077") //此時，程序在Spark集群conf.setMaster("local[6]")//設置batchDuration時間間隔來控制Job生成的頻率并且創建Spark Streaming執行的入口val ssc = new StreamingContext(conf, Seconds(5))ssc.checkpoint("/root/Documents/SparkApps/checkpoint")val userClickLogsDStream = ssc.socketTextStream("Master", 9999)val formattedUserClickLogsDStream = userClickLogsDStream.map(clickLog =>(clickLog.split(" ")(2) + "_" + clickLog.split(" ")(1), 1))　　//val categoryUserClickLogsDStream = formattedUserClickLogsDStream.reduceByKeyAndWindow((v1:Int, v2: Int) => v1 + v2, 　　//(v1:Int, v2: Int) => v1 - v2, Seconds(60), Seconds(20)) val categoryUserClickLogsDStream = formattedUserClickLogsDStream.reduceByKeyAndWindow(_+_,_-_, Seconds(60), Seconds(20))categoryUserClickLogsDStream.foreachRDD { rdd => {if (rdd.isEmpty()) {println("No data inputted!!!")} else {val categoryItemRow = rdd.map(reducedItem => {val category = reducedItem._1.split("_")(0)val item = reducedItem._1.split("_")(1)val click_count = reducedItem._2Row(category, item, click_count)})val structType = StructType(Array(StructField("category", StringType, true),StructField("item", StringType, true),StructField("click_count", IntegerType, true)))val hiveContext = new HiveContext(rdd.context)val categoryItemDF = hiveContext.createDataFrame(categoryItemRow, structType)categoryItemDF.registerTempTable("categoryItemTable")val reseltDataFram = hiveContext.sql("SELECT category,item,click_count FROM (SELECT category,item,click_count,row_number()" +" OVER (PARTITION BY category ORDER BY click_count DESC) rank FROM categoryItemTable) subquery " +" WHERE rank <= 3")reseltDataFram.show()val resultRowRDD = reseltDataFram.rddresultRowRDD.foreachPartition { partitionOfRecords => {if (partitionOfRecords.isEmpty){println("This RDD is not null but partition is null")} else {// ConnectionPool is a static, lazily initialized pool of connectionsval connection = ConnectionPool.getConnection()partitionOfRecords.foreach(record => {val sql = "insert into categorytop3(category,item,client_count) values('" + record.getAs("category") + "','" +record.getAs("item") + "'," + record.getAs("click_count") + ")"val stmt = connection.createStatement();stmt.executeUpdate(sql);})ConnectionPool.returnConnection(connection) // return to the pool for future reuse }}}}}ssc.start()ssc.awaitTermination()}}
}

?　　2、案例流程框架圖 :

　　

二、?基于案例的源碼解析?：

　　1、?構建Spark的配置對象SparkConf，設置Spark程序的運行時的配置信息：

　　

　　2、構建StreamingContext時傳遞SparkConf參數在內部創建SparkContext?：

　　

　　

　　3、創建了 StreamingContext ：?同時說明Spark Streaming 是Spark Core上的一個應用程序

　　

　　4、 checkpoint 持久化

　　5、構建SocketTextStream 獲取輸入源

　　

　　　　01、 創建Socket 獲取輸入流

　　　　

　　　　02、 SocketInputDstream繼承ReceiverInputDStream，通過構建Receiver來接收數據

　　　　

　　　　

　　　　

　　　　03、 創建SocketReceiver

　　　　

　　　　04、?通過Receiver 在網絡獲取相關數據

　　　　

　　　　05、數據輸出

　　　　

　　　　06、生成job作業

　　　　

　　　　07、 根據時間間隔產生RDD ，存儲數據

　　　　

　　　　

　6、 Streaming Start :

　　　　

　7、?流程總結?：

　　　　01、 在StreamingContext調用start方法的內部其實是會啟動JobScheduler的Start方法，進行消息循環。

　　　　02、 在JobScheduler的start內部會構造JobGenerator和ReceiverTacker，并且調用JobGenerator和ReceiverTacker的start方法：

• • • JobGenerator啟動后會不斷的根據batchDuration生成一個個的Job?；
    • ReceiverTracker啟動后首先在Spark Cluster中啟動Receiver?（其實是在Executor中先啟動ReceiverSupervisor）；

　　　　03、 在Receiver收到數據后會通過ReceiverSupervisor存儲到Executor并且把數據的Metadata信息發送給Driver中的ReceiverTracker?。

　　　　04、 在ReceiverTracker內部會通過ReceivedBlockTracker來管理接受到的元數據信息?。

　　　　05、 每個BatchInterval會產生一個具體的Job，其實這里的Job不是Spark Core中所指的Job，它只是基于DStreamGraph而生成的RDD的DAG而已?。

　　　　06、 要想運行Job需要提交給JobScheduler，在JobScheduler中通過線程池的方式找到一個單獨的線程來提交Job到集群運行（在線程中基于RDD的Action觸發真正的作業的運行）。

　　

轉載于:https://www.cnblogs.com/yinpin2011/p/5469694.html

總結

以上是生活随笔為你收集整理的基于案例贯通 Spark Streaming 流计算框架的运行源码的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。