目錄

前言

文獻(xiàn)閱讀

題目

作者

背景

主要問題

擬定方案

開創(chuàng)性貢獻(xiàn)

工業(yè)5.0中IIoT的擬議聯(lián)合網(wǎng)絡(luò)自動(dòng)化方案概述以及詳細(xì)的結(jié)構(gòu)設(shè)計(jì)流程和數(shù)學(xué)初步

面向工業(yè)5.0的擬議方案概述

區(qū)塊鏈賦能的聯(lián)邦學(xué)習(xí)

分布式哈希表

方案的結(jié)構(gòu)設(shè)計(jì)流程

時(shí)空復(fù)雜度

pytorch中的卷積操作

AlexNet

總結(jié)

---

前言

Convolution operations in Pytorch were parsed this week.An article on blockchain and Industry 5.0 was learned about and a new type of proposed federated network automation scheme was discussed in this article.In addition to this, there is a study about the AlexNet Architectural Framework for 2012 this week.

Pytorch中的卷積操作在本周被解析。一篇關(guān)于區(qū)塊鏈和工業(yè)5.0的文章被了解，一種新型的擬議聯(lián)合網(wǎng)絡(luò)自動(dòng)化方案在本文中被討論。除此之外，有關(guān)于2012的AlexNet結(jié)構(gòu)框架在本周被學(xué)習(xí)。

文獻(xiàn)閱讀

--Sushil Kumar Singh, Laurence T. Yang, Jong Hyuk Park,
FusionFedBlock: Fusion of blockchain and federated learning to preserve privacy in industry 5.0,
Information Fusion,
Volume 90,
2023,
Pages 233-240,
ISSN 1566-2535,
https://doi.org/10.1016/j.inffus.2022.09.027.
(https://www.sciencedirect.com/science/article/pii/S1566253522001658)
Keywords: Blockchain; Federated learning; Information fusion; Privacy-preservation; Industrial IoT; Industry 5.0; Security

題目

FusionFedBlock：區(qū)塊鏈和聯(lián)邦學(xué)習(xí)的融合，以保護(hù)工業(yè)中的隱私 5.0

作者

Sushil Kumar Singh, Laurence T. Yang, Jong Hyuk Park

背景

工業(yè)5.0”一詞起源于高要求的工業(yè)項(xiàng)目，從集中式生產(chǎn)轉(zhuǎn)向分散式生產(chǎn)，與制造計(jì)算機(jī)化和智能網(wǎng)絡(luò)自動(dòng)化行業(yè)的創(chuàng)建有關(guān)。它是互聯(lián)環(huán)境中工業(yè)工廠的以信息為中心的范例，具有實(shí)時(shí)優(yōu)化、傳感器數(shù)據(jù)和服務(wù)。自學(xué)習(xí)設(shè)備、復(fù)制人類動(dòng)作以及工業(yè)基礎(chǔ)設(shè)施中生產(chǎn)算法的不斷優(yōu)化是工業(yè) 5.0 網(wǎng)絡(luò)自動(dòng)化的一部分。利用和利用支持物聯(lián)網(wǎng)?（IoT） 的工業(yè)資產(chǎn)，如傳感器、執(zhí)行器和空氣控制器，在智能工業(yè)工廠中提供可操作的信息數(shù)據(jù)，這些工廠是工業(yè)物聯(lián)網(wǎng)?（IIoT） 的一部分，并提供工業(yè)創(chuàng)新和協(xié)作。對(duì)于當(dāng)今工業(yè)基礎(chǔ)設(shè)施的高度自動(dòng)化，設(shè)備必須更加堅(jiān)固、高效、智能，并具有高頻段連接。因此，IIoT和工業(yè)5.0正在通過促進(jìn)信息和通信技術(shù)（ICT）和網(wǎng)絡(luò)自動(dòng)化的融合來重新起草行業(yè)。5G無線通信和先進(jìn)網(wǎng)絡(luò)自動(dòng)化技術(shù)的出現(xiàn)，通過以物聯(lián)網(wǎng)信息為中心的設(shè)備，為智能工業(yè)提供了可靠的高頻段解決方案。物理不可克隆功能對(duì)于通過宏基站進(jìn)行基站驗(yàn)證和確認(rèn)至關(guān)重要。本地基站具有低計(jì)算能力和內(nèi)存存儲(chǔ)。物理不可克隆函數(shù) （PUF） 函數(shù)類似于將字符串組合為輸入和輸出的數(shù)學(xué)函數(shù)。

主要問題

現(xiàn)有的研究使用區(qū)塊鏈和聯(lián)邦學(xué)習(xí)技術(shù)來解決工業(yè)環(huán)境中的隱私保護(hù)問題。盡管如此，它仍然具有高級(jí)連接、網(wǎng)絡(luò)自動(dòng)化、分散數(shù)據(jù)存儲(chǔ)和通信帶寬的主要缺點(diǎn)。

擬定方案

為了克服集中化、可擴(kuò)展性、高清連接和延遲等問題，我們提出了一種方案，即區(qū)塊鏈和聯(lián)邦學(xué)習(xí)的融合，以保護(hù)工業(yè)5.0中的隱私。5G無線通信通過先進(jìn)的可穿戴傳感器提供高清通信連接和網(wǎng)絡(luò)自動(dòng)化，聯(lián)邦學(xué)習(xí)在工業(yè)環(huán)境中提供隱私保護(hù)。此外，區(qū)塊鏈技術(shù)在邊緣層提供數(shù)據(jù)認(rèn)證和驗(yàn)證;此外，通過所提出的方案，分散式和分布式數(shù)據(jù)存儲(chǔ)環(huán)境在云層適應(yīng)。

開創(chuàng)性貢獻(xiàn)

本文的主要貢獻(xiàn)總結(jié)如下：

提出一個(gè)方案，如FusionFedBlock：區(qū)塊鏈和聯(lián)邦學(xué)習(xí)的融合，以保護(hù)工業(yè)5.0中的隱私。

設(shè)計(jì)聯(lián)邦學(xué)習(xí)網(wǎng)絡(luò)，在工業(yè)環(huán)境中保護(hù)隱私數(shù)據(jù)流，并通過基于 5G 的宏基站提供高清通信連接。

數(shù)據(jù)認(rèn)證和驗(yàn)證由聯(lián)邦層的區(qū)塊鏈網(wǎng)絡(luò)提供，并通過云層的分布式哈希表進(jìn)行去中心化存儲(chǔ)。

與現(xiàn)有框架相比，在工業(yè)5.0的50%活動(dòng)節(jié)點(diǎn)中，所提方案的驗(yàn)證性能高達(dá)93.5%。

工業(yè)5.0中IIoT的擬議聯(lián)合網(wǎng)絡(luò)自動(dòng)化方案概述以及詳細(xì)的結(jié)構(gòu)設(shè)計(jì)流程和數(shù)學(xué)初步

面向工業(yè)5.0的擬議方案概述

區(qū)塊鏈賦能的聯(lián)邦學(xué)習(xí)

本地網(wǎng)絡(luò)（GRU 神經(jīng)網(wǎng)絡(luò)）訓(xùn)練任務(wù)，在初始化的全局模型中使用本地輸入數(shù)據(jù)。隱私保護(hù)網(wǎng)絡(luò)自動(dòng)化在算法 1?中表述。

分布式哈希表

所有部門數(shù)據(jù)，如產(chǎn)品監(jiān)控、質(zhì)量控制、電源等，都使用5G與基于分布式哈希表的云數(shù)據(jù)中心進(jìn)行通信。該表利用 SHA-256?加密算法使用哈希函數(shù)加密數(shù)據(jù)，并對(duì)哈希文本中的數(shù)據(jù)進(jìn)行加密，稱為分布式哈希表的索引值。此表具有鍵，稱為H?a s?h（K?e?ys）→Ind?e?xValue，保護(hù)行業(yè)內(nèi)的部門數(shù)據(jù)。從不同部門獲得的每個(gè)數(shù)據(jù)在DHT中都有一個(gè)特定的索引值，這是安全和分散的。在應(yīng)用層，工業(yè)5.0通過DHT中存儲(chǔ)的數(shù)據(jù)為用戶提供多種服務(wù)，并為客戶提供最好的產(chǎn)品。安全工業(yè)部門的數(shù)據(jù)存儲(chǔ)在算法2中制定。

方案的結(jié)構(gòu)設(shè)計(jì)流程

時(shí)空復(fù)雜度

pytorch中的卷積操作

首先說下???????pytorch中的Tensor通道排列順序是：[batch, channel, height, width]

我們常用的卷積（Conv2d）在pytorch中對(duì)應(yīng)的函數(shù)是：

其中，in_channels參數(shù)代表輸入特征矩陣的深度即channel，比如輸入一張RGB彩色圖像，那in_channels=3

out_channels參數(shù)代表卷積核的個(gè)數(shù)，使用n個(gè)卷積核輸出的特征矩陣深度即channel就是n

?kernel_size參數(shù)代表卷積核的尺寸，輸入可以是int類型如3 代表卷積核的height=width=3，也可以是tuple類型如(3, 5)代表卷積核的height=3，width=5

?stride參數(shù)代表卷積核的步距默認(rèn)為1，和kernel_size一樣輸入可以是int類型，也可以是tuple類型

?padding參數(shù)代表在輸入特征矩陣四周補(bǔ)零的情況默認(rèn)為0，同樣輸入可以為int型如1 代表上下方向各補(bǔ)一行0元素，左右方向各補(bǔ)一列0像素（即補(bǔ)一圈0），如果輸入為tuple型如(2, 1) 代表在上方補(bǔ)兩行下方補(bǔ)兩行，左邊補(bǔ)一列，右邊補(bǔ)一列。可見下圖，padding[0]是在H高度方向兩側(cè)填充的，padding[1]是在W寬度方向兩側(cè)填充的：

?如果要實(shí)現(xiàn)更靈活的padding方式，可使用nn.ZeroPad2d方法。

?

?在卷積操作過程中，我們知道矩陣經(jīng)卷積操作后的尺寸由以下幾個(gè)因數(shù)決定：

輸入圖片大小 W×W

Filter大小 F×F

步長 S

padding的像素?cái)?shù) P

?經(jīng)卷積后的矩陣尺寸大小計(jì)算公式為：

?但在實(shí)際應(yīng)用中，有時(shí)會(huì)出現(xiàn)N為非整數(shù)的情況（例如在alexnet，googlenet網(wǎng)絡(luò)的第一層輸出），再例如輸入的矩陣 H=W=5，卷積核的F=2，S=2，Padding=1。經(jīng)計(jì)算我們得到的N =（5 - 2 + 2*1）/ 2 +1 = 3.5 此時(shí)在Pytorch中是如何處理呢，先直接告訴你結(jié)論：在卷積過程中會(huì)直接將最后一行以及最后一列給忽略掉，以保證N為整數(shù)，此時(shí)N = （5 - 2 + 2*1 - 1）/ 2 + 1 = 3。

接下來我們來看個(gè)簡(jiǎn)單的實(shí)例：

首先進(jìn)行padding的填充，size：7 x 7

?（2）通過計(jì)算發(fā)現(xiàn)輸出為非整數(shù)，為了得到整數(shù)，將最后一行以及最后一列刪除掉，size：6 x 6

?（3）接著使用卷積核進(jìn)行卷積操作，就能得到我們的輸出矩陣，需要注意的是pytorch中的卷積默認(rèn)是帶有bias的，所以計(jì)算卷積后需要加上bias偏量。例如輸出的第一個(gè)值的計(jì)算過程如下：

?我們的計(jì)算結(jié)果與pytorch的輸出相同，我們只計(jì)算了其中一個(gè)值，其他的值也一樣：

?通過我們的實(shí)驗(yàn)可以發(fā)現(xiàn)，在pytorch的卷積過程中，當(dāng)通過N = (W ? F + 2P ) / S + 1計(jì)算式得到的輸出尺寸非整數(shù)時(shí)，會(huì)通過刪除多余的行和列來保證卷積的輸出尺寸為整數(shù)。

AlexNet

卷積池化層

?全連接層?

總結(jié)

下周對(duì)于VGGNet和ResNets這些經(jīng)典模型進(jìn)行學(xué)習(xí)。

總結(jié)

以上是生活随笔為你收集整理的2022.11.6 第二十九次周报的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。