2022.11.6 第二十九次周报
目錄
前言
文獻(xiàn)閱讀
題目
作者
背景
主要問題
擬定方案
開創(chuàng)性貢獻(xiàn)
工業(yè)5.0中IIoT的擬議聯(lián)合網(wǎng)絡(luò)自動化方案概述以及詳細(xì)的結(jié)構(gòu)設(shè)計(jì)流程和數(shù)學(xué)初步
面向工業(yè)5.0的擬議方案概述
區(qū)塊鏈賦能的聯(lián)邦學(xué)習(xí)
分布式哈希表
方案的結(jié)構(gòu)設(shè)計(jì)流程
時空復(fù)雜度
pytorch中的卷積操作
AlexNet
總結(jié)
前言
Convolution operations in Pytorch were parsed this week.An article on blockchain and Industry 5.0 was learned about and a new type of proposed federated network automation scheme was discussed in this article.In addition to this, there is a study about the AlexNet Architectural Framework for 2012 this week.
Pytorch中的卷積操作在本周被解析。一篇關(guān)于區(qū)塊鏈和工業(yè)5.0的文章被了解，一種新型的擬議聯(lián)合網(wǎng)絡(luò)自動化方案在本文中被討論。除此之外，有關(guān)于2012的AlexNet結(jié)構(gòu)框架在本周被學(xué)習(xí)。
文獻(xiàn)閱讀
--Sushil Kumar Singh, Laurence T. Yang, Jong Hyuk Park,
FusionFedBlock: Fusion of blockchain and federated learning to preserve privacy in industry 5.0,
Information Fusion,
Volume 90,
2023,
Pages 233-240,
ISSN 1566-2535,
https://doi.org/10.1016/j.inffus.2022.09.027.
(https://www.sciencedirect.com/science/article/pii/S1566253522001658)
Keywords: Blockchain; Federated learning; Information fusion; Privacy-preservation; Industrial IoT; Industry 5.0; Security
題目
FusionFedBlock：區(qū)塊鏈和聯(lián)邦學(xué)習(xí)的融合，以保護(hù)工業(yè)中的隱私 5.0
作者
Sushil Kumar Singh, Laurence T. Yang, Jong Hyuk Park
背景
工業(yè)5.0”一詞起源于高要求的工業(yè)項(xiàng)目，從集中式生產(chǎn)轉(zhuǎn)向分散式生產(chǎn)，與制造計(jì)算機(jī)化和智能網(wǎng)絡(luò)自動化行業(yè)的創(chuàng)建有關(guān)。它是互聯(lián)環(huán)境中工業(yè)工廠的以信息為中心的范例，具有實(shí)時優(yōu)化、傳感器數(shù)據(jù)和服務(wù)。自學(xué)習(xí)設(shè)備、復(fù)制人類動作以及工業(yè)基礎(chǔ)設(shè)施中生產(chǎn)算法的不斷優(yōu)化是工業(yè) 5.0 網(wǎng)絡(luò)自動化的一部分。利用和利用支持物聯(lián)網(wǎng)?（IoT） 的工業(yè)資產(chǎn)，如傳感器、執(zhí)行器和空氣控制器，在智能工業(yè)工廠中提供可操作的信息數(shù)據(jù)，這些工廠是工業(yè)物聯(lián)網(wǎng)?（IIoT） 的一部分，并提供工業(yè)創(chuàng)新和協(xié)作。對于當(dāng)今工業(yè)基礎(chǔ)設(shè)施的高度自動化，設(shè)備必須更加堅(jiān)固、高效、智能，并具有高頻段連接。因此，IIoT和工業(yè)5.0正在通過促進(jìn)信息和通信技術(shù)（ICT）和網(wǎng)絡(luò)自動化的融合來重新起草行業(yè)。5G無線通信和先進(jìn)網(wǎng)絡(luò)自動化技術(shù)的出現(xiàn)，通過以物聯(lián)網(wǎng)信息為中心的設(shè)備，為智能工業(yè)提供了可靠的高頻段解決方案。物理不可克隆功能對于通過宏基站進(jìn)行基站驗(yàn)證和確認(rèn)至關(guān)重要。本地基站具有低計(jì)算能力和內(nèi)存存儲。物理不可克隆函數(shù) （PUF） 函數(shù)類似于將字符串組合為輸入和輸出的數(shù)學(xué)函數(shù)。
主要問題
現(xiàn)有的研究使用區(qū)塊鏈和聯(lián)邦學(xué)習(xí)技術(shù)來解決工業(yè)環(huán)境中的隱私保護(hù)問題。盡管如此，它仍然具有高級連接、網(wǎng)絡(luò)自動化、分散數(shù)據(jù)存儲和通信帶寬的主要缺點(diǎn)。
擬定方案
為了克服集中化、可擴(kuò)展性、高清連接和延遲等問題，我們提出了一種方案，即區(qū)塊鏈和聯(lián)邦學(xué)習(xí)的融合，以保護(hù)工業(yè)5.0中的隱私。5G無線通信通過先進(jìn)的可穿戴傳感器提供高清通信連接和網(wǎng)絡(luò)自動化，聯(lián)邦學(xué)習(xí)在工業(yè)環(huán)境中提供隱私保護(hù)。此外，區(qū)塊鏈技術(shù)在邊緣層提供數(shù)據(jù)認(rèn)證和驗(yàn)證;此外，通過所提出的方案，分散式和分布式數(shù)據(jù)存儲環(huán)境在云層適應(yīng)。
開創(chuàng)性貢獻(xiàn)
本文的主要貢獻(xiàn)總結(jié)如下：
提出一個方案，如FusionFedBlock：區(qū)塊鏈和聯(lián)邦學(xué)習(xí)的融合，以保護(hù)工業(yè)5.0中的隱私。
設(shè)計(jì)聯(lián)邦學(xué)習(xí)網(wǎng)絡(luò)，在工業(yè)環(huán)境中保護(hù)隱私數(shù)據(jù)流，并通過基于 5G 的宏基站提供高清通信連接。
數(shù)據(jù)認(rèn)證和驗(yàn)證由聯(lián)邦層的區(qū)塊鏈網(wǎng)絡(luò)提供，并通過云層的分布式哈希表進(jìn)行去中心化存儲。
與現(xiàn)有框架相比，在工業(yè)5.0的50%活動節(jié)點(diǎn)中，所提方案的驗(yàn)證性能高達(dá)93.5%。
工業(yè)5.0中IIoT的擬議聯(lián)合網(wǎng)絡(luò)自動化方案概述以及詳細(xì)的結(jié)構(gòu)設(shè)計(jì)流程和數(shù)學(xué)初步
面向工業(yè)5.0的擬議方案概述
區(qū)塊鏈賦能的聯(lián)邦學(xué)習(xí)
本地網(wǎng)絡(luò)（GRU 神經(jīng)網(wǎng)絡(luò)）訓(xùn)練任務(wù)，在初始化的全局模型中使用本地輸入數(shù)據(jù)。隱私保護(hù)網(wǎng)絡(luò)自動化在算法 1?中表述。
分布式哈希表
所有部門數(shù)據(jù)，如產(chǎn)品監(jiān)控、質(zhì)量控制、電源等，都使用5G與基于分布式哈希表的云數(shù)據(jù)中心進(jìn)行通信。該表利用 SHA-256?加密算法使用哈希函數(shù)加密數(shù)據(jù)，并對哈希文本中的數(shù)據(jù)進(jìn)行加密，稱為分布式哈希表的索引值。此表具有鍵，稱為H?a s?h（K?e?ys）→Ind?e?xValue，保護(hù)行業(yè)內(nèi)的部門數(shù)據(jù)。從不同部門獲得的每個數(shù)據(jù)在DHT中都有一個特定的索引值，這是安全和分散的。在應(yīng)用層，工業(yè)5.0通過DHT中存儲的數(shù)據(jù)為用戶提供多種服務(wù)，并為客戶提供最好的產(chǎn)品。安全工業(yè)部門的數(shù)據(jù)存儲在算法2中制定。
方案的結(jié)構(gòu)設(shè)計(jì)流程
時空復(fù)雜度
pytorch中的卷積操作
首先說下???????pytorch中的Tensor通道排列順序是：[batch, channel, height, width]
我們常用的卷積（Conv2d）在pytorch中對應(yīng)的函數(shù)是：
其中，in_channels參數(shù)代表輸入特征矩陣的深度即channel，比如輸入一張RGB彩色圖像，那in_channels=3
out_channels參數(shù)代表卷積核的個數(shù)，使用n個卷積核輸出的特征矩陣深度即channel就是n
?kernel_size參數(shù)代表卷積核的尺寸，輸入可以是int類型如3 代表卷積核的height=width=3，也可以是tuple類型如(3, 5)代表卷積核的height=3，width=5
?stride參數(shù)代表卷積核的步距默認(rèn)為1，和kernel_size一樣輸入可以是int類型，也可以是tuple類型
?padding參數(shù)代表在輸入特征矩陣四周補(bǔ)零的情況默認(rèn)為0，同樣輸入可以為int型如1 代表上下方向各補(bǔ)一行0元素，左右方向各補(bǔ)一列0像素（即補(bǔ)一圈0），如果輸入為tuple型如(2, 1) 代表在上方補(bǔ)兩行下方補(bǔ)兩行，左邊補(bǔ)一列，右邊補(bǔ)一列。可見下圖，padding[0]是在H高度方向兩側(cè)填充的，padding[1]是在W寬度方向兩側(cè)填充的：
?如果要實(shí)現(xiàn)更靈活的padding方式，可使用nn.ZeroPad2d方法。
?
?在卷積操作過程中，我們知道矩陣經(jīng)卷積操作后的尺寸由以下幾個因數(shù)決定：
?經(jīng)卷積后的矩陣尺寸大小計(jì)算公式為：
?但在實(shí)際應(yīng)用中，有時會出現(xiàn)N為非整數(shù)的情況（例如在alexnet，googlenet網(wǎng)絡(luò)的第一層輸出），再例如輸入的矩陣 H=W=5，卷積核的F=2，S=2，Padding=1。經(jīng)計(jì)算我們得到的N =（5 - 2 + 2*1）/ 2 +1 = 3.5 此時在Pytorch中是如何處理呢，先直接告訴你結(jié)論：在卷積過程中會直接將最后一行以及最后一列給忽略掉，以保證N為整數(shù)，此時N = （5 - 2 + 2*1 - 1）/ 2 + 1 = 3。
接下來我們來看個簡單的實(shí)例：
首先進(jìn)行padding的填充，size：7 x 7
?（2）通過計(jì)算發(fā)現(xiàn)輸出為非整數(shù)，為了得到整數(shù)，將最后一行以及最后一列刪除掉，size：6 x 6
?（3）接著使用卷積核進(jìn)行卷積操作，就能得到我們的輸出矩陣，需要注意的是pytorch中的卷積默認(rèn)是帶有bias的，所以計(jì)算卷積后需要加上bias偏量。例如輸出的第一個值的計(jì)算過程如下：
?我們的計(jì)算結(jié)果與pytorch的輸出相同，我們只計(jì)算了其中一個值，其他的值也一樣：
?通過我們的實(shí)驗(yàn)可以發(fā)現(xiàn)，在pytorch的卷積過程中，當(dāng)通過N = (W ? F + 2P ) / S + 1計(jì)算式得到的輸出尺寸非整數(shù)時，會通過刪除多余的行和列來保證卷積的輸出尺寸為整數(shù)。
AlexNet
卷積池化層
?全連接層?
總結(jié)
下周對于VGGNet和ResNets這些經(jīng)典模型進(jìn)行學(xué)習(xí)。
總結(jié)
以上是生活随笔為你收集整理的2022.11.6 第二十九次周报的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 44 R关联分析——Apriori算法
- 下一篇： java编程规约