日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

二维数组各行分别求和_【PyTorch入门】之十分钟看懂二维卷积层的运算、实现及应用...

發布時間:2023/12/4 编程问答 34 豆豆
生活随笔 收集整理的這篇文章主要介紹了 二维数组各行分别求和_【PyTorch入门】之十分钟看懂二维卷积层的运算、实现及应用... 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

原文鏈接:

【動手學深度學習筆記】之二維卷積層?mp.weixin.qq.com

1.二維卷積層

本節介紹卷積神經網絡中最常見的二維卷積層。二維卷積層常用來處理圖像數據,它具有兩個空間維度(高和寬)。

1.1二維互相關運算

1.1.1原理分析

在二維互相關運算中,卷積窗口從左上角開始,每次向右滑動一列,直到到達最右邊,然后回到最左邊的列并向下滑動一行,繼續重復上面的動作,直到到達右當卷積窗口滑動到某個位置時,窗口中的輸入子片段與卷積窗口陣列按元素相乘并求和,并得到排列中相應位置的元素。

聽著實在是復雜,看個實例吧。

我們對大小為

的輸入二維數組和大小為的二維核數組(卷積窗口大小)進行二維互相關運算。

根據互相關運算的過程,首先是核排列會和

進行運算

然后向右滑動一列,核排列與

進行運算

上一次卷積窗體已經滑到了最右列,所以現在卷積窗體返回最垂直列并向下滑動一行,核排列與

進行運算

現在卷積窗口滑動到了右下角,核排列與

進行運算

最后將四次運算的數,與窗口同順序分開在輸出二維排列中,得到輸出二維排列。

1.1.2程序實現

分析上述過程可知,輸出數組的大小與輸入數組,核數組存在關系:

式中,

分別為輸出數組,輸入數組和核數組的行數; 分別為輸出數組,輸入數組和核數組的列數。

并且橫向滑動次數和

相同,初步滑動次數與相同。

根據數組行列數之間的關系和運算方法,最終程序實現如下。

def cross(X,K):H_i = X.shape[0]W_i = X.shape[1]h = K.shape[0]w = K.shape[1]Y = torch.zeros((H_i-h+1,W_i-w+1))for i in range(Y.shape[0]):for j in range(Y.shape[1]):Y[i,j] = (X[i:i+h,j:j+w]*K).sum()return Y

現在來構造輸入多重和核分布,測試一下互相關運算函數

X = torch.tensor([[0, 1, 2], [3, 4, 5], [6, 7, 8]]) K = torch.tensor([[0, 1], [2, 3]]) cross(X, K)

得到輸出相對為

tensor([[19., 25.],[37., 43.]])

1.2二維卷積層

窗口形狀為

的卷積層。

二維卷積層的模型參數為卷積核(重量)和標量偏差(bias)。訓練模型時,同樣是線隨機初始化模型參數,然后不斷更新迭代參數。二維卷積層將輸入和卷積核做互相關運算,并加上一個標量偏差來得到輸出。

1.2.1實現二維卷積層

class Conv(nn.Module):def __init__(self, kernel_size):super(Conv, self).__init__()#類型為Parameter的tensor自動添加到參數列表self.weight = nn.Parameter(torch.randn(kernel_size))self.bias = nn.Parameter(torch.randn(1)) #只有一組輸出,所以只需要一個偏差參數def forward(self, x):#正向傳播:互相關運算之后加上偏差return cross(x, self.weight) + self.bias

1.3互相關運算的應用

下面使用二維卷積層檢測圖像中物體的邊緣(發生變化的位置)。

首先初始化一張

的圖像,令它的中間四列為黑(0),其余為白(1)。X = torch.ones(6,8) X[:,2:6] = 0

輸出X為

tensor([[1., 1., 0., 0., 0., 0., 1., 1.],[1., 1., 0., 0., 0., 0., 1., 1.],[1., 1., 0., 0., 0., 0., 1., 1.],[1., 1., 0., 0., 0., 0., 1., 1.],[1., 1., 0., 0., 0., 0., 1., 1.],[1., 1., 0., 0., 0., 0., 1., 1.]])

然后構造一個大小為

的卷積核K,當它與輸入做互相關運算時,如果橫向相鄰元素相同,輸出為0;否則輸出為非0。K = torch.tensor([[1, -1]])

最后使用互相關運算,計算得到輸出值。

Y = cross(X, K)

輸出數組Y為:

tensor([[ 0., 1., 0., 0., 0., -1., 0.],[ 0., 1., 0., 0., 0., -1., 0.],[ 0., 1., 0., 0., 0., -1., 0.],[ 0., 1., 0., 0., 0., -1., 0.],[ 0., 1., 0., 0., 0., -1., 0.],[ 0., 1., 0., 0., 0., -1., 0.]])

可以看出,我們將從白到黑的邊緣和從黑到白的邊緣分別檢測到1和-1。其余部分的輸出全是0。使用卷積核可以有效地表征局部空間。

1.4二維卷積層的應用

這一部分將使用1.3中的輸入數組X和輸出數組Y來訓練卷積神經網絡,最終得到卷積核。

net = Conv(kernel_size = (1,2)) step =20#訓練周期 lr = 0.01#學習率for i in range(step):Y_hat = net(X)l = ((Y_hat - Y) ** 2).sum()l.backward()net.weight.grad.fill_(0)net.bias.grad.fill_(0)if (i+1)%5 ==0:print('Step %d, loss %.3f' % (i + 1, l.item()))print("weight:",net.weight.data) print("bias:",net.bias.data)

各個學習周期的損失為

Step 5, loss 7.531 Step 10, loss 1.380 Step 15, loss 0.304 Step 20, loss 0.076

訓練結束后模型參數為

weight: tensor([[ 0.8960, -0.9054]]) bias: tensor([0.0053])

訓練得到的參數與真實參數[1,-1]還是比較接近的。

1.5卷積運算

為了得到卷積運算的輸出,我們只需將核重疊到左右并排上下,再與輸入數組做互相關運算。

1.6特征圖和感受野

二維卷積層輸出的二維細分可以被預定輸入數組在空間尺寸上某一級的表征,也就是特征圖。

如1.1中輸入數組中的

是輸出數組中的感受野。

整個輸入樣本都是輸出樣本的感受野。

總結

以上是生活随笔為你收集整理的二维数组各行分别求和_【PyTorch入门】之十分钟看懂二维卷积层的运算、实现及应用...的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

主站蜘蛛池模板: 亚洲欧美日韩精品永久在线 | 亚洲天堂日韩在线 | 美女被男人c | 天天躁日日躁狠狠很躁 | 人人草人人 | www免费视频| 尤物av无码色av无码 | 亚洲天堂免费看 | 黄色的视频网站 | 日本肉体xxxx裸体137大胆图 | 中文在线一区 | 饥渴少妇勾引水电工av | 自拍露脸高潮 | 在线不卡的av| 中文字幕avav | 成人三级做爰av | 欧美综合在线视频 | 国产原创视频在线观看 | 日韩欧美一区二区免费 | 亚洲 欧美 自拍偷拍 | 国产私密视频 | 丝袜一区二区三区四区 | 双性人hdsexvideos | 国产精品揄拍一区二区 | 日本伦理一区 | 人妻少妇精品无码专区二区 | 肉色丝袜小早川怜子av | 久久久久久久久久久影院 | 少妇一区二区三区 | 欧美日韩一区二区三区69堂 | 天天干狠狠爱 | 精品国产青草久久久久96 | 免费观看日韩 | 亚洲综合在线一区二区 | 在哪里看毛片 | 一本综合久久 | 高中男男gay互囗交观看 | 欧美日韩视频在线播放 | 久久综合九色综合欧美狠狠 | 欧美一区二区久久 | 国产精品激情偷乱一区二区∴ | 久久特级毛片 | 肉丝袜脚交视频一区二区 | 欧美日韩黄色 | 99蜜桃臀久久久欧美精品网站 | 懂色av中文字幕 | 真实的国产乱xxxx在线91 | 天堂av2019 | 懂色aⅴ国产一区二区三区 亚洲欧美国产另类 | 91爱爱爱| 成人免费视频播放 | 欧美一区二区三区爽爽爽 | 欧美aⅴ在线观看 | 99久久网站 | 久久11| 欧美乱做爰xxxⅹ久久久 | 91大神在线观看视频 | 亚洲一级电影 | 久色电影| 爱情岛论坛亚洲品质自拍 | 黄色工厂这里只有精品 | 精品久久久久久久久久久 | 国产成人啪精品午夜在线观看 | 日韩综合 | 少妇人妻一区二区 | 一个人看的视频www 色就是色网站 | 日韩久久av| 91免费看黄 | 麻豆性生活 | 欧美激情影音先锋 | 欧美日韩一区电影 | 午夜精产品一区二区在线观看的 | 亚洲码欧美码一区二区三区 | 日韩久久一区二区 | 久久久www成人免费精品 | 欧美激情69 | 国产精品日日摸夜夜爽 | 97超碰人人看 | 日韩中文字幕高清 | 午夜成人影片 | 免费的黄色一级片 | 国产传媒在线 | 草视频在线 | 国产又大又粗又硬 | 2018天天操| 日韩在线一区二区 | 国产精品揄拍100视频 | av日韩高清 | 日韩福利电影在线观看 | 网址在线观看你懂的 | 免费的av网址 | 葵司av电影 | 精品一区二区久久久 | 国产精品高潮呻吟AV无码 | 天天干天天天 | 欧美日韩在线播放三区四区 | 国产一区二区波多野结衣 | 成人在线免费电影 | 伊人超碰|