17維度變換4

.t 轉(zhuǎn)置，但是只適合2d的矩陣，其他會(huì)報(bào)錯(cuò)

a.shape#[3,4] a.t() a.shape#[4,3]

transpose
加粗樣式

a.shape#[4,3,32,32] BCHW a1=a.transpose(1,3).view(4,3*32*32).view(4,3,32,32)#報(bào)錯(cuò) 1,3維度長度交換，變成BWHC #第一個(gè)view把后三個(gè)維度合并變B【W(wǎng)HC】 #第二個(gè)view展開，但是給的維度是BCHW，可是現(xiàn)在是B【W(wǎng)HC】不符合W和C的值 #用contiguous保持連續(xù)的，因?yàn)檗D(zhuǎn)置后行變列數(shù)據(jù)不連續(xù), a1=a.transpose(1,3).contiguous().view(4,3*32*32).view(4,3,32,32) #1,3維度長度交換，變成BWHC #第一個(gè)view把后三個(gè)維度合并變B【W(wǎng)HC】 #第二個(gè)view展開，但是給的維度是BCHW，可是現(xiàn)在是B【W(wǎng)HC】不符合W和C的值，造成數(shù)據(jù)污染a2=a.transpose(1,3).contiguous().view(4,3*32*32).view(4,32,32,3) #1,3維度長度交換，變成BWHC #第一個(gè)view把后三個(gè)維度合并變B【W(wǎng)HC】 #第二個(gè)view展開給的維度是BWHC,符合 #再把1,3維度轉(zhuǎn)置交換，即恢復(fù)成BCHW和a一樣torch.all(torch.eq(a,a1))#eq判斷內(nèi)容是否一致，all確保所有數(shù)據(jù)內(nèi)容一致，0，a和a1不一致 torch.all(torch.eq(a,a2))#1，a和a2一致

permute
因?yàn)閠ranspose是兩兩交換，比如BCHW,13交換變BWHC,但是希望HW保持不變，所以再12交換變BHWC,所以需要兩次transpose，permute給定index可以實(shí)現(xiàn)任意交換

18broadcast1

自動(dòng)擴(kuò)展,先在大維度上擴(kuò)張，[B,C,H,W]維度大–>小，然后在維度長度為1的地方擴(kuò)張

在圖中③的情況中，A[3,1]先在小維度上1擴(kuò)張成3橫著擴(kuò)張，B[1,3]在大維度上擴(kuò)張1變成3豎著擴(kuò)張
所以broadcast相當(dāng)于是unsqueeze和expand的結(jié)合，先在維度上擴(kuò)張然后在某維度的尺寸上擴(kuò)張

為什么需要broadcasting
1滿足實(shí)際需求： 因?yàn)橄Ｍ硞€(gè)向量可以和某個(gè)標(biāo)量直接相加，省去自己寫多個(gè)unsqueeze和expand接口的麻煩
2節(jié)省內(nèi)存計(jì)算：如果使用repeat不使用expand接口會(huì)將標(biāo)量[1]擴(kuò)展成[4,32,8]4328=1024這樣擴(kuò)大內(nèi)存，broadcasting可以節(jié)約內(nèi)存

19 broadcasting-2

什么時(shí)候可以用broadicasting
假設(shè)[class,student,score],[4,32,8]4個(gè)班級32個(gè)學(xué)生8門課，每門成績加5分即一個(gè)標(biāo)量[1],即實(shí)現(xiàn)A和B兩個(gè)不同維度向量的相加，用broadcasting

A [4,32,8]B [1]B1[1,1,1] 先從后往前擴(kuò)展成一樣的維度B2[4,32,8] 先從后往前擴(kuò)展成一樣的維度長度實(shí)現(xiàn)相加A [4,32,8]B [8]#一個(gè)長度為8的向量[0,0,5,0,0..]可能只要某特定一門加5分B1 [1,1,8] 先從后往前擴(kuò)展成一樣的維度B2 [4,32,8] 先從后往前擴(kuò)展成一樣的維度長度實(shí)現(xiàn)相加A [4,32,8]B [4]#一個(gè)長度為4的向量[0,0,5,0]可能只要某特定一門加5分，但是一共有8門課，不符合實(shí)際沒意義，所以不能用broadcast

情況1只需要復(fù)制
情況2

情況3不符合broadcast，需要手動(dòng)提取出B[0],B[0].shape是[32,14,14] 手動(dòng)在[32,14,14] 擴(kuò)展
默認(rèn)從最小維度匹配
+[32,32]可能是要給圖片增加base基底可能讓圖片平移一部分
+[3,1,1] 對RGB三個(gè)通道分別加上不同的值，彌補(bǔ)一部分屬性
+[1,1,1,1] 相當(dāng)于是[1] ，給每個(gè)像素點(diǎn)加一個(gè)固定的值

20合并與分割1

Merge or split
? Cat
? Stack
? Split#按照長度拆分
? Chunk#按照數(shù)量拆分

cat
torch.cat([a,b],dim=0).shape#[a,b]第一個(gè)參數(shù)是合并list，第二個(gè)參數(shù)dim=0是在哪個(gè)維度上合并

對于拼接的維度可以不同，但是非cat的維度上必須保持一致

example

stack
create new dim

兩個(gè)向量進(jìn)行拼接ab都是[32,8] ,表示ab兩個(gè)班級32個(gè)學(xué)生的8門成績
用cat就是[64,8]，這樣丟失了2個(gè)班級的信息
用stack就是[2,32,8]創(chuàng)建一個(gè)新的維度，
但是stack就是必須兩個(gè)tensor完全一樣，cat允許在連接的dim上尺寸不一樣

總結(jié)

以上是生活随笔為你收集整理的pytorch教程龙曲良16-20的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。