當前位置：首頁 >

Transformer结构详解(有图，有细节)

發布時間：2025/3/21 47 豆豆

生活随笔收集整理的這篇文章主要介紹了 Transformer结构详解(有图，有细节) 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

文章目錄

1. transformer的基本結構
2. 模塊詳解
- 2.1 模塊1：Positional Embedding
- 2.2 模塊2：Multi-Head Attention
- - 2.2.1 Scaled Dot-Product Attention
  - 2.2.2 Multi-Head
- 2.3 模塊3：ADD
- 2.4 模塊4：Layer Normalization
- 2.5 模塊5：Feed Forward NetWork
- 2.6 模塊6：Masked Multi-Head Attention
- 2.7 模塊7: Multi-Head Attention
- 2.8 模塊8：Linear
- 2.9 模塊9：SoftMax
3. transformer在機器翻譯任務中的使用
4 transformer 相關的其它問題

1. transformer的基本結構

2. 模塊詳解

2.1 模塊1：Positional Embedding

??P E PEPE模塊的主要做用是把位置信息加入到輸入向量中，使模型知道每個字的位置信息。對于每個位置的P E PEPE是固定的，不會因為輸入的句子不同而不同，且每個位置的P E PEPE大小為1 ? n 1 *n1?n(n為word embedding 的dim size)，transformer中使用正余弦波來計算P E PEPE，具體如下：
P E ( p o s , 2 i ) = s i n ( p o s / 1000 0 2 i / d m o d e l ) P E ( p o s , 2 i + 1 ) = c o s ( p o s / 1000 0 2 i / d m o d e l ) PE_{(pos,2i)} = sin(pos/10000^{2i/d_{model}}) \\ PE_{(pos,2i+1)} = cos(pos/10000^{2i/d_{model}})PE(pos,2i)?=sin(pos/100002i/dmodel?)PE(pos,2i+1)?=cos(pos/100002i/dmodel?)

p o s pospos代表的是一個字在句子中的位置,從0到名字長度減1，是下圖中紅色的序號。
i ii代表的是dim 的序號，是下圖中藍色的序號:
- 當i ii為偶數時，此位置的值使用?s i n ( p o s / 1000 0 2 i / d m o d e l ) sin(pos/10000^{2i/d_{model}})sin(pos/100002i/dmodel?)來填充。
- 當i ii為奇數時，些位置的值使用?c o s ( p o s / 1000 0 2 i / d m o d e l ) cos(pos/10000^{2i/d_{model}})cos(pos/100002i/dmodel?)來填充
  
  實現代碼：

class PositionalEncoding(nn.Module):"Implement the PE function."def __init__(self, d_model, dropout, max_len=5000):super(PositionalEncoding, self).__init__()self.dropout = nn.Dropout(p=dropout)# Compute the positional encodings once in log space.pe = torch.zeros(max_len, d_model).float()position = torch.arange(0, max_len).unsqueeze(1).float()div_term = torch.exp(torch.arange(0, d_model, 2).float() *-(math.log(10000.0) / d_model)).float()pe[:, 0::2] = torch.sin(position * div_term)pe[:, 1::2] = torch.cos(position * div_term)pe = pe.unsqueeze(0)self.register_buffer('pe', pe)def forward(self, x):x = x + Variable(self.pe[:, :x.size(1)],requires_grad=False)return self.dropout(x)

至于為什么選擇這種方式，論文中給出的解釋是：

我們之所以選擇這個函數，是因為我們假設它可以讓模型很容易地通過相對位置來學習,因為對任意確定的偏移k kk,?P E p o s + k PE_{pos+k}PEpos+k?可以表示為P E p o s PE_{pos}PEpos?的線性函數。
理解：
由s i n ( α + β ) = s i n α c o s β + s i n β c o s α c o s ( α + β ) = c o s α c o s β ? s i n β s i n α sin(\alpha+\beta)=sin\alpha cos\beta + sin\beta cos\alpha\\ cos(\alpha+\beta)=cos\alpha cos\beta - sin\beta sin\alphasin(α+β)=sinαcosβ+sinβcosαcos(α+β)=cosαcosβ?sinβsinα
推出：
P E ( p o s + k , 2 i ) = s i n ( ( p o s + k ) / 1000 0 2 i / d m o d e l ) = s i n ( p o s / 1000 0 2 i / d m o d e l ) c o s ( k / 1000 0 2 i / d m o d e l ) + s i n ( p o s / 1000 0 2 i / d m o d e l ) c o s ( k / 1000 0 2 i / d m o d e l ) = P E ( p o s , 2 i ) P E ( k , 2 i + 1 ) ? P E ( p o s , 2 i + 1 ) P E ( k , 2 i )

PE(pos+k,2i)=sin((pos+k)/100002i/dmodel)=sin(pos/100002i/dmodel)cos(k/100002i/dmodel)+sin(pos/100002i/dmodel)cos(k/100002i/dmodel)=PE(pos,2i)PE(k,2i+1)?PE(pos,2i+1)PE(k,2i)PE(pos+k,2i)=sin((pos+k)/100002i/dmodel)=sin(pos/100002i/dmodel)cos(k/100002i/dmodel)+sin(pos/100002i/dmodel)cos(k/100002i/dmodel)=PE(pos,2i)PE(k,2i+1)?PE(pos,2i+1)PE(k,2i)

PE(pos+k,2i)?=sin((pos+k)/100002i/dmodel?)=sin(pos/100002i/dmodel?)cos(k/100002i/dmodel?)+sin(pos/100002i/dmodel?)cos(k/100002i/dmodel?)=PE(pos,2i)PE(k,2i+1)?PE(pos,2i+1)PE(k,2i)?
P E ( p o s + k , 2 i + 1 ) = c o s ( ( p o s + k ) / 1000 0 2 i / d m o d e l ) = c o s ( p o s / 1000 0 2 i / d m o d e l ) c o s ( k / 1000 0 2 i / d m o d e l ) ? s i n ( p o s / 1000 0 2 i / d m o d e l ) s i n ( k / 1000 0 2 i / d m o d e l ) = P E ( p o s , 2 i + 1 ) P E ( k , 2 i + 1 ) ? P E ( p o s , 2 i ) P E ( k , 2 i )

PE(pos+k,2i+1)=cos((pos+k)/100002i/dmodel)=cos(pos/100002i/dmodel)cos(k/100002i/dmodel)?sin(pos/100002i/dmodel)sin(k/100002i/dmodel)=PE(pos,2i+1)PE(k,2i+1)?PE(pos,2i)PE(k,2i)PE(pos+k,2i+1)=cos((pos+k)/100002i/dmodel)=cos(pos/100002i/dmodel)cos(k/100002i/dmodel)?sin(pos/100002i/dmodel)sin(k/100002i/dmodel)=PE(pos,2i+1)PE(k,2i+1)?PE(pos,2i)PE(k,2i)

PE(pos+k,2i+1)?=cos((pos+k)/100002i/dmodel?)=cos(pos/100002i/dmodel?)cos(k/100002i/dmodel?)?sin(pos/100002i/dmodel?)sin(k/100002i/dmodel?)=PE(pos,2i+1)PE(k,2i+1)?PE(pos,2i)PE(k,2i)?
以P E ( p o s + k , 2 i ) = P E ( p o s , 2 i ) P E ( k , 2 i + 1 ) ? P E ( p o s , 2 i + 1 ) P E ( k , 2 i ) PE(pos+k,2i)=PE(pos,2i)PE(k,2i+1)-PE(pos,2i+1)PE(k,2i)PE(pos+k,2i)=PE(pos,2i)PE(k,2i+1)?PE(pos,2i+1)PE(k,2i)為例，當k kk確定時:?P E ( k , 2 i + 1 ） PE(k,2i+1）PE(k,2i+1）、P E ( k , 2 i ) PE(k,2i)PE(k,2i)均為常數，P E ( p o s + k , 2 i ) = P E ( p o s , 2 i ) ? 常數 2 i + 1 k ? P E ( p o s , 2 i + 1 ) ? 常數 i k PE(pos+k,2i)=PE(pos,2i) * 常數_{2i+1}^k - PE(pos,2i+1) * 常數_{i}^kPE(pos+k,2i)=PE(pos,2i)?常數2i+1k??PE(pos,2i+1)?常數ik?
上式為即為1）中所說的線性函數。我們知道，每個位置（pos）的PE值均不同，因此我們可以根據PE的值區分位置，而由上面的線性函數，我們可以計量出兩個位置的相對距離。

我們還嘗試使用預先學習的positional embeddings 來代替正弦波，發現這兩個版本產生了幾乎相同的結果。我們之所以選擇正弦曲線，是因為它允許模型擴展到比訓練中遇到的序列長度更長的序列。
理解：
??第二點很好理解就是說了下正弦波的優點。這里我著重講下正弦波存在的問題。在transformer架構里，我們計算兩個特征的關系用的是點積的的方式（因為使用了Dot-Product Attention）。所以兩個PE的關系（距離）實際是以它們的點積來表示的。舉例如下[ 1 ] ^{[1]}[1]：
我們令c i = 1 / 1000 0 2 i / d m o d e l c_i=1/10000^{2i/d_{model}}ci?=1/100002i/dmodel?，則第t tt及t + 1 t+1t+1個位置的positional embedding 是：
P E t = [ s i n ( c 0 t ) c o s ( c 0 t ) s i n ( c 1 t ) c o s ( c 1 t ) ? s i n ( c d 2 ? 1 t ) c o s ( c d 2 ? 1 t ) ] T PE_t={\left[ {

sin(c0t)cos(c0t)sin(c1t)cos(c1t)?sin(cd2?1t)cos(cd2?1t)sin(c0t)cos(c0t)sin(c1t)cos(c1t)?sin(cd2?1t)cos(cd2?1t)

} \right]^T}PEt?=????????????sin(c0?t)cos(c0?t)sin(c1?t)cos(c1?t)?sin(c2d??1?t)cos(c2d??1?t)?????????????T
P E t + k = [ s i n ( c 0 ( t + k ) ) c o s ( c 0 ( t + k ) ) s i n ( c 1 ( t + k ) ) c o s ( c 1 ( t + k ) ) ? s i n ( c d 2 ? 1 ( t + k ) ) c o s ( c d 2 ? 1 ( t + k ) ) ] T PE_{t+k}={\left[ {

sin(c0(t+k))cos(c0(t+k))sin(c1(t+k))cos(c1(t+k))?sin(cd2?1(t+k))cos(cd2?1(t+k))sin(c0(t+k))cos(c0(t+k))sin(c1(t+k))cos(c1(t+k))?sin(cd2?1(t+k))cos(cd2?1(t+k))

} \right]^T}PEt+k?=????????????sin(c0?(t+k))cos(c0?(t+k))sin(c1?(t+k))cos(c1?(t+k))?sin(c2d??1?(t+k))cos(c2d??1?(t+k))?????????????T
則：P E t P E t + k = Σ j = 0 d 2 [ s i n ( c j t ) s i n ( c j ( t + k ) + c o s ( c j t ) c o s ( c j ( t + k ) ] = Σ j = 0 d 2 c o s ( c j ( t ? ( t + k ) ) = Σ j = 0 d 2 c o s ( c j k )

PEtPEt+k=Σd2j=0[sin(cjt)sin(cj(t+k)+cos(cjt)cos(cj(t+k)]=Σd2j=0cos(cj(t?(t+k))=Σd2j=0cos(cjk)PEtPEt+k=Σj=0d2[sin(cjt)sin(cj(t+k)+cos(cjt)cos(cj(t+k)]=Σj=0d2cos(cj(t?(t+k))=Σj=0d2cos(cjk)

PEt?PEt+k??=Σj=02d??[sin(cj?t)sin(cj?(t+k)+cos(cj?t)cos(cj?(t+k)]=Σj=02d??cos(cj?(t?(t+k))=Σj=02d??cos(cj?k)?
??上式的第二行是使用了?c o s ( α ? β ) = s i n α s i n β + c o s α c o s β cos(\alpha-\beta)=sin\alpha sin\beta + cos\alpha cos\betacos(α?β)=sinαsinβ+cosαcosβ?這個公式進行的變換。從最終的結果我們可以看出，兩個embedding的距離度量只與間隔k kk有關，而c o s coscos函數關于y軸對稱，即c o s x = c o s ( ? x ) cosx=cos(-x)cosx=cos(?x)，所以，P E t P E t + k PE_tPE_{t+k}PEt?PEt+k?的度量只與k kk的大小有關，與誰在前，誰在后無關。即，經過dot-attention機制后，我們把positional embedding中的順序信息丟失了。所以，從這方面看，正弦波這種位置PE并不太適合在用在transformer結構中，這也可能是后面的bert，t5都采用的基于學習的positional embedding。（注：模塊3會把順序信息傳遞下去，但我們還是在算法的核心處理上丟失了信息。）

2.2 模塊2：Multi-Head Attention

??這個模塊是transformer的核心，我們把這塊拆成兩部分來理解，先講下其中的Scaled Dot-Product Attention（縮放的點積注意力機制），再講Multi-Head。

2.2.1 Scaled Dot-Product Attention

??我們先看下論文中的 Scaled Dot-Product Attention 步驟，如下圖：

下面我們對著上面的圖講一下，具體的看下每步做了什么。

首先說下Q,K,V，在transformer的encoder中，輸入只有一個，即輸入向量與位置向量的和，我們暫且叫做input_sum。Q,K,V就是這個input_sum通過三個linear層映射而來。如下圖

由于linear的輸入和輸出均為d m o d e l d_{model}dmodel?,所以Q,K,V的大小和input_sum的大小是一致的。

MatMul: 這步是實際是計算的?Q ? K T Q*K^TQ?KT, 如下圖：

從上圖可以看出Q ? K T Q*K^TQ?KT的結果s c o r e s scoresscores是一個L ? L L*LL?L的矩陣（L為句字長度），其中scores中的[ i , j ] [i,j][i,j]位置表示的是Q QQ中的第i ii行的字和K T K^TKT中第j jj列的相似度（也可以說是重要度，我們可以這么理解，在機器翻譯任務中，當我們翻譯一句話的第i ii個字的的時候，我們要考慮原文中哪個位置的字對我們現在要翻譯的這個位置的字的影響最大）。

Scale ：這部分就是對上面的s c o r e s scoresscores進行了個類似正則化的操作。
s c o r e s = s c o r e s d q scores=\frac{scores}{\sqrt{d_q}}scores=dq??scores??（這里要說一下d q d_{q}dq?，論文中給出的是d h d_{h}dh?，即d m o d e l / h d_{model}/hdmodel?/h, 因為論文中做了multi-head，所以?d q = d h d_q=d_{h}dq?=dh?），這里解釋下除以d q \sqrt{d_q}dq??的原因，原文是這樣說的：“我們認為對于大的d k d_kdk?，點積在數量級上增長的幅度大，將softmax函數推向具有極小梯度的區域4 ^44。為了抵消這種影響，我們對點積擴展1 d k \frac{1}{\sqrt{d_k}}dk??1?倍”。

Mask: 這步使用一個很小的值，對指定位置進行覆蓋填充。這樣，在之后計算softmax時，由于我們填充的值很小，所以計算出的概率也會很小，基本就忽略了。(如果不填個很小的值的話，后面我們計算softmax時，e x i ∑ i = 1 k e x i \frac{e^{x_i}}{\sum_{i=1}^{k}{e^{x_i}}}∑i=1k?exi?exi???,當x = 0 x=0x=0時(padding的值)，分子e 0 = 1 e^{0}=1e0=1這可不是一個很小的值。)，mask操作在encoder和decoder過程中都存在，在encoder中我們是對padding的值進行mask，在decoder中我們主要是為了不讓前面的詞在翻譯時看到未來的詞，所以對當前詞之后的詞的信息進行mask。下面我們先看看encoder中關于padding的mask是怎么做的。

??如上圖，輸入中有兩個pad字符，s c o r e s scoresscores中的x都是pad參與計算產生的，我們為了排除pad產生的影響，我們提供了如圖的mask，我們把scores與mask的位置一一對應，如果mask的值為0，則scores的對應位置填充一個非常小的負數（例如：? e 9 -e^9?e9）。最終得到的是上圖最后一個表格。說了這么多，其實在pytorch中就一句話。

scores = scores.masked_fill(mask == 0, -1e9)

SoftMax: 對scores中的數據按行做softmax。這樣就把權得轉換成了概率。

MatMul: 這步就是使用softmax后的概率值與V VV矩陣做矩陣乘法。

附上代碼：

def attention(query, key, value, mask=None):d_k = query.size(-1)scores = torch.matmul(query, key.transpose(-2, -1)) \/ math.sqrt(d_k)if mask is not None:scores = scores.masked_fill(mask == 0, -1e9)p_attn = F.softmax(scores, dim = -1)return torch.matmul(p_attn, value)

2.2.2 Multi-Head

??這里我們看看multi-head attention中的 multi-head是什么意思。我們假設d m o d e l = 512 d_{model}=512dmodel?=512,h = 8 h=8h=8（8個頭）,說下transformer中是怎么處理的：
??前面我們說過了，Q QQ、K KK、V VV三個矩陣是encoder的輸入經過三個linear映射而成，它們的大小是[ B , L , D ] [B,L,D][B,L,D](batch size, max sentence length, embedding size), 這里為了說的清楚些，我們暫時不看[ B ] [B][B]這個維度。那么Q QQ、K KK、V VV的維度都為[ L , D ] [L,D][L,D]，multi-head就是在[ D ] [D][D]維度上對數據進行切割，把數據切成等長的8段（h = 8 h=8h=8），這樣Q QQ、K KK、V VV均被切成等長的8段，然后對應的Q QQ、K KK、V VV子段組成一組，每組通過 Scaled Dot-Product Attention 算法計算出結果，這樣的結果我們會得到8個，然后把這8個結果再拼成一個結果，就multi-head的結果。具體過程如下圖：

2.3 模塊3：ADD

??此模塊做了個類似殘差的操作，不同的是不是用輸入減去輸出，而是用輸入加上輸出。（指Multi-Head Attention模塊的輸入和輸出），具體操作就是把模塊2的輸入矩陣與模塊2的輸入矩陣的對應位置做加法運算。

2.4 模塊4：Layer Normalization

??不論是layer normalization還是batch normalization，其實做的都是一件事情，都是根據?x = a ? x ? x ￣ s t d + e p s + b x = a * \frac{x - \overline{x}}{std + eps} + bx=a?std+epsx?x?+b對x xx的分布進行調整。不同的是x ￣ \overline{x}x和s t d stdstd的計算方式不同。如下圖：

??batch normalization的x ￣ \overline{x}x和s t d stdstd是延粉色方向計算的，而layer normalization是延藍色方向計算的。如果兄弟們去面試，可能面試官會問為什么這里沒有使用BN，而使用了LN,我的理解是，BN對batch size的大小是有要求的，一般batch size越大，計算出的x ￣ \overline{x}x越好，而我用12G內存的GPU，跑transformer的模型時，batch size最多也就設置到32。batch size還是偏小的。所以使用與batch size無關的layer normlization。從另一個角度講，batch size之所以小，是因為我們的embedding size 大，而layer normalization 正好是延這個方向做的，所以正好使得layer normalization計算的更穩定。

2.5 模塊5：Feed Forward NetWork

??Feed Forward NetWork 翻譯成中文叫前饋網絡，其實就是MLP。我們這里不糾結于FFN的定義，我們直接看下transformer里是怎么實現的。如下圖，我們先把輸入向量從512維（d m o d e l d_{model}dmodel?）映射到2048維，然后再映射到512維。實現時，就是使用兩個linear層，第一個linear的輸入是512維，輸出是2048維，第二個linear的輸入是2048，輸出是512。

2.6 模塊6：Masked Multi-Head Attention

??上文已講了Multi-Head Attention，而且在講 Scaled Dot-Product Attention 時也講了mask機制，此模塊的區別在于maked的策略不同，在encoder中我們是把padding給masked掉，這里我們除了要考慮padding,還要考慮預測時的未來變量問題，換句話說，我們是用一句話中的前N ? 1 N-1N?1個字預測第N NN個字，那么我們在預測第N NN個字時，就不能讓模型看到第N個字之后的信息，所以這里們把預測第N NN個字時，第N NN(包括)個字之后的字都masked掉。我們假設預測序列為’i like this apple’，則我們要做如下的mask。

2.7 模塊7: Multi-Head Attention

??模塊7 與上文模塊2（encoder 中的 Multi-Head Attention）代碼實現上完全相同，區別再于模塊2 只有一個輸入，模塊2把此輸入經過三個linear映射成Q QQ、K KK、V VV?，而模塊7的輸入有兩個，一個是decoder的輸入經過第一個大模塊傳過來的值（為了方便，我們叫它input_x），一個是encoder最終結果（我們暫叫它input_memory）, 模塊7是把input_x通過一個linear映射成了Q QQ，然后通過兩個linear把input_memory映射成K KK、V VV?，其它的與模塊2完全一致。

2.8 模塊8：Linear

??此模塊的目的是把模型的輸transformer decoder的輸出從d m o d e l d_{model}dmodel?維度映射到詞表大小的維度。linear本身也比較簡單，這里不再細講了。

2.9 模塊9：SoftMax

??此模塊會把上層linear的輸出轉化成概率，對應到某個字的概率。

3. transformer在機器翻譯任務中的使用

??在《Attention is All You Need》這篇文章中，是把transformer做為一個特征提取器放在一個Encoder-Decoder（下文用Encoder-Stack和Decoder-Stack，用以和transformer的encoder, decoder區分）架構中的，具體細節見下圖：

??上面的圖片把整個結構基本都畫出來了，這里再說下訓練時的數據走向及流程：
1) 數據X XX?輸入到Encoder-Stack中，得到輸出變量e n c o d e r _ o u t p u t encoder\_outputencoder_output
2)?e n c o d e r _ o u t p u t encoder\_outputencoder_output?做為K e y KeyKey和V a l u e ValueValue的原始輸入輸入到Decoder-Stack中，Decoder-Stack的Query為上一輪Decoder-Stack的輸出。
具體流程見下圖：

??這里我提一下decoder stack的輸入（上圖中的Query），前面說過了，在transformer中，decoder的核心思想是用一個句子中的前N ? 1 N-1N?1個字，預測第N NN個字，但在預測第一個字的時候，前面沒有字，這時我們可以在每句話前面加上一個固定的開始標志(bos), 這樣相當于把整個句子右移了一位。

4 transformer 相關的其它問題

??這部分我是想寫寫transformer的并行等其它問題，但今天寫的太累了，主要的也都寫完了，就先發了。

References
[ 1 ] [1][1]?https://zhuanlan.zhihu.com/p/166244505

總結

以上是生活随笔為你收集整理的Transformer结构详解(有图，有细节)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。

上一篇： Transformer 详解
下一篇： Transformer 模型详解