计算图与动态图
一、計算圖
?
計算圖主要是描述運算的有向無環圖,計算圖主要有兩個部分:結點和邊,節點可以表示數據,邊表示數據的運算。
葉子結點: 用戶創建的結點稱為葉子結點
torch.Tensor: data、dtype、shape、device、requires_grad、grad、grad_fn、is_leaf
is_leaf: 指張量是否為葉子結點
grad_fn:? 用來記錄創建張量時所用的方法
?
二、動態圖
?
動態圖: 運算和搭建同時進行,主要特點為 靈活、易調節
靜態圖: 先搭建圖,后進行運算,主要特點為 高效、不靈活
>>> import torch >>> w = torch.tensor([1.],requires_grad=True) >>> x = torch.tensor([3.],requires_grad=True) >>> a = torch.add(w,x) >>> b = torch.add(w,1) >>> y = torch.mul(a,b) >>> y.backward() >>> print(w.grad) tensor([6.]) >>> print("is_leaf:",w.is_leaf,x.is_leaf,a.is_leaf,b.is_leaf,y.is_leaf) is_leaf: True True False False False >>> print("gradient:",w.grad,x.grad,a.grad,b.grad,y.grad) gradient: tensor([6.]) tensor([2.]) None None None >>> print("grad_fn:",w.grad_fn,x.grad_fn,a.grad_fn,b.grad_fn,y.grad_fn) grad_fn: None None <AddBackward0 object at 0x106007f28> <AddBackward0 object at 0x106007c88> <MulBackward0 object at 0x106007c18>?
?
?
?
?
?
?
?
?
?
?
?
總結
- 上一篇: Translating Embeddin
- 下一篇: autograd