向量化

向量化通常是消除你代碼中顯式for循環語句的藝術。那么具體什么是向量化呢？
我們以

`

z=wTx+b
為例，在這個例子中，如果有很多的數據，那么w和x以及b都是n維列向量。

如所示，左側是用非向量化的數組來實現的，它的計算效率很慢。而右側是用了numpy，直接是向量化的去實現，計算效率就快很多。實際上numpy比單純的用for快很大一部分原因就是numpy內置了并行處理模塊，會自動進行并行處理運算。

向量化的更多例子

關于編程我們的經驗是，當你編寫新的網絡時，或者你做的只是回歸的話，那么一定要盡量避免使用for循環。能不用就不用。如果你能用一個內置函數，或者找出其他的什么辦法來計算循環，通會比使用for更快。

我們來看看如何在梯度下降法里面去掉for循環。

如圖所示，這是一般的需要用兩個顯式的for實現的例子。

向量化的logistic回歸

我們之前討論過向量化如何顯著地加速代碼執行，這里我們將會談及向量化如何實現logistic回歸。這樣，我們就可以加速大量的數據。

我們先來介紹正向傳播的部分：

如圖所示，對于每一個變量，我們可以寫成向量的形式，這樣，用一個語句就可以進行計算了。

向量化logistic回歸的梯度輸出

下面我們來介紹一下反向傳播的過程：

如圖所示，是整個反向傳播過程的實現。左側圖片是一步步的流程，右側圖片是整個用向量化表示后的方法和代碼。

如圖所示，這是整個計算過程示意圖，左側是傳統的for計算方法，而右側我們使用向量化表示之后，便可以避免使用for語句。這樣就既實現了正向傳播也實現了反向傳播。

對于為什么是a-y是因為之前我們在反向傳播用鏈式法則求導數的時候已經算完化簡過了，最后的結果就是a-y。

值得注意的是，對于一次的梯度向量，我們可以通過向量化處理，避免使用for語句，但是對于多次梯度下降，不可避免的會用到for進行迭代。

總結

以上是生活随笔為你收集整理的1.2.3 使用向量化进行加速计算的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。