NEON加速

NEON 技術(shù)是 ARM Cortex?-A 系列處理器的 128 位 SIMD（單指令，多數(shù)據(jù)）架構(gòu)擴(kuò)展，旨在為消費(fèi)性多媒體應(yīng)用程序提供靈活、強(qiáng)大的加速功能，從而顯著改善用戶體驗(yàn)。它具有 32 個(gè)寄存器，64 位寬（雙倍視圖為 16 個(gè)寄存器，128 位寬。）
目前主流的iPhone手機(jī)和大部分android手機(jī)都支持ARM NEON加速，因此在編寫(xiě)移動(dòng)端算法時(shí)，可利用NEON技術(shù)進(jìn)行算法加速，以長(zhǎng)度為4的寄存器大小為例，相應(yīng)的提速倍數(shù)約是原始的4倍。

NEON 指令可執(zhí)行“打包的 SIMD”處理：

1 寄存器被視為同一數(shù)據(jù)類型的元素的矢量 2 數(shù)據(jù)類型可為：簽名/未簽名的 8 位、16 位、32 位、64 位單精度浮點(diǎn) 3 指令在所有通道中執(zhí)行同一操作

如下圖所示：

本文主要介紹float32x4_t相關(guān)的結(jié)構(gòu)及函數(shù)，
float32x4_t 可以理解為vector (4),同理typexN_t即為vector(N)。

在NEON編程中，對(duì)單個(gè)數(shù)據(jù)的操作可以擴(kuò)展為對(duì)寄存器，也即同一類型元素矢量的操作，因此大大減少了操作次數(shù)。
這里以一個(gè)小例子來(lái)解釋如何利用NEON內(nèi)置函數(shù)來(lái)加速實(shí)現(xiàn)統(tǒng)計(jì)一個(gè)數(shù)組內(nèi)的元素之和。

以C++代碼為例：
原始算法代碼如下：

#include <iostream> using namespace std;float sum_array(float *arr, int len) {if(NULL == arr || len < 1){cout<<"input error\n";return 0;}float sum(0.0);for(int i=0; i<len; ++i){sum += *arr++;}return sum; }

對(duì)于長(zhǎng)度為N的數(shù)組，上述算法的時(shí)間復(fù)雜度時(shí)O(N)。
采用NEON函數(shù)進(jìn)行加速：

#include <iostream> #include <arm_neon.h> //需包含的頭文件 using namespace std;float sum_array(float *arr, int len) {if(NULL == arr || len < 1){cout<<"input error\n";return 0;}int dim4 = len >> 2; // 數(shù)組長(zhǎng)度除4整數(shù)int left4 = len & 3; // 數(shù)組長(zhǎng)度除4余數(shù)float32x4_t sum_vec = vdupq_n_f32(0.0);//定義用于暫存累加結(jié)果的寄存器且初始化為0for (; dim4>0; dim4--, arr+=4) //每次同時(shí)訪問(wèn)4個(gè)數(shù)組元素{float32x4_t data_vec = vld1q_f32(arr); //依次取4個(gè)元素存入寄存器vecsum_vec = vaddq_f32(sum_vec, data_vec);//ri = ai + bi 計(jì)算兩組寄存器對(duì)應(yīng)元素之和并存放到相應(yīng)結(jié)果}float sum = vgetq_lane_f32(sum_vec, 0)+vgetq_lane_f32(sum_vec, 1)+vgetq_lane_f32(sum_vec, 2)+vgetq_lane_f32(sum_vec, 3);//將累加結(jié)果寄存器中的所有元素相加得到最終累加值for (; left4>0; left4--, arr++)sum += (*arr) ; //對(duì)于剩下的少于4的數(shù)字，依次計(jì)算累加即可return sum; }

上述算法的時(shí)間復(fù)雜度時(shí)O(N/4)
從上面的例子看出，使用NEON函數(shù)很簡(jiǎn)單，只需要將依次處理，變?yōu)榕幚?#xff08;如上面的每次處理4個(gè)）。

上面用到的函數(shù)有：
float32x4_t vdupq_n_f32 (float32_t value)
將value復(fù)制4分存到返回的寄存器中

float32x4_t vld1q_f32 (float32_t const * ptr)
從數(shù)組中依次Load4個(gè)元素存到寄存器中

相應(yīng)的 有void vst1q_f32 (float32_t * ptr, float32x4_t val)
將寄存器中的值寫(xiě)入數(shù)組中

float32x4_t vaddq_f32 (float32x4_t a, float32x4_t b)
返回兩個(gè)寄存器對(duì)應(yīng)元素之和 r = a+b

相應(yīng)的 有float32x4_t vsubq_f32 (float32x4_t a, float32x4_t b)
返回兩個(gè)寄存器對(duì)應(yīng)元素之差 r = a-b

float32_t vgetq_lane_f32 (float32x4_t v, const int lane)
返回寄存器某一lane的值

其他常用的函數(shù)還有：

float32x4_t vmulq_f32 (float32x4_t a, float32x4_t b)
返回兩個(gè)寄存器對(duì)應(yīng)元素之積 r = a*b

float32x4_t vmlaq_f32 (float32x4_t a, float32x4_t b, float32x4_t c)
r = a +b*c

float32x4_t vextq_f32 (float32x4_t a, float32x4_t b, const int n)
拼接兩個(gè)寄存器并返回從第n位開(kāi)始的大小為4的寄存器 0<=n<=3
例如
a: 1 2 3 4
b: 5 6 7 8
vextq_f32(a,b,1) -> r: 2 3 4 5
vextq_f32(a,b,2) -> r: 3 4 5 6
vextq_f32(a,b,3) -> r: 4 5 6 7

float32x4_t sum = vdupq_n_f32(0); float _a[] = {1,2,3,4}, _b[] = {5,6,7,8} ; float32x4_t a = vld1q_f32(_a), b = vld1q_f32(_b) ; float32x4_t sum1 = vfmaq_laneq_f32(sum, a, b, 0); sum + a**b[0] (0,0,0,0) + (1*5, 2*5, 3*5, 4*5) = (5, 10 ,15 ,20) float32x4_t sum2 = vfmaq_laneq_f32(sum1, a, b, 1); float32x4_t sum3 = vfmaq_laneq_f32(sum2, a, b, 2);

其他常用的函數(shù)可以參考開(kāi)發(fā)網(wǎng)站
https://developer.arm.com/technologies/neon/intrinsics
NEON函數(shù)介紹：
https://blog.csdn.net/fengbingchun/article/details/38085781
總之，NEON學(xué)習(xí)入門(mén)很快，但如果想要更精深，就需要多花些時(shí)間和功夫在上面。

總結(jié)

以上是生活随笔為你收集整理的NEON加速的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。