１．shared memory

__shared__ 聲明為共享內(nèi)存，將會(huì)保存在共享內(nèi)存中

?２．constant memory

__constant__　聲明為常量?jī)?nèi)存，將會(huì)保存在常量?jī)?nèi)存中，常量?jī)?nèi)存是只讀內(nèi)存，聲明時(shí)要靜態(tài)的分配空間

將數(shù)據(jù)從CPU拷貝到常量?jī)?nèi)存中時(shí)用cudaMemcpyToSymbol，例如cudaMemcpyToSymbol( s, temp_s,sizeof(Sphere) * SPHERES)

常量?jī)?nèi)存帶來(lái)性能提升的原因：

１．對(duì)常量?jī)?nèi)存的單次讀操作可以廣播到臨近線程，將節(jié)約１５次讀操作

２．常量?jī)?nèi)存的數(shù)據(jù)將緩存起來(lái)，對(duì)相同地址的連續(xù)讀操作將不會(huì)產(chǎn)生額外的內(nèi)存通信量

當(dāng)處理常量?jī)?nèi)存時(shí)，NVIDIA硬件將單次內(nèi)存讀操作廣播到每個(gè)半線程束（線程束中線程的一半），如果半線程束中的每個(gè)線程都從常量?jī)?nèi)存的相同地址上讀取數(shù)據(jù)，那么使用常量?jī)?nèi)存產(chǎn)生的內(nèi)存流量將會(huì)是使用全局內(nèi)存的１／１６。但是當(dāng)所有的線程讀取不同的地址時(shí)，會(huì)降低性能，因?yàn)槿舭刖€程束中的１６個(gè)線程訪問(wèn)常量?jī)?nèi)存中的不同數(shù)據(jù)時(shí)，這１６次不同的讀取操作將會(huì)被串行化，從而需要１６倍的時(shí)間來(lái)發(fā)出請(qǐng)求，但在全局內(nèi)存中將會(huì)同時(shí)發(fā)出請(qǐng)求。

轉(zhuǎn)載于:https://www.cnblogs.com/shrimp-can/p/5052305.html

總結(jié)

以上是生活随笔為你收集整理的cuda内存总结的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。