缓存注意事项
緩存注意事項(xiàng)
Numba支持將編譯后的函數(shù)緩存到文件系統(tǒng)中,以供將來(lái)使用相同的函數(shù)。
實(shí)施
通過(guò)保存編譯后的目標(biāo)代碼(可執(zhí)行代碼的ELF對(duì)象)來(lái)完成緩存。通過(guò)使用目標(biāo)代碼,由于不需要編譯,因此緩存的函數(shù)具有最小的開(kāi)銷(xiāo)。緩存的數(shù)據(jù)保存在緩存目錄下(請(qǐng)參閱NUMBA_CACHE_DIR)。緩存的索引存儲(chǔ)在.nbi文件中,每個(gè)函數(shù)有一個(gè)索引,并且列出了為該函數(shù)編譯的所有l(wèi)oad重載簽名。每load過(guò)載一個(gè)文件,目標(biāo)代碼被存儲(chǔ)在具有.nbc擴(kuò)展名文件中。兩個(gè)文件中的數(shù)據(jù)都以pickle序列化。
注意
在Python <= 3.7上,Numbapickle使用純Python Pickler進(jìn)行擴(kuò)展。要使用速度更快的C Pickler,請(qǐng) 從pip安裝pickle5。pickle5向后移植Python 3.8 Pickler功能。
緩存要求
開(kāi)發(fā)人員應(yīng)注意允許緩存功能的要求,以確保正在使用的功能與緩存兼容。
可緩存功能的要求:
? LLVM模塊必須是獨(dú)立的,這意味著如果不鏈接到其它已編譯的單元,則它不能依賴(lài)其它模塊。
? 唯一允許的外部符號(hào)來(lái)自 NRT或系統(tǒng)庫(kù)中的其它常見(jiàn)符號(hào)(即libc和libm)。
調(diào)試說(shuō)明:
? inttoptr在LLVM IR或 target_context.add_dynamic_add()Python的降低代碼中查找的用法。指示運(yùn)行時(shí)runtime地址的潛在用途。并非所有用途都是有問(wèn)題的,有些用途是必需的。僅將常量整數(shù)轉(zhuǎn)換為指針會(huì)影響緩存。
? 錯(cuò)誤使用動(dòng)態(tài)地址或動(dòng)態(tài)標(biāo)志可能會(huì)導(dǎo)致段錯(cuò)誤。
? 鏈接順序很重要,因?yàn)殒溄雍髸?huì)刪除未使用的符號(hào)。鏈接應(yīng)從依賴(lài)關(guān)系圖的葉節(jié)點(diǎn)開(kāi)始。
與緩存兼容的功能
明確驗(yàn)證了以下功能可用于緩存。
? cpu和parallel目標(biāo)的ufuncs和gufuncs
? 并行加速器功能(即parallel=True)
緩存限制
這是緩存的已知限制的列表:
? 緩存無(wú)效。無(wú)法識(shí)別在另一個(gè)文件中定義的符號(hào)中的更改。
? 全局變量被視為常量。緩存將保存編譯時(shí)使用的全局變量中的值。在緩存加載時(shí),緩存的函數(shù)將不會(huì)重新綁定到全局變量的新值。
緩存共享
在另一臺(tái)計(jì)算機(jī)上共享和重用緩存目錄中的內(nèi)容是安全的。緩存會(huì)在編譯過(guò)程中記錄CPU模型和可用的CPU功能。如果CPU型號(hào)和CPU功能不完全匹配,則不會(huì)考慮緩存內(nèi)容。(參閱NUMBA_CPU_NAME)
如果高速緩存目錄在網(wǎng)絡(luò)文件系統(tǒng)上共享,僅當(dāng)文件替換操作是文件系統(tǒng)的原子操作時(shí),并發(fā)讀取/寫(xiě)入高速緩存才是安全的。Numba始終首先寫(xiě)入唯一的臨時(shí)文件,然后用該臨時(shí)文件替換目標(biāo)緩存文件路徑。Numba可以容忍丟失的緩存文件和丟失的緩存條目。
緩存清除
修改相應(yīng)的源文件后,緩存將失效。但是,有時(shí)有需要手動(dòng)清除緩存目錄。例如,由于未修改源文件,因此無(wú)法識(shí)別編譯器中的更改。
要清除緩存,可以簡(jiǎn)單地刪除緩存目錄。
在運(yùn)行Numba應(yīng)用程序時(shí),刪除緩存目錄可能會(huì)導(dǎo)致 OSError在編譯站點(diǎn)引發(fā)異常。
總結(jié)
- 上一篇: 关于Numba的线程实现的说明
- 下一篇: BEP 7:CUDA外部内存管理插件(上