在2017年的圣誕節(jié)前，我翻譯了有關(guān)HyperOpt的中文文檔，這也時(shí)填補(bǔ)了空白，以此作為獻(xiàn)給所有中國程序員，以及所有其他機(jī)器學(xué)習(xí)相關(guān)行業(yè)人員的圣誕禮物。圣誕快樂，各位。

更新

Hyperopt官方文檔確實(shí)比較晦澀難懂,于是我最近補(bǔ)齊了原來挖的坑,Hyperopt的中文教程,同時(shí)還包括如何同時(shí)使用XGB,lightgbm與Hyperopt.很高興看到也有其他人寫過類似的東西.不過似乎寫的都有點(diǎn)問題,最起碼都沒有Hyperopt與XGB,LGB中的自帶交叉驗(yàn)證進(jìn)行結(jié)合的方法,其實(shí)這個(gè)很簡單,有個(gè)小技巧.詳細(xì)請參考以下文章

• Hyperopt 入門指南
• 在Hyperopt框架下使用XGboost與交叉驗(yàn)證
• 如何使用hyperopt對Lightgbm進(jìn)行自動(dòng)調(diào)參

個(gè)人測試,使用xgb或者lgb自帶的交叉驗(yàn)證與hyperopt結(jié)合,性能要比與sklearn中的交叉驗(yàn)證結(jié)合速度快四到五倍(測試較少,具體差異需視情況而定).

擴(kuò)展閱讀:

• 在Python中使用lightgbm
• 在Python中使用XGBoost

HyperOpt中文文檔導(dǎo)讀

翻譯的文檔已經(jīng)發(fā)布于github(官方授權(quán)翻譯),請?jiān)谖业捻?xiàng)目Hyperopt_CN中的wiki查看相應(yīng)文檔.CSDN,知乎同步更新中.

HyperOpt中文版wiki文檔內(nèi)容包括以下內(nèi)容:

• HyperOpt中文文檔導(dǎo)讀,即真正的中文文檔主頁
• Home:主頁
• Cite:引用
• FMin:使用FMin方法
• Installation Notes:安裝說明
• Interfacing With Other Languages:在其他語言中使用Hyperopt
• Parallelizing Evaluations During Search via MongoDB:使用MongoDB進(jìn)行并行搜索
• Recipes:原文中暫時(shí)只有一個(gè)給定值區(qū)間如何采樣的鏈接
• RelatedWork:相關(guān)工作
• Scipy2013

下面是hyperopt的官網(wǎng)首頁,作為對其的簡單介紹

Hyperopt

在Python中進(jìn)行分布式異步超參數(shù)優(yōu)化

Font Tian translated this article on 22 December 2017

hyperopt 是一個(gè)Python庫，可以用來尋找實(shí)數(shù),離散值,條件維度等搜索空間的最佳值。

# define an objective functiondef objective(args):case, val = argsif case == 'case 1':return valelse:return val ** 2# define a search spacefrom hyperopt import hpspace = hp.choice('a',[('case 1', 1 + hp.lognormal('c1', 0, 1)),('case 2', hp.uniform('c2', -10, 10))])# minimize the objective over the spacefrom hyperopt import fmin, tpebest = fmin(objective, space, algo=tpe.suggest, max_evals=100)print best# -> {'a': 1, 'c2': 0.01420615366247227}print hyperopt.space_eval(space, best)# -> {'case 2', 0.01420615366247227}

算法

目前兩種算法的實(shí)現(xiàn):

• 隨機(jī)搜索
• Tree of Parzen Estimators (TPE)

Hyperopt 設(shè)計(jì)伊始,是包括基于高斯過程與回歸樹的貝葉斯優(yōu)化算法的,但是現(xiàn)在這些都還沒有被實(shí)現(xiàn).

同時(shí),Hyperopt所有的算法都可以通過MongoDB進(jìn)行串行或者并行計(jì)算.

安裝

用戶安裝

pip install hyperopt

開發(fā)版安裝

git clone https://github.com/hyperopt/hyperopt.git(cd hyperopt && python setup.py develop)(cd hyperopt && nosetests)

更多信息，請參見安裝說明。

文檔

文檔現(xiàn)在托管在wiki上,但這里有一些相關(guān)頁面的鏈接:

• 基礎(chǔ)教程
• 安裝筆記
• 使用MongoDB

實(shí)例

在wiki中打開Hyperot

總結(jié)

以上是生活随笔為你收集整理的Hyperopt官方中文文档导读的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。