实录分享 | 计算未来轻沙龙:揭秘AutoML技术(视频 + PPT)
10 月 27 日(周六)上午,PaperWeekly 攜手清華大學計算機系推出了計算未來輕沙龍第三期線下活動——揭秘 AutoML 技術。來自中國科學技術大學、中國科學院自動化研究所和探智立方的三位嘉賓,系統而深入地分享了他們各自在自動機器學習領域的最新研究進展。
本文將獨家分享本期活動的完整視頻回顧和嘉賓課件下載。
?吳開源 / 北京航空航天大學博士?
吳開源,北京航空航天大學數學博士。目前是探智立方(北京)科技有限公司算法工程師,從事人工智能自動化平臺算法研發。
?DarwinML:基于圖進化算法的自動機器學習?
AutoML 技術可以減少模型設計過程中需要機器學習專業知識的手動操作,降低傳統行業的進入門檻,讓更多的社區開發者方便地使用人工智能技術。AutoML 技術最近得到學術界和工業界的越來越多的關注。
在這個講座中,我們將介紹一種基于計算圖的 AutoML 技術。利用計算圖,可以靈活地表示各種復雜的 ML 模型。與 tree-based 和 stacking-based 等方法相比,基于計算圖的方法可以提供了更大的搜索空間。我們引入了一種進化算法來搜索最佳的模型計算圖,并設計相應的突變和遺傳算子。結合貝葉斯超參數優化,我們實現了機器學習的整個工作流程的自動化。在 PMLB 數據集上,與 TPOT,AutoStacker 和 AutoSklearn 相比,所提出的方法顯示了更好的性能。 我們還將展示幾個基于 DarwinML 平臺的工業用戶案例。
?羅人千 / 微軟-中科大聯合培養博士生?
羅人千,微軟亞洲研究院-中國科學技術大學聯合培養博士生,目前博士三年級在讀。研究方向:機器學習、深度學習、機器翻譯。曾在 NIPS 上發表論文。
?NIPS 2018:神經網絡結構優化?
神經網絡搜索(Neural Architecture Search)是 AutoML 的一個分支,目標是針對給定的任務和數據,通過算法自動搜索出合適的深度神經網絡結構,從而減少繁雜的人工設計過程。當前的一些搜索方法有在離散空間里基于強化學習、進化算法等搜索更優的結構。
本次報告將介紹我們今年發表在 NIPS 上的工作?Neural Architecture Optimization。本工作將神經網絡結構映射到連續空間內,直接基于網絡的性能這一目標進行優化,使得搜索過程更高效、使用資源更少,搜索得到的網絡結構性能更好。
?陳玉康?/ 中國科學院自動化研究所碩士生?
陳玉康,本科畢業于北京航空航天大學,曾赴加拿大約克大學、德國慕尼黑工業大學交流交換,先后在百度 IDL、地平線機器人實習。現為中科院自動化所模式識別方向碩士,目前研究深度學習模型優化、模型壓縮等方向。
?基于進化算法和強化學習的網絡結構搜索算法?
深度神經網絡逐漸替代了人工設計的特征,并在圖像、語音、文本等領域不斷超越傳統算法。然而,深度神經網絡的興起也帶來了新的問題。良好神經網絡的結構通常需要研究者在擁有豐富經驗的情況下不斷嘗試,消耗大量的時間和計算資源來設計。而這樣設計出來的網絡結構通常情況下仍然存在著各種各樣的問題,比如參數量大,精度低等等。因此,自動化的神經網絡結構設計逐漸成為深度學習的進一步需求。
本報告將詳細介紹我們提出的一種在進化算法框架下結合強化學習的神經網絡結構搜索算法。本算法在消耗極少計算資源的情況下,在 CIFAR-10 和 ImageNet 等分類任務上取得了良好的效果。此外,我們還會討論神經網絡結構搜索方向的重點難點,以及未來的工作和趨勢。
?1 / 掃碼關注?
長按識別二維碼,關注PaperWeekly
?2 / 回復暗號?
在PaperWeekly微信公眾號后臺
回復暗號181027
即可獲取視頻和嘉賓課件
#投 稿 通 道#
?讓你的論文被更多人看到?
如何才能讓更多的優質內容以更短路徑到達讀者群體,縮短讀者尋找優質內容的成本呢??答案就是:你不認識的人。
總有一些你不認識的人,知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁,促使不同背景、不同方向的學者和學術靈感相互碰撞,迸發出更多的可能性。?
PaperWeekly 鼓勵高校實驗室或個人,在我們的平臺上分享各類優質內容,可以是最新論文解讀,也可以是學習心得或技術干貨。我們的目的只有一個,讓知識真正流動起來。
??來稿標準:
? 稿件確系個人原創作品,來稿需注明作者個人信息(姓名+學校/工作單位+學歷/職位+研究方向)?
? 如果文章并非首發,請在投稿時提醒并附上所有已發布鏈接?
? PaperWeekly 默認每篇文章都是首發,均會添加“原創”標志
? 投稿郵箱:
? 投稿郵箱:hr@paperweekly.site?
? 所有文章配圖,請單獨在附件中發送?
? 請留下即時聯系方式(微信或手機),以便我們在編輯發布時和作者溝通
?
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 獲取最新論文推薦
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的实录分享 | 计算未来轻沙龙:揭秘AutoML技术(视频 + PPT)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: RSGAN:对抗模型中的“图灵测试”思想
- 下一篇: ACL 2018论文解读 | 基于排序思