深度图像理解
深度學(xué)習(xí)基礎(chǔ)知識
? ? ? ? ? ? 深度學(xué)習(xí)的基礎(chǔ)模塊
?
?
? ? ? ? ? ? 深度學(xué)習(xí)的模型設(shè)計
線性特征有限,遠(yuǎn)遠(yuǎn)不如非線性表示,非線性不好學(xué)習(xí),加入RELU,嘗試把原始特征拉入非線性空間
深度學(xué)習(xí)的訓(xùn)練技巧
很多時候使用激活函數(shù)relu
調(diào)試學(xué)習(xí)率:線性下降、試小的學(xué)習(xí)率-大的學(xué)習(xí)率-小的學(xué)習(xí)率-大的學(xué)習(xí)率
attention學(xué)習(xí)更多的東西
小結(jié):網(wǎng)絡(luò)結(jié)構(gòu)、超參數(shù)學(xué)習(xí)、優(yōu)化方案、模型表達(dá)能力、減少冗余,快速計算、減少過擬合、容易優(yōu)化、超參數(shù)調(diào)節(jié)、聯(lián)合學(xué)習(xí)、注意力機(jī)制
深度學(xué)習(xí)圖像理解技術(shù)
? ? ? ? ? 圖像分類框架
數(shù)據(jù)清洗搭一個半監(jiān)督模型,需要有一個種子模型
類標(biāo)簽比較弱,需要加一個triplet三元組
? ? ?
? ? ? ? ? ?
? ? ? ? ? 模型加速優(yōu)化
? ? ? ? ? 圖像檢測分割
Pipeline
? ? ? ? ? 圖像分類應(yīng)用場景
圖像理解進(jìn)階
?
?
總結(jié)
- 上一篇: 深度学习在CTR预估的应用
- 下一篇: 知识图谱(历史回顾及技术挑战)