目的：

查漏補(bǔ)缺深度學(xué)習(xí)體系，精益求精的深刻理解體系中各種核心的技術(shù)原理，感受技術(shù)思想背后的精髓魅力，做到能夠脫口而出。

?

計(jì)劃：

2021年5月、6月，完成課程中所有核心知識(shí)的深刻理解（通過(guò)撰寫(xiě)博客，自己能從頭到尾整明白），并完成所有練習(xí)和項(xiàng)目。

?

課程大綱

• 此項(xiàng)目是我在優(yōu)達(dá)學(xué)城的納米學(xué)位課程《深度學(xué)習(xí)》v7版中完成的各種練習(xí)和項(xiàng)目
• 官網(wǎng)：https://github.com/udacity/deep-learning-v2-pytorch/tree/master/sentiment-analysis-network

1 神經(jīng)網(wǎng)絡(luò)導(dǎo)論

• 1-1 Introduction to Neural Networks: 學(xué)習(xí)如何編碼實(shí)現(xiàn)梯度下降算法，并且在一個(gè)小數(shù)據(jù)集上應(yīng)用。
• 1-2 Sentiment Analysis with NumPy：基于numpy的情感分析，建立一個(gè)情感分析模型，預(yù)測(cè)一些文本是積極的還是消極的。
• 1-3 Introduction to PyTorch：學(xué)習(xí)如何在PyTorch中構(gòu)建神經(jīng)網(wǎng)絡(luò)，并將預(yù)先訓(xùn)練好的網(wǎng)絡(luò)用于最先進(jìn)的（state-of-the-art）圖像分類器。
• 項(xiàng)目1：Predicting Bike-Sharing Patterns
  • 實(shí)現(xiàn)一個(gè)兩層的神經(jīng)網(wǎng)絡(luò)來(lái)預(yù)測(cè)自行車租賃。

2 卷積神經(jīng)網(wǎng)絡(luò)

• 2-1 Convolutional Neural Networks：
  • 可視化CNN的輸出層。
  • 設(shè)計(jì)和訓(xùn)練一個(gè)CNN來(lái)對(duì)MNIST手寫(xiě)數(shù)字分類。
  • 設(shè)計(jì)并訓(xùn)練一個(gè)CNN來(lái)對(duì)CIFAR10數(shù)據(jù)集中的圖像進(jìn)行分類。
• 2-2 Transfer Learning：遷移學(xué)習(xí)。
  • 在實(shí)踐中，大多數(shù)人不會(huì)在巨大的數(shù)據(jù)集上訓(xùn)練自己的網(wǎng)絡(luò);他們使用預(yù)先訓(xùn)練過(guò)的網(wǎng)絡(luò)，如VGG。在這里，您將使用VGGnet幫助分類鮮花圖像，而無(wú)需從頭訓(xùn)練端到端網(wǎng)絡(luò)。
• 2-3 Weight Initialization：
  • 探究初始化網(wǎng)絡(luò)權(quán)值如何影響性能。
• 2-4 Autoencoders：
  • 利用PyTorch中的前饋網(wǎng)絡(luò)和卷積網(wǎng)絡(luò)構(gòu)建圖像壓縮和去噪模型。
• 2-5 Style Transfer：風(fēng)格遷移。
  • 使用預(yù)先訓(xùn)練的網(wǎng)絡(luò)，從圖像中提取風(fēng)格和內(nèi)容特征。根據(jù)Gatys等人的論文《Image style transfer Using Convolutional Neural Networks》實(shí)現(xiàn)風(fēng)格轉(zhuǎn)移。設(shè)計(jì)適當(dāng)?shù)膿p失函數(shù)，以此迭代創(chuàng)建一個(gè)你自己設(shè)計(jì)的風(fēng)格遷移圖像!
• 項(xiàng)目2：Dog Breed Classifier
  • 使用PyTorch構(gòu)建一個(gè)卷積神經(jīng)網(wǎng)絡(luò)，將任何圖像(甚至是人臉圖像)分類為特定的犬種。

3 遞歸神經(jīng)網(wǎng)絡(luò)

• 3-1 Intro to Recurrent Networks：循環(huán)神經(jīng)網(wǎng)絡(luò)能夠使用有關(guān)數(shù)據(jù)序列的信息，如文本中的字符序列;了解如何在PyTorch中為各種任務(wù)實(shí)現(xiàn)這些。
• 3-2 Embeddings (Word2Vec)：實(shí)現(xiàn)Word2Vec模型，尋找用于自然語(yǔ)言處理的詞的語(yǔ)義表示。
• 3-3 Sentiment Analysis RNN：實(shí)現(xiàn)一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)，可以預(yù)測(cè)電影評(píng)論的文本是正面的還是負(fù)面的。
• 3-4 Attention：實(shí)現(xiàn)attention并將其應(yīng)用于注釋向量。
• 項(xiàng)目3：TV Script Generation
  • 訓(xùn)練一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò)生成《宋飛正傳》對(duì)話風(fēng)格的劇本。

4 生成對(duì)抗網(wǎng)絡(luò)

• 4-1 Generative Adversarial Network on MNIST：在MNIST數(shù)據(jù)集上訓(xùn)練一個(gè)簡(jiǎn)單的生成對(duì)抗網(wǎng)絡(luò)。
• 4-2 Batch Normalization：學(xué)習(xí)如何通過(guò)批處理歸一化來(lái)提高訓(xùn)練效率和網(wǎng)絡(luò)穩(wěn)定性。
• 4-3 Deep Convolutional GAN (DCGAN)：實(shí)現(xiàn)一個(gè)DCGAN生成新的圖像基于街景房屋編號(hào)(SVHN)數(shù)據(jù)集。
• 4-4 CycleGAN：實(shí)現(xiàn)CycleGAN，旨在從未配對(duì)和未標(biāo)記的數(shù)據(jù)中學(xué)習(xí);使用經(jīng)過(guò)訓(xùn)練的生成器將圖像從夏季轉(zhuǎn)換到冬季，反之亦然。
• 項(xiàng)目4：Face Generation
  • 使用DCGAN在CelebA數(shù)據(jù)集上生成新的、真實(shí)的人臉圖像。

總結(jié)

以上是生活随笔為你收集整理的优达学城《DeepLearning》大纲和学习愿景的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。