Core Concepts List

我們將在這一部分羅列一些面試可能涉及到的小的知識點，只作鞏固和補充，如果需要詳細了解，還需要詳細查證相關的論文。

1.在預測階段執行 BN 是必要的嗎？（沒必要也不建議這么做）
2.Variance and Bias?
High Bias 往往伴隨 underfitting；而 High Variance 往往伴隨 overfitting。而具體到圖像上而言，表現是 training error 與 test error 之間 gap 的大小，gap 較大一般是 high variance 的表現；gap 較小且都高于預期值，則是 high bias 的表現。
3.Bagging and Boosting?
將低復雜度的模型 ensemble 起來是 Bagging 策略；將高復雜度的模型 ensemble 起來是 Boosting 策略（類似的還有Random Forest）。
4.what’s the differrence between L1 and L2?
5.Ridge Regression and Lasso Regression?
6.Methods to fine-tune hyper-parameters
Grid search; Random search; Bayesian optimization
7.How to do Gaussian Process approximation?
The process of surrogate function construction and acquisition function.
7.多項式回歸可以擬合非線性關系，所以它屬于非線性回歸?
多項式回歸仍然隸屬于線性回歸，因為因變量和自變量間的關系系數仍然是線性的。
8.logistic regression 是回歸問題還是分類問題?
邏輯回歸是分類問題，其真正區別在于損失函數的度量，一個是 MSE 而另一個則是 MLE，其中logistic regression 是在 x 變換后的基礎上，進行激活，得到屬于某個類別的概率。
9.

總結

以上是生活随笔為你收集整理的机器学习面试知识点汇总（Machine Learning Core Concepts Collection）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。