LAD-lasso和线性规划算法
本文參考資料列表:
【1】Robust Regression Shrinkage and Consistent?Variable Selection Through the LAD-Lasso?
【2】維基百科?https://en.wikipedia.org/wiki/Least_absolute_deviations
LAD-lasso簡介
LAD-lasso是一種將 lasso的 regression shrinkage and selection 和LAD (least absolute deviation)對于outliers和heavy-tailed errors的穩健性結合起來的辦法。?
LAD-lasso準則
lasso準則是:
lasso準則對所有的變量施加相同的tuning parameter,得到的估計量是有偏的,修改lasso得到以下準則:
lasso*準則中使用的是Ordinary Least Square,對于outliers比較敏感,改為least absolute deviation:
LAD-lasso求解
LAD-lasso可以轉化為無懲罰的LAD問題求解:
而LAD問題的求解,最推薦的是線性規劃方法,如何將LAD問題轉化為線性規劃問題呢?
我們想要:
該問題等價于:
其中的constraints會在最小化目標函數的同時,強制每個 ui?等于| yi -a0-...-akxik?|,因此等價于原始的目標函數。
LAD-lasso性質
待補充。。
線性規劃
基于單純形的方法是解決最小絕對偏差問題的“首選”方法。單純形法是一種解決線性規劃問題的方法。 最流行的算法是Barrodale-Roberts modified Simplex算法。
?
轉載于:https://www.cnblogs.com/grace-luke/p/9975576.html
總結
以上是生活随笔為你收集整理的LAD-lasso和线性规划算法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: HZAU新版正方教务系统一键教学评价
- 下一篇: 小木亘随笔日记