5.Multil-task lasso(多任务lasso回归分析)
生活随笔
收集整理的這篇文章主要介紹了
5.Multil-task lasso(多任务lasso回归分析)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
MultiTaskLasso 是一種估計多元回歸系數的線性模型, y 是一個2D數組,形式為(n_samples,n_tasks). 其限制條件是和其他回歸問題一樣,是選擇的特征,同樣稱為 tasks.
接下來的圖示比較了通過使用一個簡單的Lasso或者MultiTaskLasso得到的W中非零的位置。 Lasso 估計量分散著非零值而MultiTaskLasso所有的列全部是非零的。
數學表達上,它包含了一個使用???先驗作為正則化因子。其目標函數是最小化:
這里
MultiTaskLasso 類的實現使用了坐標下降算法來擬合系數。
擬合的時間序列模型
import matplotlib.pyplot as plt import numpy as npfrom sklearn.linear_model import MultiTaskLasso, Lassorng = np.random.RandomState(42)# Generate some 2D coefficients with sine waves with random frequency and phase n_samples, n_features, n_tasks = 100, 30, 40 n_relevant_features = 5 coef = np.zeros((n_tasks, n_features)) times = np.linspace(0, 2 * np.pi, n_tasks) for k in range(n_relevant_features):coef[:, k] = np.sin((1. + rng.randn(1)) * times + 3 * rng.randn(1))X = rng.randn(n_samples, n_features) Y = np.dot(X, coef.T) + rng.randn(n_samples, n_tasks)coef_lasso_ = np.array([Lasso(alpha=0.5).fit(X, y).coef_ for y in Y.T]) coef_multi_task_lasso_ = MultiTaskLasso(alpha=1.).fit(X, Y).coef_############################################################################### # Plot support and time series fig = plt.figure(figsize=(8, 5)) plt.subplot(1, 2, 1) plt.spy(coef_lasso_) plt.xlabel('Feature') plt.ylabel('Time (or Task)') plt.text(10, 5, 'Lasso') plt.subplot(1, 2, 2) plt.spy(coef_multi_task_lasso_) plt.xlabel('Feature') plt.ylabel('Time (or Task)') plt.text(10, 5, 'MultiTaskLasso') fig.suptitle('Coefficient non-zero location')feature_to_plot = 0 plt.figure() plt.plot(coef[:, feature_to_plot], 'k', label='Ground truth') plt.plot(coef_lasso_[:, feature_to_plot], 'g', label='Lasso') plt.plot(coef_multi_task_lasso_[:, feature_to_plot],'r', label='MultiTaskLasso') plt.legend(loc='upper center') plt.axis('tight') plt.ylim([-1.1, 1.1]) plt.show()
總結
以上是生活随笔為你收集整理的5.Multil-task lasso(多任务lasso回归分析)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 3.Lasso线性模型
- 下一篇: 6.最小角回归(Least Angle