UA SIE545 優化理論基礎0 優化建模7 二值變量的應用

• 包含決策變量的絕對值的約束
• 包含決策變量的最值的約束
• 包含決策變量的任意分位點的約束
• 應用：Least Median Squared Error Regression

考慮一種看起來非常簡單的約束：$|x|\ge a$，這個約束等價于$x\ge aora\le ?a$，也就是說這個約束不能簡單寫成線性形式，因為它包含兩個分支。這時我們需要引入二值變量。

包含決策變量的絕對值的約束

繼續考慮$|x|\ge a$這個約束，假設它等價于
$$x\ge a+g(z)andx\le ?a?h(z)$$

當$z=0$時，上式等價于$x\le ?a$；當$z=1$時，上式等價于$x\ge a$，那么當$z=0$時，需要$g(z)=\inf ,h(z)=0$；當$z=1$時，需要$g(z)=0,h(z)=\inf$。因為$\inf$并不標準，我們只是用它表示一個非常大的數，因此可以正式地定義一個$M$，滿足$??>0,M>?$。從而構造：
$$g(z)=M(1?z),h(z)=Mz$$

顯然
$$|x|\ge a?x\ge a+M(1?z)andx\le ?a?Mz$$

包含決策變量的最值的約束

有兩種約束是非常簡單，比如
$$\begin{gathered} \min (x_1,?,x_n)\ge a?x_1\ge a,x_2\ge a,?,x_n\ge a \\ \max (x_1,?,x_n)\le b?x_1\le a,x_2\le a,?,x_n\le a \end{gathered}$$

現在考慮更復雜的情況，假設$\min (x_1,?,x_n)\le a$，這個約束的含義是$?k\in \{1,?,n\},x_k\le a$，也就是至少有一個決策變量不大于$a$，其他的無所謂。因此我們可以引入一系列用于選擇的二值變量$\{z_i{\}}_{i=1}^n$，$z_i=1$表示$x_i\le a$，根據絕對值部分構造的分支選擇的結構，$\min (x_1,?,x_n)\le a$等價于
$$?i,x_i\le a+M(1?z_i),\sum _{i=1}^n{z}_i=1$$
另一種情況是$\max (x_1,?,x_n)\ge a$，這個約束的含義是$?k\in \{1,?,n\},x_k\ge a$，也就是至少有一個決策變量不小于$a$，其他的可以自由取值。同樣引入一系列用于選擇的二值變量$\{z_i{\}}_{i=1}^n$，$z_i=1$表示$x_i\ge a$，$\max (x_1,?,x_n)\ge a$等價于
$$?i,x_i\ge a?M(1?z_i),\sum _{i=1}^n{z}_i=1$$

包含決策變量的任意分位點的約束

考慮這樣的約束，$x_{(k)}$表示決策變量的第$k$個次序統計量，考慮約束$x_{(k)}\le a$，它的涵義是在$n$個決策變量中至少有$k$個不大于$a$，引入一系列用于選擇的二值變量$\{z_i{\}}_{i=1}^n$，$z_i=1$表示$x_i\le a$，同樣利用分支結構：
$$?i,x_i\le a+M(1?z_i),\sum _{i=1}^n{z}_i=k$$

應用：Least Median Squared Error Regression

沿用優化建模3的設定：考慮一元線性回歸問題，假設數據集為$\{(x_i,y_i),i=1,?,n\}$，假設被解釋變量為$y$，解釋變量為$x$，并且二者是線性關系
$$y={\beta }_0+{\beta }_{1}x$$

一種Robust regression技術是Least Median Squared Error Regression，也就是
$$\min median(y_i?({\beta }_0+{\beta }_1{x}_i){)}^2$$

根據優化模型的性質，這個優化等價于
$$\min median(y_i?({\beta }_0+{\beta }_1{x}_i))$$

令$u=median(y_i?({\beta }_0+{\beta }_1{x}_i))=median({?}_i)$，上面的優化可以進一步等價為
$$\begin{gathered} \min u \\ s.t.u\ge median({?}_i) \end{gathered}$$

這個約束的含義是在$n$個${?}_i$中至少有一半不大于$u$，根據上文的結論，引入一系列用于選擇的二值變量$\{z_i{\}}_{i=1}^n$，$z_i=1$表示${?}_i\le a$，則優化等價于
$$\begin{gathered} \min u \\ s.t.?i,y_i?({\beta }_0+{\beta }_1{x}_i)\le u+M(1?z_i) \\ \sum _{i=1}^n{z}_i=[(n+1)/2] \end{gathered}$$

這就化歸成了一個線性規劃。

總結

以上是生活随笔為你收集整理的UA SIE545 优化理论基础0 优化建模7 二值变量的应用的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。