目錄

?

寫(xiě)在前面

精簡(jiǎn)版概念理解

凸集

凸集的性質(zhì)

凸函數(shù)

凸函數(shù)性質(zhì)

凸優(yōu)化

為什么要求是凸集呢？

為什么要求是凸函數(shù)呢？

判斷是否為凸函數(shù)的簡(jiǎn)單辦法

為什么區(qū)分凸優(yōu)化和非凸優(yōu)化

非凸優(yōu)化問(wèn)題如何轉(zhuǎn)為凸優(yōu)化問(wèn)題

詳細(xì)版概念理解

寫(xiě)在前面

文章分為精簡(jiǎn)版和詳細(xì)版概念理解，若只是想簡(jiǎn)單了解凸集、凸函數(shù)和凸優(yōu)化是什么，建議看精簡(jiǎn)版，若想知其所以然，深入探究，請(qǐng)?zhí)D(zhuǎn)到詳細(xì)版概念理解~

精簡(jiǎn)版概念理解

凸集

在點(diǎn)集拓?fù)鋵W(xué)與歐幾里得空間中，凸集（Convex set）是一個(gè)點(diǎn)集合，其中每?jī)牲c(diǎn)之間的直線點(diǎn)都落在該點(diǎn)集合中。如圖所示

任意一組凸集的交集仍然是一個(gè)凸集。

常見(jiàn)的凸集：

• n維實(shí)數(shù)空間；
• 一些范數(shù)約束形式的集合
• 仿射子空間
• 凸集的交集
• n維半正定矩陣集

凸集的性質(zhì)

凸函數(shù)

是凸集，則函數(shù)為凸函數(shù)。

若對(duì)所有的，滿足：

，則該函數(shù)為強(qiáng)凸函數(shù)。

當(dāng)對(duì)于，不等式嚴(yán)格不等。當(dāng)是凸函數(shù)時(shí)，是凹函數(shù)。

該定義可以推廣到n個(gè)元素。

?

其幾何意義表示為函數(shù)任意兩點(diǎn)連線上的值大于對(duì)應(yīng)自變量處的函數(shù)值，如圖所示：

常見(jiàn)的凸函數(shù)：

• 指數(shù)函數(shù)族
• 非負(fù)對(duì)數(shù)函數(shù)
• 仿射函數(shù)
• 二次函數(shù)
• 常見(jiàn)的范數(shù)函數(shù)
• 凸函數(shù)非負(fù)加權(quán)的和

凸函數(shù)性質(zhì)

是凸集，函數(shù)為凸函數(shù)，則也都是M上的凸函數(shù)。

凸優(yōu)化

數(shù)學(xué)中的最優(yōu)化問(wèn)題一般表述是求取，使，其中是n維向量，是的可行域，是上的實(shí)值函數(shù)。

凸優(yōu)化問(wèn)題是指：是閉合的凸集且是上的凸函數(shù)的最優(yōu)化問(wèn)題，兩個(gè)條件缺一不可。

常見(jiàn)的凸優(yōu)化問(wèn)題：

• 線性規(guī)劃（LP）
• 二次規(guī)劃（QP）
• 二次約束的二次規(guī)劃（QCQP）
• 半正定規(guī)劃（SDP）

為什么要求是凸集呢？

答：如果是如圖中的情況，可行域不是凸集，會(huì)導(dǎo)致局部最優(yōu)。

為什么要求是凸函數(shù)呢？

答：如果是如圖中的情況，則無(wú)法獲取全局最優(yōu)解。

判斷是否為凸函數(shù)的簡(jiǎn)單辦法

• 目標(biāo)函數(shù)如果不是凸函數(shù)，則不是凸優(yōu)化問(wèn)題
• 決策變量中包含離散變量（0-1變量或證書(shū)變量），則不是凸優(yōu)化問(wèn)題。
• 約束條件寫(xiě)成時(shí)，如果不是凸函數(shù)，則不是凸優(yōu)化問(wèn)題。

為什么區(qū)分凸優(yōu)化和非凸優(yōu)化

答：如果是凸優(yōu)化問(wèn)題，則局部最優(yōu)解同時(shí)也是全局最優(yōu)解，因?yàn)橥箖?yōu)化問(wèn)題在一定意義上更容易解決。

非凸優(yōu)化問(wèn)題如何轉(zhuǎn)為凸優(yōu)化問(wèn)題