首页 > 技术文章 > 凸集分离定理

szqfreiburger 2019-09-28 00:58 原文



1. 凸集分离定理:欧式空间情形


   凸集的比较好的性质之一就是所谓的凸集分离定理,它告诉我们,可以选取一个超平面来分离两个不相交的凸集合!我们以后也会看到这个定理在凸优化问题中的应用,例如Slater条件。

  凸集分离定理(欧氏空间情形):设集合\(S_{1}\),\(S_{2}\)\(\mathbb{R}^{n}\)(\(n\geq 1\))中的两个不相交的非空凸集,则存在一个超平面分离\(S_{1}\),\(S_{2}\),既存在\(v\in \mathbb{R}^{n}\),\(v\neq 0\)以及\(b\in\mathbb{R}\) 使得:
\begin{equation}v\cdot x+b\geq 0,\end{equation} 对任意 \(x\in S_{1},\) 且:
\begin{equation}v\cdot x+b\leq 0,\end{equation} 对任意 \(x\in S_{2}\).

证明:
  由\(S_{1}\),\(S_{2}\)为不相交凸集容易验证集合:\(S_{1}-S_{2}\triangleq\lbrace x-y\mid x\in S_{1}, y\in S_{2}\rbrace\) 为不包含 \(0\) 的凸集,于是我们只需要证明,存在\(v\in\mathbb{R}^{n}\),\(v\neq 0\) 使得 对任意的\(x\in S_{1}-S_{2}\), 有:\(v\cdot x\geq 0\), 因为这时对任意的\(x\in S_{1}\), \(y\in S_{2}\), 则\(x-y\in S_{1}-S_{2}\), \(v\cdot(x-y)=v\cdot x-v\cdot y\geq 0\), 于是我们令\(b\triangleq -\sup_{y\in S_{2}}\lbrace v\cdot y\rbrace\), 此时\(v\), \(b\)正好满足上述不等式(1),(2)。

   因此不妨先证明一下以下的引理:

引理1:\(S\)\(\mathbb{R}^{n}\)的一个闭凸子集, \(0\)为不属于 集合\(S\)内部的点,则存在\(v\in\mathbb{R}^{n}\), \(v\neq 0\), s.t. \(v\cdot y\geq 0\), 对任意\(y\in S\).

   注意到,如果以上引理1成立,则这时候\(S\triangleq \overline{S_{1}-S_{2}}\)是闭凸集, 并且由于\(0\notin S1-S2\), 由凸集的性质容易知道 \(0\)不属于\(S\)的内部,于是由以上引理1可以找到相应的\(v\in\mathbb{R}^{n}\)使原命题成立,于是我们只需要证明以上引理.

   引理1的证明:首先我们证明 \(0\notin S\)的情形。这时由于 \(S\) 是闭集,存在\(x^{\ast}\in S\) 使得:(1)\(\Vert x^{\ast}\Vert=\inf_{y\in S}\lbrace\Vert y\Vert\rbrace\). 我们断定这时候\(x^{\ast}\cdot y\geq 0\), 对任意\(y\in S\).否则存在\(y_{0}\in S\), 使得\(x^{\ast}\cdot y_{0}<0\), 这时候我们令:$$t=\frac{y_{0}\cdot(y_{0}-x^{\ast})}{\Vert y_{0}-x{\ast}\Vert{2}}$$, 由\(y_{0}\cdot x^{\ast}<0\)容易知\(t\in (0,1).\) 我们令:

\[z\triangleq tx^{\ast}+(1-t)y_{0}, \]

\(z\in S\) 并且:

\[z\perp (x^{\ast}-z), \]

于是:

\[\Vert z\Vert^{2}=\Vert x^{\ast}\Vert^{2}-\Vert x^{\ast}-z\Vert^{2}<\Vert x^{\ast}\Vert^{2}, \]

这与(1)相矛盾,于是情形\(0\notin S\)得证。

   现在我们考虑\(0\in \partial S\)的情形,这时存在序列\(x_{k}\notin S\rightarrow 0\), 当\(k\rightarrow \infty\)。由以上已经证明的情况可知,存在\(v_{k}\in \mathbb{R}^{n}\), \(\Vert v_{k}\Vert=1\) 使得 对任意的\(y\in S\)\(v_{k}\cdot (y-x_{k})\geq 0\). 而由于序列\(v_{k}\) 有界,于是必然存在一收敛子列\(v_{k_{i}}\)收敛到某\(v\in\mathbb{R}^{n}\), 这时\(\Vert v\Vert=1\)且对任意的\(y\in S\)我们有\(v_{k_{i}}\cdot (y-x_{k_{i}})\geq 0\),我们令\(k\rightarrow \infty\)自然可以得到\(v\cdot y\geq 0\),此时引理得证, 定理证毕。

2. 凸集分离定理:赋范线性空间情形


推荐阅读