《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算

时间:2024-05-21 10:53:37

2.3保凸运算

如果我们知道若干个集合是凸集,如何通过已知的凸集然后推知其他的凸集,这里就需要保凸运算了。在保凸运算的前后,凸性是保持不变的。

2.3.1 交集

如果S1与S2均为凸集,那么S1与S2的交集也是凸集(这个还是比较好理解的。)
注意:交集有这个性质,并集可没有

2.3.2 仿射函数

  1. 定义:
    F(x)是一个仿射函数当:
    f(x)=Ax+b,f:RnRmf(x) = Ax + b,f:{R^n} \to {R^m}ARmxn,bRm,A \in {R^{mxn}},b \in {R^m},
    其中表达式f:RnRmf:{R^n} \to {R^m}的意思是x是一个n维向量,f是一个m维的向量,仿射函数是把一个n维向量映射为一个m维的向量。

  2. 仿射变化与线性变化的区别:
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算

  3. 应用:
    如果 SRn{\rm{S}} \in {{\rm{R}}^{\rm{n}}}是一个凸集,f是一个仿射函数,那么 $f(s) = { f(x)|x \in S} $为凸,反过来也是成立的,如果f(x)是一个仿射函数,且是凸集,那么对应的x也是一个凸集。相当于把仿射函数看成一个x,然后在求取逆变换的时候符合仿射变换,所以变换之后仍然为凸集。

  4. 举例:

  • 缩放与移位是保持凸性的
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算

  • 两个凸集的和还是凸集:(这里的和得到的并不是交集)
    S1+S2={x+yxS1,yS2}{{\rm{S}}_1} + {{\rm{S}}_2}{\rm{ = \{ x + y|x}} \in {{\rm{S}}_1},y \in {{\rm{S}}_2}\}
    证明:首先把两个凸集变为一个凸集:把维度上升一个:
    S1xS2={(x,y)xS1,yS2}{{\rm{S}}_1}{\rm{ x }}{{\rm{S}}_2}{\rm{ = \{ (x,y)|x}} \in {{\rm{S}}_1},y \in {{\rm{S}}_2}\} S3= 容易证明这个集合是一个凸集
    f(x,y)=[1,1][x,y]T=x+y,x,y)S3f(x,y) = [1,1]{[x,y]^T} = x + y,x,y) \in {S_3}对凸集S3做一个仿射变化,得到的也一定是凸

  • 线性矩阵不等式的解集也是一个凸集
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    x=Bf(x)Ax = \frac{{B - f(x)}}{A}
    根据x的取值,f(x)f(x)是一个半正定矩阵
    根据上面的结论,半正定矩阵是一个凸集,所以f(x)是一个凸集,对f(x)求解逆运算,求出x,如上述的表达式是一个仿射变换(根据结论凸集的仿射变换仍然为一个凸集),所以x是一个凸集

  • 椭球是球的仿射映射(把一个球通过伸缩与移位,就能够得到一个椭球)
    根据上面椭球(单位椭球)的定义:
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算

2.3.3透视函数

  1. 透视函数的定义:
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    透视函数的定义与是(n+1)维,其中最后一个维度的变量一定是一个正数;透视函数的函数值是一个(n)维的数,一个变量,经过透视变换,将会减少一个维度。

  2. 小孔成象说明透射函数
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    小孔照相机由一个不透明的水平线x=-1和一个原点的小孔组成,x=0上面的光线透过原点的小孔照映在x=-1这条水平线上,形成象,这条水平线上的纵坐标都是-1,忽略象的最后一个维度。光线向象的映射就对应于透视函数。

  3. 关于透视函数的定理:

  • 任何一个凸集,经过透视变化之后,仍然为一个凸集(高维向低维映射保凸)(这里举一个例子:一条线段,经过透视变换后,仍然为一条低一个维度的线段)
  • 任意凸集的反透视函数仍为凸集(低维向高维的反透视仍保凸)

2.3.4 线性分数函数

《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算

  1. 与仿射函数和透射函数的对比
    线性分式函数是有透射函数和仿射函数复合而成的。
    回顾一下仿射函数和透视函数的性质:
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
  2. 线性分式函数定义
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算
    通过上面的定义可以知道,仿射函数和透视函数也可以说是特殊的线性分式函数。
  3. 定理:
  • 一个凸集合,经过线性分数变换之后,仍然为一个凸集。
  • 一个集合经过线性分数变换之后是一个凸集,那么这个集合一定是凸集
  1. 特性说明:
  • 这个定理成立说明了,一个凸集经过非线性变换,仍然有可能够保持凸性)
  • 仿射函数其实是一个线性变换,透射函数是一个非线性变换,他们都能使集合前后保持凸性,但是如果把两者结合起来用的话,够着一个新的特殊的非线性变换,结果仍是一个凸集,那么他的性质就很好了。
  1. 举例:
    联合概率到条件概率的映射
    《Convex Optimization》学习笔记——第二章凸集2.3 保凸运算