---恢复内容开始---

放射集合
系数之和为1 相加仍然能在集合内,就是 纺射集合
子空间加一个常熟 就是纺射集合 ,
例题2.1
一类特殊的线性方程组的解可以看作纺射 集合

纺射包 aff C
是由集合C中所有店组成的仿射组合

定义集合C的维度为其纺射包的位数,

特例 : R2上的单位元 纺射包 是全空间R 维度为2 但是一般来说 单位元还的维度是1

如果以一个集合 C的仿设纬度小于n
称 集合C的相对内部为aff C的内部
记为relint

例题2.2
考虑 R3中的处于(x1,x2)平面的一个正方形

C= 一个上述正方形
其纺射包是一个平面,但是内部为空,相对内部不为空

C的边界是自身,但是相对边界是其边框(相对边界对应相对内部)

2.1.4 凸集

集合C被称为凸集,当C中元素 加和为1(但都为正数时)还在 C集内 称为凸集

集合C中所有点的凸组合称为凸包
记为conv C

凸组合的概念可以扩展到无线级数,积分和大多数形式的概况v分布

级数扩展:
无穷级数系数之和为1, x1 x2 x3 等等都属于凸集内的点,
如果收敛 并且和也在凸集内,就说 视野更凸集

积分扩展:
系数在C上的积分等于1;
系数*x 的积分结果仍然在集合内

概率扩展(最一般的情况):
C 属于Rn 是凸集, x是随机变量,
x 属于 C 的概率是1
那么 Ex 属于C
事实上 这里的形式包含了上述的特殊情况,
举例: 如果x 是两点分布, 就回退到了两个点的简单的凸组合

2.1.5 锥

系数为正即可(非负的线性组合)

集合C的锥包 是C中严肃 的所有锥组合的集合

2.2 重要的例子

  • 空集,任意一个点 , 全空间Rn 都是Rn 的纺射子集
  • 任意直线是仿射的。如果直线通过零点,那就成为了自空间, 也是凸锥
  • 一条射线 是凸的 但不是仿射的
  • 任意子空间是纺射的 凸锥

2.2.1 超平面与半空间

超平面是关于x的非平凡线性方程的解空间( 因为是一个仿设集合)

几何上 超平面可以解释为与给定向量的内积为常数的点的集合
也可以堪称是 法线防线为a 的超平面, 而常数b 决定了这个平面从原点的偏移
我们甚至可以写成
{x| a^T(x-x0)=0}=x0+a的正交补

一个超平面将Rn 划分为两个半空间(闭的)
半空间是凸的但是不仿射的

开半空间 定义如其名

2.2.2 球和椭球

Euclid 球 简称球
就是说 Ecuild 范数的意思
球是 凸集


以上需要一点矩阵知识

2.2.3 范数球和范数锥


Rn 中的范数

附A.1.2

非负
正定
齐次
满足三角不等式
例子说明

二阶锥的实例 冰淇凌锥

2.2.4 多面体

多面体是 有限个半空间和超平面的交集

仿射集合(子空间 超平面, 直线) 涉嫌,线段, 和半空间都是 多面体。
显而易见,多面体是凸集。

有界的多面体有时候被称为多胞形

五个半空间交集定义的多面体
形式化定义

简洁的定义如下

非负象限 具有非负分量的点的集合

单纯形

conv{v0,...,vk} 单纯形
例题2.5

k+1 个点 仿射独立 那么单纯形的维数被定义为k
单位单纯形 是由零向量和单位xiangliang 0, e1,...,en 决定的 n维单纯形。

单纯形的定义

从多面体的角度理解单纯形

首先 单纯形是 满足一定条件点(仿射独立) 的凸包

采用这种写法 简化
注意的B 的规格是 nxk 并且秩为k

不等式的角度


因为A1 A2 是随B 确定而确定的矩阵
所以这是关于x 的线性要求

多面体的凸包描述

一个凸包和一个锥包的并()
任何一个多面体都可以如此表示

这个经典的例子说明了,使用不等式和 凸包表示一个多面体 的计算量是完全不同的

正定锥 与 半正定锥


我们认为半正定矩阵是一个凸锥

以为两个半正定矩阵的 正系数和 仍然是半正定矩阵

保凸运算

交集是保凸的


有分析 我们同样认识到半正定锥 是凸的

这种绝对值不等式 由于是两个线性不等式,我们认为他是由无数个平板的交的来 因此是凸的

事实上 一个闭集S是包含他的所有半空间的交集

仿射函数


说明了仿射函数是 保凸运算

凸集的和 部分和 是保凸运算

线性矩阵不等式的解
这里的矩阵是对称的,我们首先知道这种
是锥 半正定的 凸的
于是x 就是一种仿射映射下的原像 于是也是凸的


双曲锥 的仿射函数 到二阶锥

线性分式与透视函数

透视函数的原理:小孔成像

令人印象深刻

2.4 广义不等式

正常锥的定义 凸的 闭的 实的 尖的

凸优化 & 1概念的更多相关文章

  1. 机器学习&数据挖掘笔记_15(关于凸优化的一些简单概念)

    没有系统学过数学优化,但是机器学习中又常用到这些工具和技巧,机器学习中最常见的优化当属凸优化了,这些可以参考Ng的教学资料:http://cs229.stanford.edu/section/cs22 ...

  2. 支持向量机(SVM)必备概念(凸集和凸函数,凸优化问题,软间隔,核函数,拉格朗日乘子法,对偶问题,slater条件、KKT条件)

    SVM目前被认为是最好的现成的分类器,SVM整个原理的推导过程也很是复杂啊,其中涉及到很多概念,如:凸集和凸函数,凸优化问题,软间隔,核函数,拉格朗日乘子法,对偶问题,slater条件.KKT条件还有 ...

  3. 凸优化简介 Convex Optimization Overview

    最近的看的一些内容好多涉及到凸优化,没时间系统看了,简单的了解一下,凸优化的两个基本元素分别是凸函数与凸包 凸集 凸集定义如下: 也就是说在凸集内任取两点,其连线上的所有点仍在凸集之内. 凸函数 凸函 ...

  4. murongxixi的凸优化笔记

    http://www.cnblogs.com/murongxixi/p/3598645.html 在前两节里已经涉及到集合的相对内部与闭包的概念,这一节我们深入研究它们的性质和计算,之后介绍凸函数的连 ...

  5. 在线学习和在线凸优化(online learning and online convex optimization)—在线分类问题2

    紧接上文,我们讲述在线分类问题 令,为0-1损失,我们做出如下的简化假设: 学习者的目标是相对于hypotheses set: H具有low regret,其中H中的每个函数是从到{0,1}的映射,并 ...

  6. zz姚班天才少年鬲融凭非凸优化研究成果获得斯隆研究奖

    姚班天才少年鬲融凭非凸优化研究成果获得斯隆研究奖 近日,美国艾尔弗·斯隆基金会(The Alfred P. Sloan Foundation)公布了2019年斯隆研究奖(Sloan Research ...

  7. (邹博ML)凸优化

    目录 凸集的基本概念 凸函数的基本概念 凸优化的一般提法 凸集基本概念 思考两个不能式 两个正数的算术平均数大于等于几何平均数 给定可逆对称阵Q,对于任意向量x,y,有: 思考凸集和凸函数 在机器学习 ...

  8. CMU Convex Optimization(凸优化)笔记1--凸集和凸函数

    CMU凸优化笔记--凸集和凸函数 结束了一段时间的学习任务,于是打算做个总结.主要内容都是基于CMU的Ryan Tibshirani开设的Convex Optimization课程做的笔记.这里只摘了 ...

  9. paper 110:凸优化和非凸优化

    数学中最优化问题的一般表述是求取,使,其中是n维向量,是的可行域,是上的实值函数.凸优化问题是指是闭合的凸集且是上的凸函数的最优化问题,这两个条件任一不满足则该问题即为非凸的最优化问题. 其中,是 凸 ...

随机推荐

  1. 二分图——多重匹配模板hdu1669

    好像多重匹配一般是用网络流来做的.. 这是匈牙利算法的模板:lim是每个组的上界 思路是每个组都可以匹配lim个点,那么当点x遇到的组匹配的点数还没有超过lim时,直接匹配即可 如果已经等于了lim, ...

  2. nginx 遇见问题与解决问题

    如果你的安装目录为/usr/local/nginx,那么nginx的错误日志目录就是/usr/local/nginx/logs/error.log. 2.如果error.log不存在 就进入 # vi ...

  3. 服务器IP配置功能实现小结

    1. 服务器网卡配置文件 /etc/sysconfig/network/ifcfg-***(eth0) linux-f1s9:/etc/sysconfig/network # cat ifcfg-et ...

  4. Python学习day02 - 编程分类和Pycharm和Jupyter的安装

    编程语言分类 编程语言是用来和计算机交互的,计算机只认识0和1 机器语言(低级语言) 直接和硬件交互 用0和1和计算机沟通 优点:执行效率最高 缺点:开发效率低 汇编语言直接和硬件交互 优点(相较于机 ...

  5. .net core 使用swagger生成API文档

    [1]安装Swashbuckle.AspNetCore包 [2]在Startup.cs中注册swagger //注册Swagger生成器,定义一个和多个Swagger 文档 services.AddS ...

  6. Sqoop学习笔记_Sqoop的基本使用二(sqoop的import与export)

    Sqoop抽取从mysql抽取到hive sqoop抽取到mysql一样有两种方式一种是用command line的方式,一种是用sqoop opt文件调用的方式.(由于两种sqoop一已经记录了,现 ...

  7. 03.Hibernate配置文件之核心配置文件

    一.核心配置文件的两种配置方式 1.属性文件方式 hibernate.properties(基本不会选用 hibernate.connection.driver_class=com.mysql.jdb ...

  8. Python Flask学习之安装SQL,python3,Pycharm(网上下载安装即可)

    1,下载时更改pypi源.可以额外安装虚拟化环境:pip install -i http://pypi.douban.com/simple/ --trusted-host pypi.douban.co ...

  9. 第一个入驻阿里云自营心选商城,如今它已经是营收过亿的SaaS独角兽

    淘宝心选.网易严选.小米有品...越来越多的企业电商自有品牌围绕“低价好物”大做文章,用创新赢得了市场.作为To B从业人员,不由思考:C端的成功是否可以复制在B端? 伴随着互联网下半场的到来,云计算 ...

  10. Make the Most (Hackerrank Codeagon)

    题目链接 Problem Statement Codenation is sending N of its employees to a High Profile Business Conferenc ...