《凸优化》中科大-讲解 -系列笔记(汇总55/55)

编辑:佚名 日期:2024-08-26 05:13 / 人气:

本人学习所有系列:汇总帖

1-2:推荐书目,引言,常见例子,优化问题分类,发展史
3-4:仿射/凸/凸锥 + 集/组合/包
5-6:几种重要的凸集:超平面与半空间/球和椭球/多面体/单纯形/对称(半)(正定)矩阵
7-8:凸集的交集,保凸运算:仿射函数/缩放和移位/透视函数/线性分段函数
9-10:凸函数的定义1/定义2/定义3,凸函数的扩展
11-12:凸函数定义2补充/定义4,常见例函数的凸性:二次函数/仿射函数/指数函数/幂函数/绝对值的幂函数/对数函数/负熵/范数/零范数/极大值函数/log-sum-exp函数
13-14:函数凸性:极大值函数/log-sum-exp函数/几何平均/行列式对数;保持函数凸性:非负加权和/仿射映射/两函数的极大值函数/无像个凸函数的极大值
15-16:复合函数保凸的条件,函数的透视:欧几里得范数的平方/负对数/K-L散度,函数的共轭
17-18:复合函数保凸条件,函数的共轭, α α α-sublevel set,拟凸函数
19-20:(课堂小测1),向量零范数的松弛形式,可微拟凸函数的一阶条件和二阶条件,对数凹函数/对数凸函数
21-22:可微拟凸函数的一阶条件的充分性证明,凸问题:域/可行解集/最优值/最优解(集)/ ε ε ε次优解集/局部最优解/可行性优化问题,凸问题的等价形式(举例)
23-24:凸优化问题,凸优化约束的降维和升维(松弛变量),拟凸优化问题,凸问题局部最优等于全局最优,可微目标函数情况下的最优解(画图举例),三个名人的故事
25-26:凸问题的等价变换,营养食谱问题,线性分数规划,二次规划,QCQP,回归问题下 x x x稀疏时的LASSO(引入 X = X + + X ? X=X^+ + X^- X=X++X?
27-28:投资组合问题的形式,半正定规划问题,谱范数,多目标优化问题:pareto最优面,多目标问题①的转化(单目标问题②和带约束的单目标问题③)
29-30:对偶性,Lagrange函数,Lagrange函数的凹性,对偶函数与函数共轭的关系,§对偶函数的对偶函数仍未§
31-32:强对偶/弱对偶,对偶间隙,Slater条件,弱Slater条件, P ? = d ? P^*=d^* P?=d?的四种解释:【1】几何解释【2】鞍点解释【3】多目标优化解释【4】经济学角度解释
33-34:线性代数知识:Byod的《Convex Optimization》附录A1,A5,C、正交投影的内容
35-36: P ? = d ? P^*=d^* P?=d?经济学角度解释的补充,鞍点解释的补充,鞍点定理,KKT条件,KKT条件充要性证明
37-38:线性约束的QP问题的KKT条件,Water-filling问题的KKT条件,约束仅为非负约束时互补条件和KKT条件的关系,更多的凸问题等价转换例子,带框约束的LP问题。
39-40:敏感性分析: P ? ( u , w ) P^*(u,w) P?(u,w)/局部敏感性,Boolen LP问题的LP松弛和Lagrange松弛的等价性(两种松弛形式互为对偶)
41-42:带等式约束的可微凸优化问题的罚函数形式,带线性不等式约束的可微凸优化问题的log-barrier法,算法:Line Search:exact(黄金分割法)/inexact(Amijo Rule)
43-44:(课堂小测2),函数的强凸性,Hassien矩阵的上界下界,f(x)-P*的上界和下界,梯度下降法
45-46:强凸性等价不等式及其相反性质的等价不等式,梯度下降法,算法的收敛性,(亚/超)线性收敛,Amijo Rule解的上下界,矩阵的条件数
47-48:最速下降法:二模/一模/无穷模,坐标轮换/拟牛顿法
49-50:无约束优化问题算法选择建议,有约束优化问题(关心只含等式约束的问题):构造KKT条件,拉格朗日法/增广拉格朗日法
51-52:增广拉格朗日法,其常用技巧(分布式计算)
53-54:NLP专题讲座,NLP下的KKT条件,(互补松弛条件讲的太好啦!)
55:总复习

文章主要是结合哔站的视频:中科大-凸优化

第九集好像有缺失,我是自己看的书,暂时跳过也没啥问题。(讲的内容大概是凸优化的前两个定义,在11集最开始的时候会有回顾,不是很难理解)

这儿有一个大佬的笔记:凸优化笔记(好像不能设置免费下载,所以设置的关注可下载)

中科大-凸优化 笔记(lec1)-综述、简介优化问题

中科大-凸优化 笔记(lec2)-什么是凸优化?

中科大-凸优化 笔记(lec3)-仿射集

中科大-凸优化 笔记(lec4)-凸集和凸锥

中科大-凸优化 笔记(lec5)-几种重要的凸集(上)

中科大-凸优化 笔记(lec6)-几种重要的凸集(下)

中科大-凸优化 笔记(lec7)-保凸变换(上)

中科大-凸优化 笔记(lec8)-保凸变换(下)

中科大-凸优化 笔记(lec9)-广义不等式、分离与支撑超平面、对偶锥与广义不等式(这个没找到视频,就自己看了下8和10中间没讲到的书中的内容,但是感觉这个应该是在讲上一节课的回顾和凸优化的前两个定义)

习题:2.1 2.2 2.5 2.7 2.10 2.16 2.18 2.19

中科大-凸优化 笔记(lec10)-凸函数:一阶条件

中科大-凸优化 笔记(lec11)-凸函数:二阶条件

中科大-凸优化 笔记(lec12)-一些常见的凸函数(上)

中科大-凸优化 笔记(lec13)-一些常见的凸函数(下)

中科大-凸优化 笔记(lec14)-保凸运算

中科大-凸优化 笔记(lec15)-保持函数凸性的操作

中科大-凸优化 笔记(lec16)-函数的透视

中科大-凸优化 笔记(lec17)-函数的共轭

中科大-凸优化 笔记(lec18)-拟凸函数(上)

中科大-凸优化 笔记(lec19)-拟凸函数(下)

中科大-凸优化 笔记(lec20)-可微拟凸函数的一阶/二阶条件

习题:3.1 3.2 3.5 3.13 3.18 3.21 3.32 3.33 3.36 3.43

中科大-凸优化 笔记(lec21)-凸优化问题

中科大-凸优化 笔记(lec22)-可行性优化问题与等价问题

中科大-凸优化 笔记(lec23)-优化问题

中科大-凸优化 笔记(lec24)-约束问题

中科大-凸优化 笔记(lec25)-等价变换

中科大-凸优化 笔记(lec26)-二次规划

中科大-凸优化 笔记(lec27)-半正定规则

中科大-凸优化 笔记(lec28)-多目标优化问题

习题: 4.3 4.9 4.22 4.24 4.59 4.62

中科大-凸优化 笔记(lec29)-Lagrange对偶(一)

中科大-凸优化 笔记(lec30)-Lagrange对偶(二)

中科大-凸优化 笔记(lec31)-Lagrange对偶(三)

中科大-凸优化 笔记(lec32)- P ? = d ? P^*=d^* P?=d?的几种解释

lec33-34:线性代数知识:Byod的《Convex Optimization》附录A1,A5,C、正交投影的内容(后面如果有时间的话,再来补这部分的笔记内容吧)
lec33先看46min的,然后再看开头,可能视频剪辑有点问题。

中科大-凸优化 笔记(lec35)-鞍点定理

中科大-凸优化 笔记(lec36)-KKT条件

中科大-凸优化 笔记(lec37)-一些问题的KKT条件

中科大-凸优化 笔记(lec38)-凸问题等价转换例子

中科大-凸优化 笔记(lec39)-敏感性分析

中科大-凸优化 笔记(lec40)-松弛对偶

中科大-凸优化 笔记(lec41)-可微凸优化问题的罚函数形式

习题: 5.5 5.20 5.27

中科大-凸优化 笔记(lec42)-log-barrier法

中科大-凸优化 笔记(lec43)-函数的强凸性

中科大-凸优化 笔记(lec44)-一些上界下界及梯度下降

中科大-凸优化 笔记(lec45)-强凸性等价不等式

中科大-凸优化 笔记(lec46)-算法的收敛性

中科大-凸优化 笔记(lec47)-最速下降法

中科大-凸优化 笔记(lec48)-拟牛顿法

中科大-凸优化 笔记(lec49)-无约束和有约束优化问题

中科大-凸优化 笔记(lec50)-拉格朗日法(KKT条件)

中科大-凸优化 笔记(lec51)-增广拉格朗日法

中科大-凸优化 笔记(lec52)-常用技巧(分布式计算)

后面三节感觉拍摄效果不太好,而且主要是讲座,就没做记录。

后面打算再过一遍书,如果有觉得需要进行补充的,会再做单独的记录。


现在致电 13988889999 OR 查看更多联系方式 →

Top 回顶部

平台注册入口