IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> 优化问题分类和定义 -> 正文阅读

[人工智能]优化问题分类和定义

1.linear programming (LP,线性规划)

在这里插入图片描述
不等式约束:
目标函数:仿射函数
不等式约束:仿射函数
可行域:polyhedron set(多面体集?)
solution: simplex method

2.quadratic programming (QP,二次规划)


特点:
目标函数: P P P需要半正定
不等式约束:仿射函数
可行域:polyhedron set(多面体集?)

3.second-order cone programming (SOCP,二阶锥规划)

在这里插入图片描述
特点:
不等式约束:仿射函数的范数 ≤ \leq 仿射函数

形如 ∥ A i x + b i ∥ 2 ? c i ? x ? d i ≤ 0 \left\|\boldsymbol{A}_i \boldsymbol{x}+\boldsymbol{b}_i\right\|_2-\boldsymbol{c}_i^{\top} \boldsymbol{x}-d_i \leq 0 Ai?x+bi?2??ci??x?di?0的式子称为二阶锥,它形如冰淇淋状

4.Semidefinite progranmming(SDP,半定规划)

4.1 形式一

在这里插入图片描述
特点
tr ? ( ? ) \operatorname{tr}(\cdot) tr(?)代表矩阵的迹
变量X 属于positive semidefinite cone(半正定锥?)
$ C, D_{i},A_{i}$ 属于 semidefinite cone(正定锥?)

4.2 形式二

在这里插入图片描述
特点:
G , F i G,F_{i} G,Fi?属于semidefinite cone(正定锥?)

5.nonlinear programming (NLP,非线性规划)

特点:
目标函数或约束存在非线性函数
例如:
约束中存在非线性函数的例子
在这里插入图片描述在这里插入图片描述

图中蓝色区域为约束的可行域,直线代表目标函数的最佳取值,而直线与可行域的交点即为解X。

6.least squares(LSQ,最小二乘)

问题:求解曲线拟合
在这里插入图片描述
对于该问题的一个目标函数定义为:
min ? ∑ i = 1 m L i 2 ( x ) = min ? ∑ i = 1 m L i 2 [ y i , f ( x i ) ] = min ? ∑ i = 1 m [ y i ? f ( x i ) ] 2 \min \sum_{i=1}^m L_i^2(x)=\min \sum_{i=1}^m L_i^2\left[y_i, f(x_i)\right]=\min \sum_{i=1}^m\left[y_i-f(x_i)\right]^2 mini=1m?Li2?(x)=mini=1m?Li2?[yi?,f(xi?)]=mini=1m?[yi??f(xi?)]2
其中 L i ( x ) ( i = 1 , 2 , ? ? , m ) L_{i}(x)(i = 1,2,\cdots,m) Li?(x)(i=1,2,?,m)称为残差函数,如果 L i ( x ) ( i = 1 , 2 , ? ? , m ) L_{i}(x)(i = 1,2,\cdots,m) Li?(x)(i=1,2,?,m) x x x的线性函数,则称为线性最小二乘(LLSQ, linear least squares), 否则称为非线性中最小二乘(NLLSQ,nonlinear least squares)。如果线性最小二乘中,除了要尽量曲线拟合外,还有一些应用上的要求,比如一定要经过某个点,那么这种带约束的问题,称之为约束线性最小二乘(constrained linear least squares)。

7.(SQP,序列二次规划)

考虑一个非线性规划问题,但是要求目标函数和约束条件都需要二阶连续可微
在这里插入图片描述
在第k次迭代时,可以通过求解下面SQP子问题为其确定迭代方向 d k d_{k} dk?
在这里插入图片描述

reference:

1.KKT Conditions, First-Order and Second-Order Optimization, and Distributed Optimization: Tutorial and Survey
2.https://baike.baidu.com/item/%E6%9C%80%E5%B0%8F%E4%BA%8C%E4%B9%98%E6%B3%95/2522346?fr=kg_general(最小二乘法)
3.https://en.wikipedia.org/wiki/Sequential_quadratic_programming(SQP)

  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2022-11-05 00:28:48  更:2022-11-05 00:32:24 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年3日历 -2024/3/29 15:29:18-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码