本文借鉴了许多gxdxte老师《计算智能》第一章的知识。 有兴趣的请拨打3359 blog.csdn.net/QQ _ 44186838/article/details/109181453。
计算智能1.1优化问题优化问题的求解模型如下式所示。
这里,d是问题的解空间,x是d中的合法解。 x通常表示为x=(x1,x2,xn ),表示一系列决策变量。
最优化问题是在解空间中,为了使与x相对应的函数映射值f(x )最小(最大),寻找合法的解x )。
简单来说,将f(x )视为成本效益,如何使其最不划算是优化问题。
根据决策变量xi的值类型,可以将优化问题分为函数优化问题和组合优化问题两类。
决策变量为连续变量的优化问题是函数优化问题,离散变量的优化问题是组合优化问题。
是什么? 什么是函数优化问题和组合优化问题? 没关系。 这下面不打算告诉你吗?
1.1.1函数优化问题
例如:
这里,n=30表示问题空间的维数,Xi[-100,100 ]是定义域,该函数的最小值为0。
那其实是最简单的函数优化问题,与上述的“连续变量”相对应。
那个什么时候需要使用函数优化问题?
其实很多时候都会遇到。 我也不知道你们是否曾经降至无情的模型调参机器人。 (反正我有zzdxs。 )
许多科学实验参数配置和农业生产实践都需要面临这种类型的优化问题,例如在设计神经网络的过程中,需要确定神经元节点之间网络连接的权重,优化网络性能。
在这样的问题中,需要最优化的变量的取值是某个连续区间的值,是实数。 各个决定变量之间既可以是独立的,也可以是相互关联的,相互制约着的,它们的可能值的组合构成了问题的一个解。
决策变量是连续值,因此不能按变量进行枚举。 在这种情况下,需要使用优化方法解决问题。
1.1.2组合优化问题事实上组合优化问题我想大家一定都遇到过。 因为现在读这个博客的同学可能上过算法编程和数据结构等课。 你看过所谓的0-1背包问题吧。 这个问题是典型的组合优化问题。 当然旅行者问题等也是组合优化问题。
许多离散组合优化问题是从运筹学(Operations Research,OR )演化而来的。
其研究配套优化问题涉及信息技术、经济管理、工业工程、交通运输、通信网络等诸多领域,在科研和生产实践中发挥着重要作用。
其实解决这些问题的方法其实很简单,比如说0-1背包,那不过是n个物品,每个物品都有或者没有,也就是2^n的情况,得到所有的情况,你就知道拿出最有价值的方法就可以了
是的,这样的话真的总是很简单。
哈哈,开个玩笑。 稍微想想就知道我们的上述网罗法有致命的问题。 这意味着,如果drdbb的n值过大,相应的计算量将呈指数级增长。
因此,此时我们需要利用智能优化计算方法,在合理的时间内解决得到满意的解,满足实践的需要。
关于算法计算的复杂性,我们一般很容易判断。 例如,使用蛮力法列举旅行者问题和0-1背包问题的算法是具有指数计算复杂性的算法。
什么是计算的复杂性? 介绍如下。
1.2.1计算复杂性什么是计算复杂性?
简单地说,用于记述解决问题的容易性和算法的执行效率的高低。
关于算法计算的复杂性,我们一般很容易判断。 例如,利用蛮力方法列举旅行商问题和0-1背包问题的算法是具有指数计算复杂度的算法。
判断某个问题计算的复杂性不是一件容易的事情。
由于问题计算的复杂性是问题规模的函数,所以有必要首先定义问题的规模。
例如,在矩阵运算的情况下,可以将矩阵的次数作为问题的规模。
)1)如果解决一个问题所需的运算次数或步骤数是问题规模n的指数函数,那么据说该问题具有指数时间上的复杂性。
)2)如果所需的运算次数是n的多项式函数,则表示存在多项式时间的复杂性。
对于一个具体问题,其3358www.Sina.com/是已知求解该问题的最快算法的复杂性,复杂性上界只能通过理论证明来建立。
要证明一个问题的复杂性,需要证明不存在复杂性低于下界的算法。 很明显,建立下界比确定上界要困难得多。
1.2.2 NP理论接下来介绍属于NP范畴的几个问题,并阐述其关系。
复杂性下界
p型问题是指用P类问题(Polynomial Problem)可以用确定性算法解开的判定问题。 实际上,在非正式的定义中,可以将多项式时间内求解的问题作为p类问题。
多项式时间内
P类问题(Non-deterministic Polynomial Problem)
NP类问题是指一类可以用不确定性多项式算法求解的判定问题。例如旅行商问题的判定版本就是一个NP类问题。我们虽然还不能找到一个多项式的确定性算法求解最小的周游路线,但是可以在一个多项式时间内对任意生成的一条“路线”判定是否是合法(经过每个城市一次且仅仅一次)。比较P类问题和NP类问题的定义,我们很容易得到一个结论:P ⊆ \subseteq ⊆NP。
NP完全问题(NP Complete Problem)
我们称一个判定问题D是NP完全问题,条件是:
(1)D属于NP类;
(2)NP中的任何问题都能够在多项式时间内转化为D。
另外,一个满足条件(2)但不满足条件(1)的问题被称为NP难问题。也就是说,NP难问题不一定是NP类问题,例如图灵停机问题。正式地说,一个NP难问题至少跟NP完全问题一样难,也许更难!例如在某些任意大的棋盘游戏走出必胜的下法,就是一个NP难的问题,这个问题甚至比那些NP完全问题还难。
1.3 计算智能方法
计算智能算法是人工智能的一个分支,是联结主义的典型代表,又称为仿生学派或生理学派。
下面简单讲下计算智能的存在目的及意义:
随着技术的进步、工程实践问题变得越来越复杂,传统的计算方法面临着计算复杂度高、计算时间长等问题(如上文提到的0-1背包穷举法)。
那么,计算智能啥作用呢?
(1)计算智能方法采用启发式的随机搜索策略,在问题的全局空间中进行搜索寻优,能在可接受的时间内找到全局最优解或者可接受解。
(2)计算智能算法在处理优化问题的时候,对求解问题不需要严格的数学推导,而且有很好的全局搜索能力,具有普遍的适应性和求解的鲁棒性。
1.3.1 计算智能的分类与理论
计算智能有关理论基础
1.3.2 计算智能的研究与发展
这里也没必要多说了,还是直接给截图吧。
1.3.3 计算智能的特征与应用
计算智能主要应用如下