数学实验第5次作业无约束优化.doc

word无约束优化一 实验目的1 掌握MATLAB优化工具箱的根本用法，对不同算法进展初步分析、比拟2 练习用无约束优化方法建立和求解实际问题的模型(包括最小二乘拟合)二 实验内容1 取不同的初值计算如下非线性规划，尽可能求出所有局部极小点，进而找出全局极小点，并对不同算法(搜索方向、搜索步长、数值梯度与分析梯度等)的结果进展分析、比拟理论计算局部：根据多元微积分中求解函数的(局部)极值点的方法，首先要计算原函数的梯度以与对于原函数首先计算梯度然后计算此处由于计算所得式子非常复杂，所以不再继续计算理论上可以通过求解非线性方程组确定驻点，然后将每个驻点分别代入中判断矩阵是否正定，即可以确定该驻点是否为局部最优解但是，通过上面的计算可以得知，要求解的非线性方程组较为复杂，与时解除解，要再带入判断正定也比拟困难，所以此处不进展解析求解 观察原式，可以简单的看出，原式一定大于0，所以，是全局极小点，通过将最后一个式子因式分解还可以看出，也是一个局部极小点用MATLAB解决问题：对于目标函数是2维以下的情况，不妨先绘制出可能出现局部最优解的区域的函数图象，这样有利于直观的判断函数在这个区域的大致情况。

在MATLAB中输入以下命令：画出原图像如下：画出等高线如下：从图像上可以看出，由于所选择的X围太大，导致图像中右边大面积的点的值因为太小，所以相对于较大的值来讲全部被认为是，使得无法确定零点缩小选取的X围，输入命令如下：画出图像如下：画出等高线如下：对于点，输入命令如下：画出图像如下：画出等高线如下：从两幅图中可以大致看出，当这一片区域中，函数值均为，而点处，函数值也为下面用不同的初值进展计算首先编制函数的M文件：在命令栏中输入以下命令：输出结果如下：然后改变初值进展计算，输出结果如下：初值最优解函数值迭代次数函数调用次数从上表中可以得到以下结论，极小值为，但是极小点不唯一当初值选择的不同时，最优解会向收敛但是初值不同，收敛的速度不同，初值越接近最优解，收敛越快下面用不同的搜索方向和步长搜索进展计算在命令栏中输入以下命令(用三种搜索方向(，和最速下降法)以与两种步长搜索(混合二、三次插值和三次插值))：分析梯度只需将命令中的改为即可同时函数文件需要作如下改动(此处式子过长不适宜截图)：function [y,g]=work1(x)y=(x(1)*x(2))^2*(1-x(1))^2*(1-x(1)-x(2)*(1-x(1))^5)^2;if nargout>1 g(1)=2*x(2)*(x(1)*x(2))*(1-x(1))^2*(1-x(1)-x(2)*(1-x(1))^5)^2-2*(1-x(1))*(x(1)*x(2))^2*(1-x(1)-x(2)*(1-x(1))^5)^2+2*(5*x(2)*(1-x(1))^4-1)*(x(1)*x(2))^2*(1-x(1))^2; g(2)=2*x(1)*(x(1)*x(2))*(1-x(1))^2*(1-x(1)-x(2)*(1-x(1))^5)^2-2*(1-x(1))^5*(x(1)*x(2))^2*(1-x(1))^2;end然后在命令栏中输入以下命令：输出结果如下表所示：数值梯度混合二、三次插值三次插值分析梯度混合二、三次插值三次插值分析上表，可得到以下结果：1 函数的极小值为，分别在处取得。

2 当初值不同时，对于得到的最优解、迭代的次数以与函数的调用次数都会有影响而且当初值不同时，得到的解不同，且得到的都是局部最优解3 从表中可以看出，使用拟牛顿法的公式或者公式时，需要的迭代次数相差不多，但是使用最速下降法是需要的迭代系数相对就会较多，函数调用次数也会相应增多4 分析梯度与数值梯度相比，迭代次数相差不大，相差较多的是函数调用次数而且在此题中，从数值来看，数值梯度相较于分析梯度要较好一些下面用自己实现的最速下降法和牛顿法来求解最速下降法在命令栏中输入以下内容：其中前面的是手动求出的梯度，输出迭代的结果，，迭代次数为次2 有一组数据其中，由下表给出现要求用这组数据拟合函数中的参数，初值可选为，用和两种方法求解对作一扰动，即，为内的随机数，观察并分析迭代收敛是否会变慢初步解决： 首先编制函数的M文件：然后在命令栏中输入以下命令：将所有参数输入到MATLAB中先用法计算，输入以下命令：此时，先不使用大规模算法，输出结果如下：然后再在命令栏中输入以下命令：此时使用大规模算法，输出结果如下：从两个输出结果可以看出，当使用了大规模算法之后，迭代次数和函数调用次数要明显少于没有使用大规模算法的时候。

但是二者的解一样再用法计算，输入以下命令，同样的，先不使用大规模算法：输出结果如下：然后再在命令栏中输入以下命令：此时使用大规模算法，输出结果如下：从输出结果可以看出，使用了大规模算法之后，迭代次数以与函数调用次数确实减少了很多但是最终算出的结果是一样的最终算出的结果如下表所示：迭代次数的比拟：不使用大规模算法使用大规模算法法法可以看出，法的收敛速度不如法快下面研究当发生扰动之后对于迭代收敛速度的影响以下全部不使用大规模算法)首先是当的所有元素均是相等的时候在命令栏中输入以下内容：法：输出结果如下：法：输出结果如下：，在命令栏中输入以下内容：法：输出结果如下：法：输出结果如下：，在命令栏中输入以下内容：法，输出结果如下：法，输出结果如下：，在命令栏中输入以下内容：法，输出结果如下：法，输出结果如下：通过以上结果可以得到下面的表格：结果的比拟−0.04法法−0.01法法0.01法法0.04法法迭代速度的比拟迭代次数−0.04法法9−0.01法法0.01法法法法通过以上的比拟可以看出，当有一定的小扰动时()，首先发生变化的是，从表中可以看出，至始至终在变化的只有，而其他的解都没有发生变化其次，迭代次数与函数调用次数没有发生变化，无论扰动有多大，迭代次数和函数调用次数都还是保持原来的值不变，而且依然是法的迭代次数要大于法的迭代次数。

然后比拟的元素全部是随机数的情况 在命令栏中输入以下内容：输出结果如下：法 在命令栏中输入以下内容：输出结果如下：再换另外一组随机数组进展试验 输出结果如下：法 输出结果如下：再换另外一组随机数组进展试验 输出结果如下：法 输出结果如下：再换另外一组随机数组进展试验 输出结果如下：法 输出结果如下：通过以上结果可以得到下面的表格：结果的比拟法法法法法法法法迭代速度的比拟迭代次数法法法法法法法法 当的值全部都是随机数时，对于结果的变化以与迭代速度的影响都不可预测，结果可能变大也可能变小，迭代速度可能变快也可能变慢。