Todd's Matlab讲义第3讲:牛顿法和for循环
方程数值求解
下面几讲,我们将聚集如下方程的解法:
\begin{equation}
f(x)=0
\tag{3.1}\label{3.1}
\end{equation}
在微积分课程中,我们知道,许多优化问题最终归结为求解上述形式的方程,其中\(f\)为你要求极值的函数\(F\)的导数。在工程问题中,函数\(F\)来源多种多样,有公式、微分方程的解、实验和模拟等。
牛顿迭代
我们把方程\eqref{3.1}的解记为\(x^\*\)。方程的解法有三种:对分法、割线法和牛顿法。这三种方法都需要猜测接近\(x^\*\)的初始值。
我们这里讨论牛顿法。牛顿法的基础是将函数在某点做线性化近似,即
\begin{equation}
f(x) \approx f(x_0) + f'(x_0)(x-x_0)
\tag{3.2}\label{3.2}
\end{equation}
我们要求出满足\(f(x)=0\)的\(x\),因此我们令上式左边\(f(x)\)为0,求出\(x\):
\begin{equation}
x\approx x_0-\frac{f(x_0)}{f'(x_0)}
\tag{3.3}\label{3.3}
\end{equation}
把所得\(x\)记为\(x_1\),将\(x_1\)带入上式,得\(x_2\),再将\(x_2\)带入上式,得\(x_3\),……,最后得数列\(\{x_0,x_1,x_2,\cdots\}\),数列满足如下关系
\begin{equation}
x_{i+1}\approx x_i-\frac{f(x_i)}{f'(x_i)}
\tag{3.4}\label{3.4}
\end{equation}
如果\(f(x)\)在\(x^\*\)附近没有特殊的奇异性,且\(x_0\)接近\(x^\*\),上述数列将很快收敛到\(x^\*\)。
循环:for ... end 语句
应用牛顿法,我们需要按照\eqref{3.4}式多次反复计算。这在程序中可由循环来实现。下面我们看一个for循环的简单例子:
function S = mysum (n)
% gives the sum of the first n integers
S = 0; % start at zero
% The loop :
for i = 1:n % do n times
S = S + i; % add the current integer
end % end of the loop
这个函数是为了计算前\(n\)个整数的和。在命令窗口运行这个函数
>> mysum(100)
得到从1加到100的和。
下面我们用for循环实现牛顿法。程序如下:
function x = mynewton (f,f1 ,x0 ,n)
% Solves f(x) = 0 by doing n steps of Newton ’s method starting at x0.
% Inputs : f -- the function , input as an inline
% f1 -- it ’s derivative , input as an inline
% x0 -- starting guess , a number
% n -- the number of steps to do
% Output : x -- the approximate solution
format long % prints more digits
format compact % makes the output more compact
x = x0; % set x equal to the initial guess x0
for i = 1:n % Do n times
x = x - f(x)/ f1(x) % Newton ’s formula , prints x too
end
在命令窗口,定义内联函数\(f(x)=x^3-5\):
>> f = inline('x.^3-5','x')
并定义其导数\(f1\):
>> f1 = inline('3*x.^2','x')
运行牛顿法,
>> mynewton(f,f1,2,4)
ans =
1.709975946676833
对这个函数应用牛顿法。方程的根是\(5^{1/3}\)。根据你运行的结果,评估一下,程序给出的结果与真实值相差多少?程序收敛,需要\(n\)最小为多少?
收敛
当\(f'(x^\*)\)为非零有限值,且\(x_0\)很接近\(x^\*\)时,牛顿法会很快收敛。下面我们看看啥时候会出问题。
对于\(f(x)=x^{1/3}\),可知\(x^\*=0\),\(f'(x^\*)=\infty\)。如果你依次输入和运行以下命令
>> f = inline('x^(1/3)','x')
>> f1= inline('x^(-2/3)/3','x')
>> mynewton(f,f1,0.1,10)
得到的结果为复数:
ans =
1.023999999999999e+02 - 1.617981985233248e-13i
再看一个例子,\(f(x)=x^2\),\(f'(x)=2x\),\(x^*=0\),\(f'(x^*)=0\),依次输入和运行如下命令:
>> f = inline('x^2','x')
>> f1 = inline('2*x','x')
>> mynewton(f,f1,1,10)
能得到结果,但是,收敛很慢。
>> mynewton(f,f1,1,10)
ans =
9.765625000000000e-04
>> mynewton(f,f1,1,100)
ans =
7.888609052210118e-31
如果初始值\(x_0\)与\(x^\*\)偏离太远,式\eqref{3.2}不成立,按式\eqref{3.4}迭代1次的结果\(x_1\)可能远离也可能接近方程的根\(x^\*\)。继续迭代下去,会出现两种情况:
- \(x_n\)收敛到\(x^\*\)
- 迭代发散,不会收敛到\(x^\*\)
练习
3.1 用牛顿法计算\(f(x)=x^5-7\),初值为\(x_0=2\)。保证程序收敛(结果不再变化),\(n\)最小为多少?计算误差和残量。误差和残量等于0吗?
3.2 考虑一球从2米高处下落,碰到一坚硬地面反弹,碰撞恢复系数为0.9。写一个注释良好的脚本程序,计算球与地面第\(n\)次碰撞时,球走过的路程。碰撞多少次后,球走过的距离不再变化。
3.3 对于函数$ f(x) = x^3 − 4\(,以\)x_0=2$为初值,用纸和计算器进行牛顿迭代,计算每次迭代的误差和相对误差。保留足够多的小数,以免错以为收敛。将结果填在表内。
Todd's Matlab讲义第3讲:牛顿法和for循环的更多相关文章
- Todd's Matlab讲义第4讲:控制误差和条件语句
误差和残量 数值求解方程\(f(x)=0\)的根,有多种方法测算结果的近似程度.最直接的方法是计算误差.第\(n\)步迭代结果与真值\(x^\*\)的差即为第\(n\)步迭代的误差: \begin{e ...
- Todd's Matlab讲义第6讲:割线法
割线法 割线法求解方程\(f(x)=0\)的根需要两个接近真实根\(x^\*\)的初值\(x_0\)和\(x_1\),于是得到函数\(f(x)\)上两个点\((x_0,y_0=f(x_0))\)和\( ...
- Todd's Matlab讲义第5讲:二分法和找根
二分法和if ... else ... end 语句 先回顾一下二分法.要求方程\(f(x)=0\)的根.假设\(c = f(a) < 0\)和\(d = f(b) > 0\),如果\(f ...
- Todd's Matlab讲义第2讲:Matlab 编程
Matlab也可以编程,可存为以.m为后缀的文件,称为M文件.M文件有两种:函数和脚本. 函数程序 点击新建图标,在打开的窗口里输入如下内容: function y = myfunc (x) y = ...
- Todd's Matlab讲义第1讲:向量,函数和作图
向量 Matlab 中最基本的对象是矩阵,向量是特殊的矩阵.行向量是\(1\times n\)矩阵,列向量是\(m\times 1\)矩阵.输入如下行向量: >> v=[0 1 2 3] ...
- A-03 牛顿法和拟牛顿法
目录 牛顿法和拟牛顿法 一.牛顿法详解 1.1 无约束最优化问题 1.2 牛顿法迭代公式 1.3 牛顿法和梯度下降法 二.牛顿法流程 2.1 输入 2.2 输出 2.3 流程 三.拟牛顿法简介 更新. ...
- 面试必杀技,讲一讲Spring中的循环依赖
本系列文章: 听说你还没学Spring就被源码编译劝退了?30+张图带你玩转Spring编译 读源码,我们可以从第一行读起 你知道Spring是怎么解析配置类的吗? 配置类为什么要添加@Configu ...
- 【原创】牛顿法和拟牛顿法 -- BFGS, L-BFGS, OWL-QN
数据.特征和数值优化算法是机器学习的核心,而牛顿法及其改良(拟牛顿法)是机器最常用的一类数字优化算法,今天就从牛顿法开始,介绍几个拟牛顿法算法.本博文只介绍算法的思想,具体的数学推导过程不做介绍. 1 ...
- Matlab 之meshgrid, interp, griddata 用法和实例
http://blog.sina.com.cn/s/blog_67f37e760101bu4e.html 实例结果http://wenku.baidu.com/link?url=SiGsFZIxuS1 ...
随机推荐
- android.content.SharedPreferences.edit()
今天在实现一个保存用户设置到SharedPreferences时,出现了一个不能将数据保存到SharedPreferences中的情况.经过仔细的分析得出: android.content.Share ...
- JS 复制对象
<%@ Page Language="C#" AutoEventWireup="true" CodeFile="Default.aspx.cs& ...
- CF 701B Cells Not Under Attack(想法题)
题目链接: 传送门 Cells Not Under Attack time limit per test:2 second memory limit per test:256 megabyte ...
- PHP之:多图上传
撰写日期:2016-6-30 15:17:35 Thursday 参考 http://a3147972.blog.51cto.com/2366547/1381136 (08-05ThinkPHP+sw ...
- iOS - Runloop个人总结
调用堆栈: 程序运行之前,自上而下启动 iOS端用的所用系统framework都是动态链接的. dyld:The dynamic link editor 动态链接器
- maven工程直接部署在tomcat上
http://www.cnblogs.com/guodefu909/p/4874549.html (现在用的是第三点.)
- canvas练习
<!doctype html><html><head><meta charset="utf-8"><title>move ...
- mongodb嵌套查询
db.dbModel.find({'Missions.Rewards.PrizeType':21} )
- java实现Haffman编码
1.先创建一个树节点类(泛型类),为了方便使用集合的排序方法,泛型类要实现泛型接口Comparable,代码如下 package com.hjp.huffman; /** * Created by J ...
- springmvc @responseBody自动打包json出现错误(外键查询死循环)问题
在外键字段的get方法上加入@JsonIgnore