第36卷第5期
2008年5月
同济大学学报(自然科学版)
JOURNAL OF删GJI UNIVERSITY(NAH眼AI,ScmNCE)
VoI.36 No.5
May 2008
一类带NCP函数的新Lagrangian乘子法
姜爱萍 ,一,濮定国 ,段希波3
(1.同济大学数学系,上海200092;2.上海大学悉尼工商学院,上海201800;
3.山东水利职业学院数学教研室,山东13照276826)
摘要:提出一类带非线性互补问题(NCP)函数的新Lagrangian乘子法,用来解满足等式约束和不等式约束的最优
化问题.此方法以连续可微的罚函数为基础,通过求解一个新的无约束Lagrangian函数得到原问题的解,并且在一
定的条件下还可得到此方法的全局收敛性.
关键词:约束优化问题;非线性互补函数;收敛性
中图分类号:0 221.2 文献标识码:A 文章编号:0253—374X(2008)05—0695—04
A Class of New Lagrangian Multiplier Method with NCP Function
JIANGAiping ,一,PUDingguo DUANXibo。
(1.Depannent of Mathenaaties,Yongji University,Shanghai 200092,China;2.Sydney lnstimte of Language and Commerce,Shanghai University,
hangI1ai 201800,C【lim;3.Teaching andResearchSectionofMathmaatics,InstituteofS ̄m&ngWaterPolytechnic,Rizl' ̄m 276826,Oatna)
Abstract.This paper presents a new Lagrangian Multiplier method with nonlinear complementarity
problem(NCP)function for nonlinear constrained optimization problem.The method is based on a con—
tinuously differentiable penalty function and it Can obtain the solution of the constrained problems by a
single unconstrained minimization of a new lagrangian function.Moreover,the global convergence can
also be abtained under mild conditions.
Key words:constrained optimization;nonlinear complementarity function;convergence
考虑如下的约束非线性优化问题(NLP):
min f(x) ∈R”
S.t.H(x)=0
G( )≤0 (1)
其中厂:R 一R,H(X):(hl( ),h2( ),…,h
( ))T:R 一Rp和G( )=(gl( ),g2( ),…,g7,
( ))T:R”一R 是二次连续可微函数.
定义约束非线性优化问题(NLP)的可行域为
D={ ∈R”{G( )≤0,n(x)=0}(2)
约束问题NLP的Lagrangian乘子函数为
L(x,∞, )=f(x)+∞TH(x)+ TC(x) (3)
其中∞:(cO1, 2,…, )T∈Rp和 =( l, 2,
…
,
)T∈R 是乘子向量,为方便起见,用( ,
∞T
, T)T表示列向量.
Karush—Kuhn—Tucker(K~K—T)点( , , )∈
R ×Rp×Rm是满足NLP问题的一阶最优必要条
件的点
( , , )=0,G( )≤0,
H( )=0,.rTG( ):0, ≥0 (4)
收稿13期:2006~10—16
基金项目:国家自然科学基金资助项目(10771162)
作者简介:姜爱萍(1979一),女,博士生,主要研究方向为最优化理论与方法.E-mail:ap724@126.corn;
濮定国(1948一),男,教授,博士生导师,主要研究方向为非线性规划.E-mail:madpu@mail.tongji.edu.cn
维普资讯
696 同济大学学报(自然科学版) 第36卷
NLP问题的增广Lagrangian函数为S( ,∞,
,C),其中C为正的参数,当C取某个值的时候,
增广Lagrangian函数的最小值与NLP的解和相应
的乘子为一一对应的.Pillo和Grippo已经证明(见
文献[1—4]),在一定条件下有约束问题的KKT
点、局部极小点、整体极小点和增广的乘子函数S
( ,∞, .C)的平稳点、局部极小点、整体极小点
之间有一一对应的关系,并给出了相关算法的收敛
性.这样有约束问题NLP可以转化为无约束问题来
求解.然而,这些方法用到一个求最大值的函数,这
个函数在无限多个点处可能并不是可微的.
为了克服以上缺点,本文提出一类带线性NCP
函数的增广Lagrangian函数方法来求解带光滑等式
约束和不等式约束的光滑目标函数的最小值,此方
法把原约束问题化为无约束的最优化问题来求解,
且证明原约束问题与转化后的无约束问题之间具有
等价性.这个方法具有全局收敛性,特别地,还构造
出一个函数来调整增广Lagrangian函数中的参数.
1预备知识
给出有关非线性互补问题(NCP)和严格非线性
互补问题(SNCP)的两个定义.
定义1 NCP对和SNCP对
如果满足a>fo,b>fO且ab=0,称(盘,b)∈R2
为NCP对;如果满足(盘,b)为NCP对且a +bz≠
0,称(盘,b)∈R 为SNCP对.
定义2 NCP函数
如果满足 (a,b)=0当且仅当(a,b)是NCP
对,函数 :R2一R称为NCP函数.
线性NCP函数如下定义:
f3盘一盘
J (盘,b)= 3b—bZ/a
【9盘+96
如果b≥a>0,或36>一a≥0,
如果a>b>0或3盘>一b≥0, (5)
如果0≥a且~a≥3b,或b≤一3a≤0.
在除原点以外的地方均为连续可微的,但它在原
点为强半光滑的.I,fl(盘,b)=0当且仅当
fa=0 b>0
J
_《口>0 b:0 (6)
【口=0 b:0
也就是说, (盘,b)=0当且仅当a≥0,b≥0,
ab=0。
令
( , ,C)= ((一cg ( )), )1≤i≤
其中C>0为参数,因而 ( , ,C):0当且仅当
fgi( ):0 >0
g ( )<0 f=0 (7)
lg ( )=0 =0
也就是说, ( , ,C):0,当且仅当对任意的c>
0,有gj( )≤0,Ai≥0, ( )=0.
定义 ( , ,C)=( 1( , ,C),…, ( , ,
C))T.显然,式(3)的KKT条件等价于
( , ,C)=0,fI H( )fI=0, 上( ,∞, ):0
定义带线性NCP函数的增广Lagrangian乘子函数
S:R” l—R为
S( ,∞, ,C):f( )+∞TH( )+
c II H( )lJ /2+[1J ( , ,C)一 /3 lJ ~
fI /3 fI /(2c)+fI 正( ,∞, )fI /2 (8)
其中,∞=(∞l,…,COp)T,且 =( 1, 2,…, )T是
Lagrangian乘子,C>0是参数.
给出以下假设:
Al:厂,h ( ),i=1,2,…,P,和g ( ),i:1,
2,…, 是二次Lipschitz连续可微的.
A2:对任意的C>0,{V^ ( ), g ( )l i:1,
2,…,P,J=1,2,…, }在满足 S( ,∞, ,C)=0
的点处是线性无关的.
引理1 如果( ,∞, )是问题NLP的一个
KKT点,那么对任意的C>0均有vS( ,∞, ,C)
=0;如果对某个C>0有 S( ,∞, ,C)=0,
( , ,C)=0, 正( ,∞, ):0成立,贝q( ,∞, )
满足问题NLP的KKT条件;如果对充分大的C,
有 S( ,∞, ,C)=0成立,则( ,∞, )满足问题
NLP的KKT条件.
引理2如果对充分大的C,( ,面, )是S(x,
∞, ,C)的局部极小值,那么 是问题NLP的局部解.
证明如果对充分大的C,( , , )是S( ,
∞, ,C)的局部极小值,那么存在8>0使得对于任
意( ,∞, )∈B ( , , )={( ,∞, )l{l( ,
∞, )一( , , )II≤ },
S( , , ,C)≤S(x,∞, ,C) (9)
上( , , )=0意味着
(VH( ), G( )) ( H( ), G( ))( , )=
一( H( ), G( )) f( ).
对于任意的 ∈D,假设A2意味着存在一个(∞, ),
维普资讯
第5期 姜爱萍,等:一类带NCP函数的新L ̄4grangian乘子法
(∞, )=~[( H( ), G( ))T(vr1(x),
G( ))r ( ̄TH(x),
G( )) vf( ).
显然, ( ,∞, )=0且当 — 时(∞, )一( ,
).存在一个 l,0< 1≤ ,使得对于任意的 E
( )都有一个( ,∞, )∈ ( , , )且 正( ,∞,
)=0.由引理2,( , , )满足问题NLP的KKT条
件.有 ( )=S( , , ).另一方面,对于任意的;
∈
.( )n D,存在一个(;, , )∈ ( ,岙, )使
得 正(;, , )=0.G(呈)≤0,Il (;, ,C)一I./3
【1 0一【I互/3【I ≤0和H(王)=0意味着
厂( )=S( , , )≤S(;, , ,C)≤,(主)
(10)
在假设A1和假设A2成立的条件下,给出以下假
设:
A3:在每个KKT点( , , )处严格互补条件
成立.
A4:f,h 和g 是三次Lipschitz连续可微的.
定义3如果点( ,A, )满足问题NLP的~
阶KKT条件且对任意的
d∈P( )={d l d Hi( )=0,
i:1,…,P,dT g ( )≤0,i E I(x)},
I( )={ J =1,…, ,g ( )=0}
和d≠0均有
dT L( ,∞, )d>0
成立,则点( ,A, )满足问题NLP的强二阶充分
条件.
A5:在问题NLP的任意KKT点处强二阶充分
条件成立.
引理3假设A2~A5成立,如果( , , )∈
X×P×M是问题NLP的一个KKT点,则对充分
大的C,S( ,∞, ,C)在( , , )处是强凸的.
假设A2 ̄A5成立,则下面的引理4~7成立.
引理4设X×P×M R P 为紧集,假
设( , , )E int(X×P×M)是问题NLP的
KKT点,如果 是问题NLP在紧集x上的唯一全
局最小点,那么对充分大的C,( , , )是S( 。
∞, ,C)在int( ×P×M)上的唯一全局最小点.
证明 因为( , , )E int(X×P×M),假设
A2 ̄A5在它的邻域B ( ,岙, )(==x×P×M成
立,由引理1和引理4的条件可知对充分大的C,存
在 >0,( ,面, )是S( ,∞, ,C)在B ( ,面,
)上的唯一最小值点.如果( ,面, )不是S( ,
∞, ,C)在int(X×P×M)上的唯一全局最小点,
则存在另外一个最小点(呈, , )∈int(X×P×
M)满足S(呈, , ,C)≤S( , , ,C).通过引
理1可知,(呈, , )是问题NLP的KKT点,所以
( )≤ ( );因而 = 且( , )≠(面, ).令
1 1 (∞女, ^)=÷(面,j【)+(1一÷)( , )
那么对充分大的 ,有( ,∞女, )∈B6( , , )且
( , , )是问题NLP的KKT点.所以
S( ,∞女, 女,C)=f( )=S( , , ,C)
则对任意的 >0,( ,面, )不是 上的唯一最小
点,这与上面的结论矛盾,引理4可证.
定义
r( ,∞, ,C)=一C【I s( ,∞, ,C)【1 +
【I L( ,∞, )【I +【I西( , ,C)/C【I
引理5令X×P×MCR P 为一紧集,假
设问题NLP没有KKT点( ,∞, )∈X×P×
M,那么存在一个C >0,使得对任意的C≥C 和
( ,∞, )∈X×P×M,
r( ,∞, ,C)≤0.
引理6令X×P×MCR P 是紧集,假设
( , , )∈int(X×P×M)是问题NLP的KKT
点,则存在C >0和 >0使得对任意的C≥C
和任意的( ,∞, )∈B ( , , ),其中( , ,
)∈X×P×M
r( ,∞, ,C)≤0
引理7令X×P×MCR P 是个紧集,那
么存在一个C >0使得对任意的C≥C 和所有
的( ,∞, )∈X×P×M,
r( ,∞, ,C)≤0
2算法和收敛,陛
算法1
步骤0选择参数C0>0,c>l,0< <1,0
< <1和0<01≤02<1.给出一个初始点 0ER ,
fO0=(o ̄oi, 02,…, 0p)E R 和 0=( 01, 02,…,
0
)∈R .设置 :0,J=0.
维普资讯
同济大学学报(自然科学版) 第36卷
步骤1如果 S(Xk,f.Ok, ,C )=0且z.( ,
,∞ ,C )≤0,停止.
步骤2如果z.(Xk, ,∞ , )≥0,那么C 1
:cc ,(XO,2to, o, )=(Xk, ,f.Ok,c ), =J+
1,转步骤1;否则转步骤3.
步骤3 由牛顿迭代(见子算法1.1)获得
( +l,∞ +1, +1)=( , , )+a ,k=k+1,
转步骤1.
子算法1.1牛顿迭代
步骤1.1.1 由牛顿迭代获得 使得
而vS ≤ ,(12) II (
,∞ , ,c I ’
其中 ∈a2 S(Xk,f.Ok, ,c 如果
一(vS( ,国 , ,C,)) d ≥
rain{0,lI vS(x ,∞ , ,C,)lI}
lI d lI lI vS( ,∞ , ,c )lI
那么令d =d ,否则令
d =dt一 VS(Xk,∞ , ,G), (13)
其中 是个正的参数使得
一(vS(x,, , ,c1))Td ≥
rain{0,II vS(x ,∞ , ,c )lI}
lI d lI lI S( ,∞ , ,C )lI (14)
步骤1.1.2现在 >0使得
S( , , ,c )~S(( ,∞ , )+a d ,c,)≥
一min{ l,lI VS(Xk,(Ok, ,c )lI}
a ( S(x ,(Dk, ,C ))Td (15)
}vS((Xk,∞ , )+a ,C )TS }≤
一 2( S(Xk,∞ , ,C ))T (16)
一直取a6:1
步骤1.1.3令( +1,∞ +1, +1)=( ,∞ ,
)+a ,转步骤1.
可以在适当的条件下证明算法1的全局收敛性
(见文献[5—8]).
定理3如果假设A1和假设A2成立,算法1
或者在满足 S( ,∞ , ,C )=0和z.(Xk, ,
∞ ,C )≤0的点( ,(Dk, ,C,)处停止;或者当Cf
达到一定数值时获得一个无穷数列( ,∞ , ,
c 如果( ,∞ , )是(Xk,∞ , ,c )的一个
聚点,那么( ,∞ , )是问题NLP的KKT点.
参考文献:
[1]Pillo G D,Grippo L.A new class of augmented Lagrangians in
nonlinear[J].SIAM J ContralOpt,1979,17:616.
[2]PilloGD,GrippoL.An augmentedLagrangianforinequality con.
straints in nonlinear programming problems[J]。J optim.啪t;∞
Theorem and Applications,1982,36:495.
[3]PilloGD.Exact penaltymethod[M]∥InAlgorithmsforContinu.
OUS Optimization:the state of the art.Boston:Kluwer Ae Press.
1994:1—45.
[4]Pillo G D,Lucidi S.On exact augmented Lagrangian functions in
nonlinear prc ̄rramming problems[M]∥In Nonlinear Optimiza.
tion and Applications.New York:Plenum Press,1996:85—100.
[5]Pu D.A class of augmented Lagrangian multiplier function[J].
Journal of Shanghai Institute ofRailwayTechnology,1984,(5):
45。
[6]PuD,TianW.C ̄lobally inexact generalizedNewtonmethods for
nonsmooth equation[J].Journal of Computational and Applied
Mathematics,2002,20:289.
[7j Pu D,Gui S,Tian W.A class of revised Bmyden algorithms with—
Out exact linear search[J].Journal of Computational Mathemat—
ics,2004,22:11.
[8]Pu D,Zhon Y,Zhang Z.A QP free feasible metlxxt[J].Journalof
Computational Mathematics,2004,22:651.
S
十
一
IJ
足
满
维普资讯
本文发布于:2023-01-30 20:48:11,感谢您对本站的认可!
本文链接:http://www.wtabcd.cn/fanwen/fan/88/163718.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |