CRITICA RATIUNII ALGORITMILOR DE OPTIMIZARE CU RESTRICTII
Neculai Andrei
Criticism of the Constrained Optimization Algorithms Reasoning
(Critica ratiunii algoritmilor de optimizare cu restrictii)
(in Romanian)
Editura Academiei Romane - Bucharest, 2015
ISBN 978-973-27-2527-6
1124 + XXVIII pages
NECULAI ANDREI CRITICA RATIUNII ALGORITMILOR DE OPTIMIZARE CU RESTRICTII
Cuprins
Prefata
Simboluri si notatii
Cap. 1. Introducere 1.1. Problemele considerate 1.2. Importanta domeniului optimizarii cu restrictii 1.3. Caracteristicile problemelor de optimizare neliniara cu restrictii 1.4. Schema de modelare pentru optimizare 1.5. Critica metodelor de optimizare neliniara cu restrictii 1.6. Contributia romaneasca in domeniul optimizarii cu restrictii
Cap. 2. Fundamente matematice 2.1. Elemente de algebra liniara 2.2. Elemente de topologie 2.3. Elemente de calcul diferential 2.4. Elemente de analiza convexa 2.5. Elemente de convergenta globala si convergenta asimptotica 2.6. Compararea algoritmilor Note, comentarii si referinte bibliografice
Cap.3. Conditii de optimalitate pentru optimizare cu restrictii 3.1. Conditii de optimalitate de ordinul unu 3.2. Conditii de optimalitate de ordinul doi 3.3. Alte ipoteze de calificare a restrictiilor 3.4. Multiplicatori Lagrange si sensibilitate 3.5. Puncte sa ale functiei Lagrange 3.6. Dualitate 3.7. O alta formulare a conditiilor de optimalitate de ordinul unu Note, comentarii si referinte bibliografice
Cap.4.
Optimizare cu restricii margini simple 4.1. Conditii necesare de optimalitate 4.2. Conditii suficiente de optimalitate 4.3. Metode de optimizare cu restricii margini simple 4.3.1. Metoda gradientului proiectat 4.3.2. Metoda gradientului proiectat scalat 4.3.3. Metoda L-BFGS cu margini simple (L-BFGS-B) 4.4. Aplicatii Note, comentarii si referinte bibliografice
Cap.5. Programarea patratica 5.1. Conditii de optimalitate 5.2. Programarea patratica cu restrictii margini simple 5.2.1. Metoda gradientului proiectat 5.2.2. Metoda monotona de gradient proiectat 5.2.3. Metoda multiplicatorilor Lagrange 5.3. Programarea patratica cu restricaii egalitati 5.3.1. Metoda de eliminare a variabilelor 5.3.2. Metoda generalizata de eliminare a variabilelor 5.3.3. Metode bazate pe conditiile KKT 5.3.3.1. Metode directe de rezolvare a sistemului KKT 5.3.3.2. Metode iterative de rezolvare a sistemului KKT 5.4. Programarea patratica cu restrictii inegalitati 5.4.1. Metode ale multimii active pentru programarea patratica convexa 5.4.2. Metode de punct interior pentru programarea patratica Note, comentarii si referinte bibliografice
Cap.6. Metode bazate pe conditiile de optimalitate Karush-Kuhn-Tucker 6.1. Metode pentru probleme cu restrictii egalitati 6.2. Metode pentru probleme cu restrictii inegalitati 6.3. Metoda homotopiei Note, comentarii si referinte bibliografice
Cap.7. Metode de liniarizare 7.1. Metoda Frank-Wolfe 7.2. Metoda programarii liniare succesive 7.3. Metoda programarii liniare succesive penalizate 7.4. Metoda planelor secante 7.5. Metoda de generare a coloanelor Note, comentarii si referinte bibliografice
Cap.8. Metoda simplex convexa Note, comentarii si referinte bibliografice
Cap.9. Metode de directii admisibile 9.1. Metoda naiva Zoutendjik 9.2. Metode de puncte admisibile 9.3. Probleme cu restrictii liniare Note, comentarii si referinte bibliografice
Cap.10. Metode de gradient pentru optimizare cu restrictii 10.1. Metoda gradientului proiectat 10.2. Metoda gradientului redus 10.3. Metoda gradientului redus generalizat 10.4. Rata de convergenta a algoritmilor de gradient Note, comentarii si referinte bibliografice
Cap. 11. Metode de penalizare si de lagrangean augmentat 11.1. Functii de penalizare 11.2. Metode de penalizare exterioara 11.3. Metode de penalizare interioara 11.4. Aproximarea multiplicatorilor Lagrange in punctul de optim 11.5. Hesseianul problemei penalizate 11.6. Penalizare exacta 11.7. Metoda lagrangeanului augmentat 11.8. Metode practice de lagrangean augmentat 11.9. Reprezentari ale unei probleme de optimizare neliniara cu restrictii 11.9.1. Reprezentarea lagrangeana a unei probleme de optimizare cu restrictii 11.9.2. Reprezentarea perturbationala a unei probleme de optimizare cu restrictii 11.9.3. Puncte sa in optimizarea neconvexa 11.10. Interpretarea geometrica si compararea metodelor de penalizare si de lagrangean clasic si augmentat 11.11. Analiza convergentei metodelor de lagrangean clasic si augmentat 11.11.1. Metode care utilizeaza lagrangeanul clasic 11.11.2. Metode care utilizeaza lagrangeanul augmentat Note, comentarii si referinte bibliografice
Cap. 12. Metode combinate de penalizare si de lagrangean augmentat 12.1. SPENBAR (Andrei) 12.2. MINOS (Murtagh si Saunders) 12.2.1. Probleme cu restrictii liniare 12.2.2. Probleme cu restrictii neliniare 12.3. LANCELOT (Conn, Gould si Toint) Note, comentarii si referinte bibliografice
Cap. 13. Metoda programarii patratice succesive 13.1. Motivatii asupra programarii patratice succesive 13.2. Abordari ale metodelor de programare patratica succesiva 13.3. Aspecte algoritmice ale programarii patratice succesive 13.3.1. Tatarea liniarizarilor inconsistente 13.3.2. Aproximatii ale hesseianului 13.3.3. Aproximatii cvasi-Newton ale hesseianului redus 13.3.4. Functii de merit 13.4. Convergenta locala a programarii patratice succesive 13.5. Efectul Maratos 13.5.1. Cautare nemonotona (watchdog) 13.5.2. Corectii de ordinul doi 13.5.3. Functii de penalizare exacta netede 13.6. Programarea patratica succesiva cu cautare liniara 13.7. Programarea patratica succesiva cu metoda regiunii de incredere 13.7.1. Metoda de relaxare 13.7.2. Metoda de programare patratica succesiva cu functii de merit l1 13.7.3. Programarea liniar-patratica succesiva 13.7.4. Actualizarea parametrului de penalizare 13.8. Programarea patratica succesiva si gradientul proiectat neliniar 13.9. Algoritmi de programare patratica succesiva Note, comentarii si referinte bibliografice
Cap. 14. Metode combinate de programare patratica succesiva si functii de penalizare 14.1. TOLMIN (Powell) 14.2. DONLP (Spellucci) 14.3. NLPQLP (Schittkowski) 14.4. KNITRO (Byrd, Nocedal si Waltz) 14.5. SNOPT (Gill, Murray si Saunders) 14.5.1. Restrictii nefezabile 14.5.2. Metoda programarii patratice succesive pentru problema generala 14.5.3. Rezolvarea subproblemei patratice Note, comentarii si referinte bibliografice
Cap. 15. Metoda elipsoidului pentru optimizare neliniara 15.1. Elipsoizi 15.2. Solutia unui sistem rational de inegalitati liniare (Khachiyan) 15.3. Metoda elipsoidului pentru optimizare cu restrictii neliniare cu variabile marginite 15.4. Metoda elipsoidului pentru optimizare cu restrictii neliniare Note, comentarii si referinte bibliografice
Cap.16. Metode de punct interior pentru optimizare neliniara 16.1. Dificultatile si limitele metodei bariera logaritmice 16.2. Metode de punct interior pentru optimizare cu restrictii liniare 16.3. Metode de punct interior pentru optimizare cu restrictii neliniare 16.3.1. Prototipul algoritmului de punct interior 16.3.2. Aspecte algoritmice ale metodelor de punct interior 16.4. Metode de punct interior cu cautare liniara 16.5. Metode de punct interior cu regiunea de incredere 16.5.1. Un algoritm pentru problema bariera 16.5.2. Algoritmul metodei de punct interior cu regiunea de incredere 16.6. Convergenta globala Note, comentarii si referinte bibliografice
Cap. 17. Metoda filtrului pentru optimizare neliniara 17.1. Ideea metodei filtrului 17.2. Filtru cu programarea liniara succesiva 17.3. Filtru cu programarea patratica succesiva Note, comentarii si referinte bibliografice
Cap. 18. Metode combinate de punct interior cu cautare liniara sau filtru 18.1. KNITRO - INTERIOR (Byrd, Hribar si Waltz) 18.1.1 Algoritmul 1: KNITRO - INTERIOR / DIRECT 18.1.2 Algoritmul 2: Knitro - INTERIOR / CG 18.1.3 Functia de merit 18.1.4 Aspecte computationale 18.1.5 Tehnica crossover 18.1.6 Studiu numeric 18.2. IPOPT (Wachter si Biegler) 18.2.1 Algoritmul de baza IPOPT 18.2.2 Detalii de implementare 18.2.3 Studiu numeric 18.3. LOQO (Vanderbei si Shanno) 18.3.1 Modificarea algoritnului pentru probleme de optimizare convexa 18.3.2 Modificarea algoritnului pentru probleme de optimizare neconvexa 18.3.3 Detalii asupra algoritmului 18.4. Studii numerice, comparatii Note, comentarii si referinte bibliografice
Cap. 19. Metode de cautare directa pentru optimizare cu restrictii 19.1. Metoda de cautare directa bazata pe interpolare liniara - COBYLA 19.2. Metode de cautare directa utilizand penalizarea succesiva - DFL 19.3. Metode de cautare directa care utilizeaza calculul natural Note, comentarii si referinte bibliografice
Cap. 20. Pachete de programe pentru optimizare cu restrictii 20.1. Pachete pentru probleme de optimizare cu restrictii margini simple 20.2. Pachete pentru probleme de optimizare patratica 20.3. Pachete pentru probleme de optimizare neliniara cu restrictii 20.3.1. Pachete bazate pe metode de lagrangean augmentat 20.3.2. Pachete bazate pe metode de programare liniara / patratica succesiva 20.3.3. Pachete bazate pe metode de punct interior 20.3.4. Pachete bazate pe metode de cautare directa Note, comentarii si referinte bibliografice
Anexa A1. Lista algoritmilor
Anexa A2. Lista aplicatiilor in limbajul Fortran
Anexa A3. Lista programelor si a subrutinelor Fortran
Anexa A4. Aplicatii de optimizare neliniara
Anexa A5. Lista aplicatiilor de optimizare neliniara in limbajul GAMS
Bibliografie
Index de termeni
Index de autori
Abstract
Contents
[Cartea include un CD cu programe Fortran si GAMS]
