Méthodes à directions de descente
Ce chapitre introduit une classe importante d’algorithmes de résolution des problèmes d’optimisation sans contrainte. Le concept central est celui de direction de descente (section 6.1). On le retrouvera dans des contextes variés, également pour résoudre des problèmes avec contraintes. Tous les algorithmes d’optimisation n’entrent pas dans ce cadre. Une autre classe importante de méthodes se fonde sur la notion de région de confiance qui sera vue au chapitre 9. Après avoir décrit le fonctionnement d’un algorithme à directions de descente (section 6.1), nous donnons quelques exemples d’algorithmes de ce type (section 6.2), qui seront étudiés plus en détail dans d’autres chapitres. Nous décrivons ensuite les principales règles de recherche linéaire (section 6.3) et étudions la contribution de la recherche linéaire à la convergence et à la complexité itérative des algorithmes à directions de descente (section 6.4). Nous concluons ce chapitre par sa section 6.5, où sont énoncés des critères permettant d’estimer la qualité de la direction de descente proche d’une solution : celui de l’admissibilité asymptotique du pas unité (section 6.5.1) et celui de la convergence superlinéaire (section 6.5.2).
