La différentiation automatique et son utilisation en optimisation
RAIRO - Operations Research - Recherche Opérationnelle, Volume 42 (2008) no. 2, pp. 141-155.

In this work, we present an introduction to automatic differentiation, its use in optimization software, and some new potential usages. We focus on the potential of this technique in optimization. We do not dive deeply in the intricacies of automatic differentiation, but put forward its key ideas. We sketch a survey, as of today, of automatic differentiation software, but warn the reader that the situation with respect to software evolves rapidly. In the last part of the paper, we present some potential future usage of automatic differentiation, assuming an ideal tool is available, which will become true in some unspecified future.

Dans ce travail, nous présentons une introduction sur la différentiation automatique, son utilisation dans les logiciels usuels d'optimisation, et enfin des perspectives de l'apport que cette technique promet. L'accent est mis plutôt sur le potentiel de cette technique en optimisation. Ainsi, la présentation se veut simple ; nous mentionnons tout de même quelques aspects plus avancés. Les logiciels évoluant assez rapidement, ce document est daté, et il est certain que plusieurs aspects de la présentation ayant trait aux logiciels actuels seront bientôt caduques. Cependant, dans la dernière partie du document dédiée aux perspectives, nous définissons les attentes d'un outil «idéal» sans nous préoccuper de leur disponibilité aujourd'hui.

DOI: 10.1051/ro:2008007
Classification: 90C
Keywords: différentiation automatique, algorithmes numériques d'optimisation
@article{RO_2008__42_2_141_0,
     author = {Dussault, Jean-Pierre},
     title = {La diff\'erentiation automatique et son utilisation en optimisation},
     journal = {RAIRO - Operations Research - Recherche Op\'erationnelle},
     pages = {141--155},
     publisher = {EDP-Sciences},
     volume = {42},
     number = {2},
     year = {2008},
     doi = {10.1051/ro:2008007},
     mrnumber = {2431397},
     zbl = {1153.65027},
     language = {fr},
     url = {http://archive.numdam.org/articles/10.1051/ro:2008007/}
}
TY  - JOUR
AU  - Dussault, Jean-Pierre
TI  - La différentiation automatique et son utilisation en optimisation
JO  - RAIRO - Operations Research - Recherche Opérationnelle
PY  - 2008
SP  - 141
EP  - 155
VL  - 42
IS  - 2
PB  - EDP-Sciences
UR  - http://archive.numdam.org/articles/10.1051/ro:2008007/
DO  - 10.1051/ro:2008007
LA  - fr
ID  - RO_2008__42_2_141_0
ER  - 
%0 Journal Article
%A Dussault, Jean-Pierre
%T La différentiation automatique et son utilisation en optimisation
%J RAIRO - Operations Research - Recherche Opérationnelle
%D 2008
%P 141-155
%V 42
%N 2
%I EDP-Sciences
%U http://archive.numdam.org/articles/10.1051/ro:2008007/
%R 10.1051/ro:2008007
%G fr
%F RO_2008__42_2_141_0
Dussault, Jean-Pierre. La différentiation automatique et son utilisation en optimisation. RAIRO - Operations Research - Recherche Opérationnelle, Volume 42 (2008) no. 2, pp. 141-155. doi : 10.1051/ro:2008007. http://archive.numdam.org/articles/10.1051/ro:2008007/

[1] J.-P. Dussault, High order Newton-penalty Algorithms. J. Comput. Appl. Math. 182 (2005) 117-133. | MR | Zbl

[2] J.-P. Dussault and B. Hamelin, Implementation of high order Newton Algorithms, in Scilab first international conference, Dec. 2004.

[3] J.-P. Dussault and B. Hamelin, Robust descent in differentiable optimization using automatic finite differences. Optimization Methods and Software (2005). À paraître. | MR | Zbl

[4] A. Griewank, On automatic differentiation, in Mathematical Programming: Recent Developments and Applications, edited by M. Iri and K. Tanabe, Kluwer Academic Publishers (1989) 83-108. | MR | Zbl

[5] A. Griewank, Achieving logarithmic growth of temporal and spatial complexity in reverse automatic differentiation. Optimization Methods and Software 1 (1992) 35-54.

[6] A. Griewank, Evaluating Derivatives: Principles and Techniques of Algorithmic Differentiation. Frontiers in Appl. Math. 19 SIAM, Philadelphia, PA (2000). | MR | Zbl

[7] J.J. Moré, Automatic differentiation tools in optimization software, in Automatic Differentiation of Algorithms: From Simulation to Optimization, Computer and Information Science, Springer, New York, NY (2001) Chapter 2, 25-34.

Cited by Sources: