Résultat de recherche par an
Résultat de recherche par an
Serge Gratton, Alena Kopanicakova, Philippe TOINT
Résultats de recherche: Contribution à un journal/une revue › Article › Revue par des pairs
A class of multilevel algorithms for unconstrained nonlinear optimization is presented which does not require the evaluation of the objective function. The class contains the momentum-less AdaGrad method as a particular (single-level) instance. The choice of avoiding the evaluation of the objective function is intended to make the algorithms of the class less sensitive to noise, while the multilevel feature aims at reducing their computational cost. The evaluation complexity of these algorithms is analyzed and their behavior in the presence of noise is then illustrated in the context of training deep neural networks for supervised learning applications.
langue originale | Anglais |
---|---|
Pages (de - à) | 2772-2800 |
Nombre de pages | 29 |
journal | SIAM Journal on Optimization |
Volume | 33 |
Numéro de publication | 4 |
Les DOIs | |
Etat de la publication | Publié - 15 févr. 2023 |
Résultats de recherche: Papier de travail › Article de travail
Résultats de recherche: Papier de travail › Préprint
Résultats de recherche: Papier de travail › Article de travail
1/01/87 → …
Projet: Axe de recherche
Sartenaer, A., TOINT, P., Malmedy, V., Tomanos, D. & Weber Mendonca, M.
1/07/04 → 31/07/11
Projet: Recherche