FAD Technique and Differentiation of a Composite Function
- Authors: Albu A.F.1, Gorchakov A.Y.1,2, Zubov V.I.1
-
Affiliations:
- Federal Research Center “Computer Science and Control,” Russian Academy of Sciences
- Moscow Institute of Physics and Technology (National Research University)
- Issue: Vol 63, No 1 (2023)
- Pages: 61-73
- Section: ОПТИМАЛЬНОЕ УПРАВЛЕНИЕ
- URL: https://journals.rcsi.science/0044-4669/article/view/134288
- DOI: https://doi.org/10.31857/S0044466923010039
- EDN: https://elibrary.ru/LEJFIO
- ID: 134288
Cite item
Abstract
Different approaches to the calculation of the gradient of a composite function of several variables are compared, namely, exact analytically derived formulas, formulas based on the fast automatic differentiation (FAD) technique, and standard software packages implementing the ideas of the FAD technique. The approaches are compared as applied to a composite function representing the energy of a system of atoms with the Tersoff interatomic potential. The comparison criterion is the computer time required for computing the gradient of the function. The results show that the FAD technique is superior to the analytical formulas. The standard packages take nearly the same time to compute the function gradient as the FAD technique formulas.
About the authors
A. F. Albu
Federal Research Center “Computer Science and Control,” Russian Academy of Sciences
Email: vladimir.zubov@mail.ru
119333, Moscow, Russia
A. Yu. Gorchakov
Federal Research Center “Computer Science and Control,” Russian Academy of Sciences;Moscow Institute of Physics and Technology (National Research University)
Email: vladimir.zubov@mail.ru
119333, Moscow, Russia; 141701, Dolgoprudnyi, Moscow oblast, Russia
V. I. Zubov
Federal Research Center “Computer Science and Control,” Russian Academy of Sciences
Author for correspondence.
Email: vladimir.zubov@mail.ru
119333, Moscow, Russia
References
- Крылов И.А., Черноусько Ф.Л. О методе последовательных приближений для решения задач оптимального управления // Ж. вычисл. матем. и матем. физ. 1962. Т. 2. № 6. С. 669–683.
- Федоренко Р.П. Приближенное решение задач оптимального управления. М.: Наука, 1978.
- Моисеев Н.Н. Численные методы в теории оптимальных систем. М.: Наука, 1971.
- Албу А.Ф., Зубов В.И. Вычисление градиента функционала в одной задаче оптимального управления, связанной с кристаллизацией металла // Ж. вычисл. матем. и матем. физ. 2009. Т. 9. № 1. С. 51–75.
- Евтушенко Ю.Г., Засухина Е.С., Зубов В.И. О численном подходе к оптимизации решения задачи Бюргерса с помощью граничных условий // Ж. вычисл. матем. и матем. физ. 1997. Т. 37. № 12. С. 1449–1458.
- Айда-Заде К.Р., Евтушенко Ю.Г. Быстрое автоматическое дифференцирование // Матем. моделирование. 1989. Т. 1. С. 121–139.
- Evtushenko Y.G. Computation of exact gradients in distributed dynamic systems // Optimizat. Meth. and Software. 1998. V. 9. P. 45–75.
- Евтушенко Ю.Г. Оптимизация и быстрое автоматическое дифференцирование. Научное издание. ВЦ им. А.А. Дородницына РАН. Москва. 2013. 144 с.
- Hascoet L., Pascual V. The Tapenade automatic differentiation tool: principles, model, and specification // ACM Transact. on Math. Software (TOMS). 2013. T. 39. №. 3. C. 1–43.
- Albring T. et al. An aerodynamic design framework based on algorithmic differentiation // ERCOFTAC Bull. 2015. V. 102. P. 10–16.
- Hogan R.J. Fast reverse-mode automatic differentiation using expression templates in C++ // ACM Transact. on Math. Software (TOMS). 2014. V. 40. № 4. P. 26–42.
- Албу А.Ф. Применение быстрого автоматического дифференцирования для вычисления градиента потенциала Терсоффа // Информ. технологии и вычисл. системы. 2016. Т. № 1. С. 43–49.
- Абгарян К.К., Посыпкин М.А. Программный комплекс для решения задач параметрической идентификации потенциалов межатомного взаимодействия // Inter. J. of Open Inform. Tech. 2014. Т. 2. № 10. С. 14–19.
- Евтушенко Ю.Г., Лурье С.А., Посыпкин М.А., Соляев Ю.О. Применение методов оптимизации для поиска равновесных состояний двумерных кристаллов // Ж. вычисл. матем. и матем. физ. 2016. Т. 56. № 12. С. 2032–2041.
- Горчаков А.Ю. О программных пакетах быстрого автоматического дифференцирования // Информ. технологии и вычисл. системы. 2018. № 1. P. 30–36.