Гибридная глобализация сходимости метода Левенберга-Марквардта для задач оптимизации с ограничениями-равенствами

Обложка
  • Авторы: Измаилов А.Ф.1, Усков Е.И.2
  • Учреждения:
    1. ФГБОУ ВО «Московский государственный университет им. М.В. Ломоносова»
    2. ФГБОУ ВО «Тамбовский государственный университет им. Г.Р. Державина»
  • Выпуск: Том 30, № 149 (2025)
  • Страницы: 41-55
  • Раздел: Статьи
  • URL: https://journals.rcsi.science/2686-9667/article/view/304173
  • ID: 304173

Цитировать

Полный текст

Аннотация

Метод Левенберга-Марквардта обладает локальной сверхлинейной сходимостью для общих систем нелинейных уравнений при слабых предположениях, допускающих неизолированность решений. Это обосновывает его применение к системам условий первого порядка оптимальности для задач условной оптимизации при возможном нарушении условий регулярности ограничений, что влечет неединственность множителей Лагранжа. Однако, существующие стратегии глобализации сходимости метода ЛевенберГа-Марквардта не являются оптимизационными, т.е., в случае применения к задачам оптимизации, направлены на поиск не решений, а любых стационарных точек таких задач. В этой работе предлагаются оптимизационные стратегии глобализации сходимости метода Левенберга-Марквардта для задач оптимизации с ограничениями-равенствами. Стратегии носят гибридный характер, a именно, основаны на комбинировании глобально сходящегося оптимизационного метода внешней фазы с асимптотическим переключением на метод Левенберга-Марквардта. Установлены свойства глобальной сходимости и сверхлинейная скорость. Приводятся численные результаты, подтверждающие работоспособность предложенных гибридных алгоритмов.

Об авторах

Алексей Феридович Измаилов

ФГБОУ ВО «Московский государственный университет им. М.В. Ломоносова»

Автор, ответственный за переписку.
Email: izmaf@cs.msu.ru
ORCID iD: 0000-0001-9851-0524

доктор физико-математических наук, профессор кафедры исследования операций

Россия, 119992, ГСП-2, Российская Федерация, г. Москва, Ленинские горы, 1

Евгений Иванович Усков

ФГБОУ ВО «Тамбовский государственный университет им. Г.Р. Державина»

Email: euskov@cs.msu.ru
ORCID iD: 0000-0002-3639-0317

кандидат физико-математических наук, научный сотрудник НОЦ «Фундаментальные математические исследования»

Россия, 392000, Российская Федерация, г. Тамбов, ул. Интернациональная, 33

Список литературы

  1. А.Ф. Измаилов, М.В. Солодов, Численные методы оптимизации, 2-е изд., перераб. и доп., Физматлит, М., 2008.
  2. A.F. Izmailov, M.V. Solodov, Newton-Type Methods for Optimization and Variational Problems, Springer Series in Operations Research and Financial Engineering, Springer, Cham, 2014.
  3. A.F. Izmailov, M.V. Solodov, "Critical Lagrange multipliers: what we currently know about them, how they spoil our lives, and what we can do about it", TOP, 23:1 (2015), 1-26.
  4. S.J. Wright, "Superlinear convergence of a stabilized SQP method to a degenerate solution", Computational Optimization and Applications, 11:3 (1998), 253-275.
  5. W.W. Hager, "Stabilized sequential quadratic programming", Computational Optimization and Applications, 12:1-3 (1999), 253-273.
  6. S.J. Wright, "Modifying SQP for degenerate problems", SIAM J. on Optimization, 13:2 (2002), 470-497.
  7. D. Fernández, M.V. Solodov, "Stabilized sequential quadratic programming for optimization and a stabilized Newton-type method for variational problems", Mathematical Programming, 125:1 (2010), 47-73.
  8. A.F. Izmailov, M.V. Solodov, "Stabilized SQP revisited", Mathematical Programming, 133:1-2 (2012), 93-120.
  9. A.F. Izmailov, E.I. Uskov, "Subspace-stabilized sequential quadratic programming", Computational Optimization and Applications, 67:1 (2017), 129-154.
  10. A.F. Izmailov, M.V. Solodov, E.I. Uskov, "A globally convergent Levenberg-Marquard tmethod for equality-constrained optimization", Computational Optimization and Applications, 72:1 (2019), 215-239.
  11. A. Fischer, A.F. Izmailov, M.V. Solodov, "The Levenberg-Marquardt method: an overview of modern convergence theories and more", Computational Optimization and Applications, 89:1 (2024), 33-67.
  12. А.Ф. Измаилов, А.М. Крылова, Е.И. Усков, “Гибридная глобализация стабилизированного метода последовательного квадратичного программирования”, Теоретические и прикладные задачи нелинейного анализа, ВЦ РАН, М., 2011, 47–66.
  13. E.D. Dolan, J.J. More, "Benchmarking optimization software with performance profiles", Mathematical Programming, 91:2 (2002), 201-213.
  14. A.F. Izmailov, M.V. Solodov, E.I. Uskov, "Combining stabilized SQP with the augmented Lagrangian algorithm", Computational Optimization and Applications, 62:2 (2015), 405-429.
  15. A.F. Izmailov, E.I. Uskov, Yan Zhibai, "The piecewise Levenberg-Marquardt method for generalized Nash equilibrium problems", Advances in System Sciences and Applications, 24:2 (2024), 19-31 (to appear).

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML


Creative Commons License
Эта статья доступна по лицензии Creative Commons Attribution 4.0 International License.

Согласие на обработку персональных данных

 

Используя сайт https://journals.rcsi.science, я (далее – «Пользователь» или «Субъект персональных данных») даю согласие на обработку персональных данных на этом сайте (текст Согласия) и на обработку персональных данных с помощью сервиса «Яндекс.Метрика» (текст Согласия).