Математическая постановка задачи поиска стационарных точек

Поиск стационарных точек дважды дифференцируемой функции двух переменных сводится к решению нелинейной векторной системы, где градиент функции приравнивается к нулевому вектору. Роль матрицы Якоби для такой системы играет гессиан — симметричная матрица вторых частных производных исходной функции. На каждом итерационном шаге вектор приращений определяется из решения системы линейных уравнений с гессианом в роли матрицы коэффициентов и антиградиентом в роли вектора свободных членов. Полученный корень градиента требует обязательной классификации через вычисление определителя гессиана и знаков его собственных чисел для разделения минимумов, максимумов и седловых точек.

Теоретические условия и границы локальной сходимости

Теоретическая часть работы строится вокруг теоремы Канторовича о сходимости процесса Ньютона для нелинейных операторов в банаховых пространствах. Метод демонстрирует локальную квадратичную сходимость, при которой число верных знаков решения удваивается на каждой итерации. Этот порядок сходимости сохраняется только в замкнутой окрестности изолированного корня при условии достаточной гладкости функции и невырожденности матрицы Якоби. При приближении определителя гессиана к нулю матрица становится плохо обусловленной, шаг алгоритма резко возрастает, а вычисления выбрасывают траекторию далеко за пределы локальной области притяжения.

Численный эксперимент и построение бассейнов притяжения

Для наглядной демонстрации свойств метода выбери тестовую функцию с несколькими стационарными точками. Классический пример для двумерного случая — функция Химмельблау, полином четвертой степени с четырьмя локальными минимумами, четырьмя седловыми точками и одним локальным максимумом в области от минус пяти до плюс пяти по обеим осям. Второй классический объект — функция Розенброка, чья стационарная точка лежит на дне узкого параболического оврага, где гессиан обладает высоким числом обусловленности.

Практический расчет заключается в разбиении исследуемой плоской области регулярной сеткой узлов шагом 0.02 или 0.05. Запустив алгоритм Ньютона из каждого узла сетки, зафиксируй число потребовавшихся шагов и итоговую точку, к которой пришел процесс. Построение цветовой карты плоскости, где цвет пикселя кодирует найденный экстремум или факт расходимости, выявляет фрактальную геометрию границ между бассейнами сходимости.

Организация вычислений и критерии останова

  • Вместо явного вычисления обратной матрицы гессиана запрограммируй решение системы линейных алгебраических уравнений через треугольное LU-разложение на каждом шаге.
  • Контролируй завершение вычислений по совместному критерию малости евклидовой нормы градиента и длины шага смещения аргументов с пороговой погрешностью порядка 10 в минус седьмой степени.
  • Введи жесткий лимит в сто итераций для корректной обработки точек, из которых процесс зацикливается или уходит на бесконечность.
  • Оценивай порядок сходимости алгоритма численно, вычисляя отношение нормы ошибки текущей итерации к квадрату нормы ошибки предыдущего шага.

Критерии оценки работы и литература

Преподаватель в этой теме оценивает математическую строгость аналитического нахождения производных, аккуратность реализации линейного решателя и глубину сопоставления теории с вычислительной практикой. Важно представить графики падения невязки в полулогарифмическом масштабе и карты распределения числа итераций по плоскости стартовых значений.

Надежные теоретические и алгоритмические выкладки изложены в классической монографии Дж. Денниса и Р. Шнабеля «Численные методы безусловной оптимизации и решения нелинейных уравнений», книге Н. Н. Калиткина «Численные методы», а также в фундаментальном труде Дж. Носедала и С. Райта «Numerical Optimization».

Частые вопросы

Почему для тестов лучше брать функцию Химмельблау, а не обычный эллиптический параболоид?

На параболоиде метод Ньютона сходится к минимуму ровно за один шаг из любой начальной точки, так как гессиан постоянен. Для демонстрации чувствительности к начальному приближению и зависимости числа шагов от стартовой позиции необходима функция степени не ниже третьей с несколькими конкурирующими корнями.

Что делать, если гессиан в начальной точке вырожден?

В точках вырожденности определитель равен нулю, поэтому чистый метод Ньютона сделать шаг не способен. В практической части курсовой такие точки фиксируются как точки сбоя либо для них применяется регуляризация шага добавлением диагональной матрицы, аналогично подходу Левенберга — Марквардта.