Формализация задачи
Метод наискорейшего спуска является вариантом градиентного спуска [4]. Основной идеей метода градиентного спуска заключается в том, чтобы осуществлять оптимизацию в направлении антиградиента -Ñ f, определяющего направление наискорейшего спуска.
Словами алгоритм можно описать так: повторять операцию
, (2.3)
где x [ k ] – вектор аргументов функции многих переменных текущей итерации;
-Ñ f (x [ k ]) – антиградиент функции f, от аргументов текущей итерации;
l [ k ] – шаговый вектор, определяющий скорость движения в сторону антиградиента;
до тех пор, пока не выполниться условие (2.2).
Метод наискорейшего спуска, как варианта градиентного спуска, основывается на выборе шага из следующего соображения
. (2.4)
Чтобы понять запись (2.4), приведем геометрическую интерпретацию метода, показанную на рисунке 2.1. На рисунке начальное приближение это точка x0.
Рисунок 2.1 Геометрическая интерпретация наискорейшего спуска
Из этой точки мы движемся в сторону антиградиента, соответствующего лучу L. На следующем этапе мы попадаем в новую точку x1 через шаговый вектор, который в данном случае определяет такое расстояние от предыдущей точки, которое нужно пройти, чтобы оказаться в минимуме функции f на направлении L. Именно об этом и говорит запись (2.4). Затем мы повторяем вышеизложенное уже относительно x1 и так далее, пока не выполнится условие (2.2).
Дата добавления: 2015-12-17; просмотров: 21; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!