Численная аппроксимация градиентов



При рассмотрении градиентных методов предполагалось, что элементы градиента f (x) и матрицы Гессе ²f (x) можно вычислить с достаточной степенью точности. Новейшие методы обладают такой положительной характеристикой метода Ньютона, как вы­сокая скорость сходимости в окрестности точки минимума, и вместе с тем в них не используются значения вторых производных ( ²f (x)).Во многих возникающих на практике задачах получение аналитического выражения для градиента оказывается весьма затруднительным. В качестве примера можно рассмотреть случай, когда значения f (х) определяются в результате имитационного эксперимента. Кроме того, даже построение аналитических выражений не исключает возникновения ошибок. Следовательно, хотя бы для того, чтобы иметь возможность проверять аналитические выражения, целесообразно разработать аппроксимационную схему для получения числовых оценок компонент градиента. Простейшим вариантом такой схемы может служить аппроксимация с помощью конечной разности вперед

                  (3.90)

Такая аппроксимация непосредственно основывается на определении частной производной и при достаточно малых значениях ε дает весьма точные оценки. Выбор ε осуществляется в зависимости от вида f(x), координат точки х и точности (длины машинного слова) ЭВМ. Заметим, что в пределе при стремлении ε к нулю аппроксимация становится точной, однако этот факт не может служить рекомендацией по выбору ε. Величина ε должна выбираться достаточно большой, чтобы числитель выражения (3.90) был отличен от нуля. Если же ε оказывается меньше, чем минимальная точность расчетов на ЭВМ, то числитель обращается в нуль. Кроме того, не следует выбирать величину ε слишком большой, поскольку в этом случае разрывается связь с предельным переходом. Другими словами, при больших ε получаем «хорошие» числа с позиций точности расчетов на ЭВМ, но плохие оценки производных.

За счет дополнительного вычисления значений функции можно повысить точность аппроксимации путем использования центральной конечной разности:

              (3.91)

Для одной и той же ЭВМ при заданных f(x), x и ε , такаяаппроксимация оказывается более точной, однако при этом используется дополнительное значение функции. Отметим, что в ряде случаев повышение точности аппроксимации за счет дополнительного вычисления значений функции не является оправданным.

Стьюарт [67] предложил процедуру вычисления εна каждой итерации по методу Дэвидона — Флетчера — Пауэлла. Его метод основан на оценивании ошибки аппроксимации с помощью разности (3.90) и ошибки, обусловленной вычитанием почти равных чисел, которые фигурируют в числителе (3.90) при малых значениях ε. Среди достоинств метода Стьюарта следует отметить то, что он не требует дополнительных вычислений значений функции. Вместе с тем Гилл и др. [68] показали, что указанный метод может приводить к получению неточных оценок ε, и предложили другой подход, в соответствии с которым требуется вычислять 2N значений функции для того, чтобы оценить N значений ε. Однако этот метод необходимо реализовать лишь в начальной точке x(0). Результаты вычислительных экспериментов подтверждают преимущество подхода Гилла, который основывается на уточненных оценках соответствующих ошибок.


Дата добавления: 2018-06-01; просмотров: 706; Мы поможем в написании вашей работы!

Поделиться с друзьями:






Мы поможем в написании ваших работ!