Многошаговый метод обобщенного градиентного спуска

Вводится понятие аппроксимирующей кривой. Описывается метод последовательных приближений, в котором направление спуска выбирается с использованием обобщенных градиентов и значений функции на предыдущих шагах, а длина шага выбирается так же, как в методе обобщенного градиентного спуска. Рассматриваются случаи наличия и отсутствия ограничений.