Алгоритм и программа решения задачи поиска экстремума функции градиентным методом

Это метод нахождения локального минимума (максимума) функции с помощью движения вдоль градиента. Для минимизации функции в направлении градиента используются методы одномерной оптимизации, например, метод золотого сечения. Также можно искать не наилучшую точку в направлении градиента, а какую-либо лучше текущей.
Наиболее простой в реализации из всех методов локальной оптимизации. Имеет довольно слабые условия сходимости, но при этом скорость сходимости достаточно мала (линейна). Шаг градиентного метода часто используется как часть других методов оптимизации, например, метод Флетчера - Ривса.

1. Описание метода...……...…………...………………………………3
1.1. Алгоритм………….……………………..................……...…..3
1.2.Формализация………………….................................…..…….4
2. Общая идея градиентного метода ……..…….…………………...5
3. Методы поиска экстремума функции……………………………...7
3.1. Метод координатного спуска……………...…………….……8
3.2. Метод градиента.........................................…................….....9
3.3. Метод наискорейшего спуска................................................