Метод Розенброка
Рассмотрим следующую задачу локальной безусловной оптимизации: найти минимум критерия оптимальности ( ), определенного в -мерном евклидовом пространстве ,

(1)Ортогонализация Грамма-Шмидта.
При решении задачи (1) методом Розенброка (методом вращающихся координат) используется преобразование на каждой итерации системы координат таким образом, чтобы в новой системе координатодна из осей совпадала с направлением предыдущего шага. Остальные оси новой системы координат обычно находят с помощью процедуры ортогонализации Грамма-Шмидта.
Рассмотрим произвольный набор векторовпространства . Поставим задачу построить на основе этих векторов ортонормированный набор векторов того же пространства .
Напомним, что набор векторов называется ортонормированным, если для любых двухвекторов из этого набора выполняется условие

(2)

Или, другими словами, набор векторов ортонормирован, если эти векторы линейно независимы и скалярное произведение любых двух из них равно единице.Для построения векторов применим индуктивный подход. Положим, что

(3)

где - символ евклидовой нормы. Полагая векторы уже построенными будем искать вектор в виде

(4)

Дляотыскания неизвестных множителей умножим (4) скалярно на вектор :


Поскольку , имеем

(5)

Множитель найдем из условия :

(6)

Определение 1. Процесс перехода от векторов к векторамсогласно формулам (3) – (6) называется ортогонализацией Грамма-Шмидта
Схема метода Розенброка.
Каждая итерация метода Розенброка состоит из двух этапов. В зависимости от модификации метода первый этап можетвыполняться с использованием различных методов. Рассмотрим применение на первом этапе итерационной формулы метода Гаусса-Зейделя. Приведем формулировку этой формулы, несколько отличную от формулировки,рассмотренной в параграфе 6.1.
Положим , и пусть - орты системы координат, используемой на -ой итерации. Тогда итерационную формулу метода... [продолжает]

Читать полный реферат