Скачать реферат Решение задач - методы спуска

<-- рефераты Математика

Методы спуска
Общая схема.
Все методы спуска решения задачи безусловной минимизации разли-чаются либо выбором направления спуска, либо способом движения вдоль направления спуска. Это позволяет написать общую схему методов спуска.
Решается задача минимизации функции (x) на всём пространстве En. Методы спуска состоят в следующей процедуре построения последо-вательности {xk}. Â качестве начального приближения выбирается любая точка x0En. Последовательные приближения x1, x2, … строятся по сле-дующей схеме:
1) в точке xk выбирают направление спуска - Sk;
2) находят (k+1)-е приближение по формуле xk+1=xk-pkSk.
Направление Sk выбирают таким образом, чтобы обеспечить нера-венство (xk+1)<(xk) по крайней мере для малых значений величины pk. На вопрос, какому из способов выбора направления спуска следует от-дать предпочтение при решении конкретной задачи, однозначного ответа нет.
Число pk определяет расстояние от точки xk до точки хk+1. Это число называется длиной шага или просто шагом. Основная задача при выборе величины k - это обеспечить выполнение неравенства (xk+1)<(xk). Од-ним из элементарных способов выбора шага является способ удвоения шага.
Выбирают k=k-1. Если при этом (xk+1)<(xk), то либо переходят к следующей (k+2)-й итерации, либо выбирают k=2k-1. Если значение (х) меньше его предыдущего значения, то процесс удвоения можно про-должать до тех пор, пока убывание не прекратится. Если (xk+1)(xk), то выбирают k=0.5k-1. Если (xk-0.5k-1Sk)<(xk), то полагают xk+1=xk-0.5k-1Sk и переходят к следующей (k+2)-й итерации. Если же (xk-0.5k-1Sk)(xk), то выбирают k=0.25k-1 и т.д.
Метод градиентного спуска.
Одним из самых распространённых методов минимизации, связан-ных с вычислением градиента, является метод спуска по направлению антиградиента минимизируемой функции. В пользу такого выбора на-правления спуска можно привести следующие соображения. Поскольку антиградиент, то есть ’(xk) в точке xk указывает направление наиско-рейшего убывания функции, то естественным представляется сместиться из точки xk по этому направлению.

листать страницы:
1  2  3