Линейная алгебра и мат. Статистика
жүктеу/скачать 294.26 Kb.
|
- Бұл бет үшін навигация:
- Фиксированный шаг
- Уменьшающийся шаг
| Адаптивная коррекция. В этом методе на текущей итерации из точки делается два шага: с длиной и с длиной , где . Если удлинённый шаг приводит к лучшему значению , то . Если лучшим является шаг с текущей длиной, то не меняется. Наконец, если оба шага приводят к увеличению по сравнению с , то в цикле уменьшается на до тех пор, пока новое значение не станет меньше, чем . При таком подходе к выбору в штатном режиме требуется всего два обращения к оракулу на каждой итерации.
Фиксированный шаг. Здесь , где задается пользователем заранее. При сокращении длины шага метод начинает стабильно сходиться, но количество требуемых итераций при этом значительно увеличивается. Уменьшающийся шаг. Здесь , где – номер итерации. На первых итерациях метод ведет себя нестабильно по аналогии с предыдущим случаем. Однако, за счет редукции длины шага, с некоторой итерации метод стабилизируется. При этом, однако, длина шага становится настолько малой, что в итоге метод не сходится даже за крайне большое количество итераций. В результате можно заключить, что последние две стратегии выбора длины шага являются не слишком удачными, т.к. в них не проводится проверок на уменьшение значения функции в итерациях. Первые три подхода, а также стратегия точной одномерной оптимизации могут применяться в зависимости от ограничений на допустимое количество обращений к оракулу. (Линейная скорость сходимости). Пусть — последовательность неотрицательных чисел, сходящаяся к нулю. Говорят, что имеет линейную скорость сходимости с параметром , если существует , такое, что для всех выполнено Нижняя граница всех , для которых имеет линейную скорость сходимости с параметром , называется константой линейной сходимости последовательности . Методы решения системы линейных алгебраических уравнений. Метод сопряженных градиентов для решения СЛАУ, предобуславливание. жүктеу/скачать 294.26 Kb. Достарыңызбен бөлісу:
|