Квазиньютоновские методы оптимизации

Квазиньютоновские методы оптимизации [c.86]

Рост сложности и размерности этих задач, особенно задач 2-го класса, требует применения наиболее эффективных (как по быстродействию, так и по надежности определения наилучшего решения) методов оптимизации, позволяющих решать эти задачи в реальное время. Гибкость и универсальность поисковых методов оптимизации, относящихся к классу численных методов нелинейного программирования, сделали их основным средством решения задач 1-го класса и существенной частью алгоритмов решения задач 2-го класса. В последнее время такие методы получили большое развитие, особенно это относится к квазиньютоновским методам, и к методам оптимизации больших систем. Основное внимание в книге уделяется этим методам и опыту их использования для оптимизации ХТС. Вместе с тем комбинаторная природа задач синтеза ХТС требует применения методов дискретной математики, использованию которых также уделено большое внимание. [c.5]

Итак, для определения производных критерия оптимизации замкнутой схемы необходимо рассчитать частные производные ряда величин разомкнутой схемы. Определение этих величин не требует проведения итерационных процедур. В этом состоит основное преимущество данного подхода. Кроме того, при вычислении производных в разомкнутой схеме можно воспользоваться зонами влияния [3, с. 136], что может также существенно сократить число вычислений. Правда, использование этого подхода требует решения системы линейных уравнений. Покажем, что используя информацию, полученную на первом уровне (см. рис. 20), можно еще более повысить эффективность этого метода. Будем исходить из предположения, что для решения системы (И, 6) на первом уровне (см. рис. 20) используется квазиньютоновский метод QNM. Обозначим через Н предельное значение матрицы Я [см. соотношение (II, 101)]. Матрица Я аппроксимирует обратную матрицу Якоби системы (II, 6), в пределе можно ожидать, что матрица Я стремится к обратной матрице Якоби этой системы, т. е. что будет выполняться равенство [c.133]

В заключение отметим, что при традиционном подходе к решению задачи оптимизации среднее число обращений к расчету разомкнутой схемы, приходящееся на одно вычисление критерия оптимизации (включая разностные оценки производных), колеблется в пределах для метода простой итерации — от 70 до 100, а для квазиньютоновских методов — от 4 до 9. [c.139]

Первый подход состоит в том, что схему рассматривают как единое целое и пользуются поисковыми методами оптимизации. Проанализируем в связи с этим перспективы применения поисковых методов для оптимизации больших систем. Ранее вследствие трудностей получения аналитических выражений для производных часто применялись методы поиска нулевого порядка [11, с. 121], не требующие вычисления производных. В настоящее время [1071 общепринятым является использование квазиньютоновских методов первого порядка, причем в случае трудности получения аналитических выражений для производных используются их разностные аппроксимации. Однако, способ вычисления производных с помощью разностей имеет большие недостатки. Действительно, вычисление производных с помощью разностей потребует (г -Ь 1)-го расчета схемы (г — размерность вектора поисковых переменных), т. е. вычислительные затраты на определение производных в этом случае, растут пропорционально размерности задачи, и при больших г могут стать чрезмерными. Следующий недостаток — неточность расчета производных, которая может существенно исказить направления поиска, а следовательно, понизить эффективность метода. И, наконец, еще один недостаток — трудоемкость подбора приращений аргументов Ах1. [c.167]

Все указанные недостатки делают малоперспективным использование разностных оценок производных при оптимизации больших систем. Поэтому для больших систем чрезвычайно важную роль приобретают алгоритмические методы вычисления производных. От наличия таких методов и основанных на них программ будет зависеть — станут ли квазиньютоновские методы первого порядка действительно инструментом решения задач оптимизации большой размерности. Причем программы, основанные на алгоритмических методах, должны обеспечивать не только точность и быстродействие вычислений производных, но и требовать подготовительной работы [c.167]

Оценивая перспективы применения метода Ньютона, следует отметить, что его широкое практическое использование начнется лишь после того, как на основе развитых алгоритмических методов будут созданы программы для ЭВМ, позволяющие для схем произвольной структуры вычислять значения вторых производных критерия по поисковым переменным только на основе знания математических моделей отдельных блоков, и информации о структуре ХТС, т. е. программы, аналогичные вышеупомянутым программам вычисления первых производных. Поскольку трудно предположить, что такие программы будут созданы в ближайшие годы, основное применение найдут квазиньютоновские методы первого порядка. Как мы уже отмечали, эффективность этих методов с увеличением размерности задач должна уменьшаться. Однако, есть обстоятельство, которое позволяет существенно повысить эффективность квазиньютоновских методов при оптимизации больших систем либо сама структура ХТС приводит к тому, что гессиан целевой функции имеет сильно разреженную структуру (большое число нулевых элементов), либо же с помощью специального приема удается получить модифицированный критерий, гессиан которого будет иметь сильно разреженную структуру. В связи с этим рассмотрим квазиньютоновские методы минимизации функций, имеющих сильно разреженные гессианы. Развитие этих методов началось в самое последнее время. Также как и в главе П1 мы здесь рассмотрим квазиньютоновские методы 1-го и [c.169]

Для оптимизации был использован метод ОРР, а также блочный квазиньютоновский метод 2-го рода (БКМ-2). Для определения матриц В из уравнения (У,54) использовались формулы (11,103), (11,104). Поиск проводился из точки Ы = 1, 2 I = 1,. .., 15 Ы - = 10 / = 16,. .., 33. Во всех случаях было получено значение целевой функции 55. Результаты счета приведены в табл. 31. Все функции имеют по 33 переменных каждая отдельная функция [c.186]

Рассмотрим теперь другой подход. Он также будет двухуровневым и основывается на принципе закрепления. Пусть опять закреплены переменные (VI,55), (VI,56), (VI,73), (VI,74). Проведем синтез подсистемы (первый уровень). На второй уровень вынесем задачу оптимизации всей системы S. При этом в подсистеме будут оптимизироваться только технологические параметры —длины, диаметры и число трубок, расходы пара в нагревателе и охлаждающей воды в холодильнике, а в подсистеме 5i — все варьируемые параметры. После решения этой задачи получим новые значения переменных (VI, 55), (VI, 56), (VI, 73), (VI, 74) на входе и выходе ТС (подсистемы S ) и можно опять переходить к первому уровню — решению задачи синтеза ТС, и т. д. (рис. 45). Преимущество этого подхода перед предыдущим состоит в том, что критерий оптимизации в данном случае является достаточно гладкой функцией, для минимизации которой можно использовать квазиньютоновские методы 1-го порядка. Легко видеть, что описанная двухуровневая процедура применима с небольшими изменениями и в случае, когда Sa—произвольная подсистема. [c.226]

Процедуре 2-го уровня будет соответствовать задача оптимизации функции непрерывных переменных (VI, 76). Этот подход имеет один недостаток. Поскольку при синтезе подсистемы приходится решать комбинаторную задачу, относительно гладкости функции (VI, 76) ничего сказать нельзя. Во всяком случае, трудно предполагать существование во всей области определения не только вторых, но и первых производных данной функции. Это будет препятствовать применению наиболее эффективных поисковых методов — квазиньютоновских т. е. для оптимизации функции (VI, 76) можно будет применять только методы нулевого порядка. [c.226]

Методы решения систем нелинейных уравнений можно р азбить на три группы. К первой относятся метод простой итерации и его модификации, а также методы, ускоряющие сходимость простой итерации (методы DEM [22], GDEM [23]) ко второй — метод Вольфа и его модификации [3, с. 35 1, с. 84] к третьей — квази-ньютоновские методы. Здесь мы рассмотрим только метод Ньютона и квазиньютоновские методы решения систем нелинейных уравнений, идейно очень близкие к методу Ньютона и квазиньютоновским методам оптимизации. В дальнейшем будем говорить, что метод обладает р-шаговым свойством линейного окончания, если он обеспечивает решение системы линейных уравнений при числе шагов, не превышающем р. [c.29]

Другим примером может послужить выбор шага, т. е. величины коэффициента в соотношении (I, 39) при линейном поиске в методе безусловной минимизации, т. е. на втором уровне (см. рис. 20). При применении методов безусловной оптимизации справедливо следующее чем больше шаг вдоль направления, тем лучше. В том случае, когда первый уровень (расчет схемы) является безытерационным (з адача 4), это справедливо и для многоуровневых процедур. В случае, когда первый уровень (расчет схемы) является итерационным (задача 1 для замкнутой схемы), это правило, вообще говоря, неверно. Действительно, при увеличении шага вдоль поискового направления действуют следующие противоположно направленные тенденции. С одной стороны увеличение шага вдоль направления дает хорошие результаты, поскольку уменьшается число итераций на втором уровне, но с другой стороны, увеличение шага ухудшает начальное приближение при решении системы (1, 65), что может привести к уве-л ичению числа итераций на первом уровне. (При очень большом шаге квазиньютоновский метод на этом уровне вообще может перестать сходиться.) Должен существовать некоторый компромисс, при котором шаг вдоль направления будет наилучшим с точки зрения общего числа итераций на первом и втором уровнях. [c.130]

ПОТОК возвращаемый на вход схемы с выхода блока изомеризации. Рецикл можно учесть двумя способами на уровне расчета схемы при итерациях по Xi [см. задачу 1, выражения (I, 64)—(I, 66) ] и при оптимизации, рассматривая его как ограничение типа равенства на разрываемую переменную Xi [см. задачу 4, выражения (I, 79)— (1,81)]. При решении был применен второй способ. Оптимизация проводилась с применением методов последовательной безусловной минимизации метода модифицированной функции Лагранжа (AL) и штрафных функций (PEN), на нижнем уровне которых использовались квазиньютоновские алгоритмы DFP, SSVM. Расчет производных выполнялся разностным способом [см. выражение (1,49)]. В процессе оптимизации для удержания значений варьируемых переменных Xi (напомним, что лг — коэффициенты разделения газовых потоков) между нулем и единицей применялись замены переменных с использованием функции ar tg. Функции, участвующие в постановке задачи оптимизации, наиболее чувствительны (в окрестности л ) к изменению Xi, Xs, л ,. В связи с этим для повышения стабильности получаемых результатов применялось преобразование сжатия по осям л .,, Xi, Xj, Хв, что можно сравнить с процедурой [11, с. 82—83]. В табл. 23 приведены результаты решения рассматриваемой задачи [c.140]

Эквивалентная задача (впрочем, как и исходная) представляет собой задачу на условный экстремум, для решения которой использовалась условная оптимизация метод уровней и метод модифицированной функции Лагранжа. Для выполнения безусловной минимизации составной функции (нижний уровень оптимизации) применялись методы квазиньютоновского типа — DFP, BFGS, SSVM [см. (III, 81), (111,84)1. Расчет производных минимизируемой функции выполнялся как аналитически — с привлечением сопряженного процесса [3, с. 142], так и методом конечных разностей, что позволило провести сравнение результатов оптимизации по эффективности и точности решения . [c.146]