Градиентная оптимизация при наличии ограничений

Такая задача оптимизации решается с помощью методов нелинейного математического программирования. Очень часто методы определения экстремума нелинейной функции при наличии ограничений на оптимизируемые параметры делят по признаку организации процесса поиска на методы слепого поиска и методы направленного поиска. К методам слепого поиска относятся [30] метод сплошного перебора вариантов (метод прямого упорядочения вариантов по критерию эффективности) и метод статистических испытаний (метод Монте-Карло) [24]. К методам направленного поиска относятся градиентный метод, метод наискорейшего спуска, метод покоординатного спуска и другие. [c.360]

Аналитические методы являются классическими методами определения экстремального значения функции (минимума или максимума). Они применяются, когда оптимизируемые функции заданы аналитически и число независимых переменных невелико. При большом числе переменных возникает так называемый барьер многомерности и применение аналитических методов становится затруднительным. Затрудняет применение аналитических методов также наличие ограничений. Вследствие этого использование аналитических методов в их классическом виде на практике довольно ограничено. Краткая характеристика этих методов приведена ниже. Принцип максимума для удобства изложения описан после характеристики градиентных методов оптимизации. [c.141]

Наличие ограничений усложняет задачу оптимизации, для ее решения используют более сложные и трудоемкие методы, в том числе метод прямого перебора метод неопределенных множителей Лагранжа градиентные методы (наискорейшего спуска) максимального элемента, динамического программирования, ветвей и границ и др. [c.773]