Решение задач линейного программирования симплекс методом

Последовательность  вычислений симплекс-методом можно  разделить на две основные фазы:

1. нахождение исходной вершины множества допустимых решений,
2. последовательный переход от одной вершины к другой, ведущий к оптимизации значения целевой функции.

При этом в некоторых  случаях исходное решение очевидно или его определение не требует  сложных вычислений, например, когда  все ограничения представлены неравенствами  вида «меньше или равно» (тогда  нулевой вектор совершенно точно  является допустимым решением, хотя и, скорее всего, далеко не самым оптимальным). В таких задачах первую фазу симплекс-метода можно вообще не проводить. Симплекс-метод, соответственно, делится на однофазный и двухфазный.

[править] Алгоритм симплекс-метода

[править] Усиленная постановка задачи

Рассмотрим следующую  задачу линейного программирования:

Теперь поставим эту задачу в эквивалентной усиленной форме. Необходимо максимизировать Z, где:

Здесь x — переменные из исходного линейного функционала, x_s — новые переменные, дополняющие старые таким образом, что неравенство переходит в равенство, c — коэффициенты исходного линейного функционала, Z — переменная, которую необходимо максимизировать. Полупространства и в пересечении образуют многогранник, представляющий множество допустимых решений. Разница между числом переменных и уравнений даёт нам число степеней свободы. Проще говоря, если мы рассматриваем вершину многогранника, то это число рёбер, по которым мы можем продолжать движение. Тогда мы можем присвоить этому числу переменных значение 0 и назвать их «непростыми». Остальные переменные при этом будут вычисляться однозначно и называться «простыми». Полученная точка будет вершиной в пересечении соответствующих непростым переменным гиперплоскостей. Для того, чтобы найти т. н. начальное допустимое решение (вершину, из которой мы начнём движение), присвоим всем изначальным переменным x значение 0 и будем их считать непростыми, а все новые будем считать простыми. При этом начальное допустимое решение вычисляется однозначно : .

[править] Алгоритм

Теперь приведём шаги алгоритма. На каждом шаге мы будем  менять множества простых и непростых  векторов (двигаться по рёбрам), и  матрица будет иметь следующий  вид:

где c_B — коэффициенты вектора c соответствующие простым переменным (переменным x_s соответствуют 0), B — столбцы , соответствующие простым переменным. Матрицу, образованную оставшимися столбцами обозначим D. Почему матрица будет иметь такой вид поясним в описании шагов алгоритма.

Первый шаг.

Выбираем начальное  допустимое значение, как указано  выше. На первом шаге B — единичная матрица, так как простыми переменными являются x_s. c_B — нулевой вектор по тем же причинам.

Второй шаг

Покажем, что в  выражении  только непростые переменные имеют ненулевой коэффициент. Заметим, что из выражения Ax+x_s=b простые переменные однозначно выражаются через непростые, так как число простых переменных равно числу уравнений. Пусть x ' — простые, а x ' ' — непростые переменные на данной итерации. Уравнение Ax+x_s=b можно переписать, как Bx '+Dx ' '=b. Умножим его на слева: . Таким образом мы выразили простые переменные через непростые, и в выражении , эквивалентному левой части равенства, все простые переменные имеют единичные коэффициенты. Поэтому, если прибавить к равенству равенство , то в полученном равенстве все простые переменные будут иметь нулевой коэффициент — все простые переменные вида x сократятся, а простые переменные вида x_s не войдут в выражение .

Выберем ребро, по которому мы будем перемещаться. Поскольку  мы хотим максимизировать Z, то необходимо выбрать переменную, которая будет более всех уменьшать выражение

.

Для этого выберем  переменную, которая имеет наибольший по модулю отрицательный коэффициент. Если таких переменных нет, то есть все коэффициенты этого выражения  неотрицательны, то мы пришли в искомую  вершину и нашли оптимальное  решение. В противном случае начнём увеличивать эту непростую переменную, то есть перемещаться по соответствующему ей ребру. Эту переменную назовём входящей.

Третий шаг

Теперь необходимо понять, какая простая переменная первой обратится в ноль по мере увеличения входящей переменной. Для  этого достаточно рассмотреть систему:

При фиксированных  значениях непростых переменных система однозначно разрешима относительно простых, поэтому мы можем определить, какая из простых переменных первой достигнет нуля при увеличении входящей. Эту переменную назовем выходящей. Это будет означать, что мы натолкнулись на новую вершину. Теперь входящую и выходящую переменную поменяем местами — входящая «войдёт» в простую, а выходящая из них «выйдет» в непростые. Теперь перепишем матрицу B и вектор c_B в соответствии с новыми наборами простых и непростых переменных, после чего вернёмся ко второму шагу. x''

Поскольку число  вершин конечно, то алгоритм однажды закончится. Найденная вершина будет являться оптимальным решением.

[править] Двухфазный симплекс-метод

[править] Причины использования

Если в условии  задачи линейного программирования не все ограничения представлены неравенствами типа «≤», то далеко не всегда нулевой вектор будет допустимым решением. Однако каждая итерация симплекс-метода является переходом от одной вершины  к другой, и если неизвестно ни одной  вершины, алгоритм вообще не может быть начат.

Процесс нахождения исходной вершины не сильно отличается от однофазного симплекс-метода, однако может в итоге оказаться сложнее, чем дальнейшая оптимизация.

[править] Модификация ограничений

Все ограничения  задачи модифицируются согласно следующим  правилам:

• ограничения типа «≤» переводятся на равенства созданием дополнительной переменной с коэффициентом «+1». Эта модификация проводится и в однофазном симплекс-методе, дополнительные переменные в дальнейшем используются как исходный базис.
• ограничения типа «≥» дополняются одной переменной с коэффициентом «−1». Поскольку такая переменная из-за отрицательного коэффициента не может быть использована в исходном базисе, необходимо создать ещё одну, вспомогательную, переменную. Вспомогательные переменные всегда создаются с коэффициентом «+1».
• ограничения типа «=» дополняются одной вспомогательной переменной.

Соответственно, будет  создано некоторое количество дополнительных и вспомогательных переменных. В  исходный базис выбираются дополнительные переменные с коэффициентом «+1»  и все вспомогательные. Осторожно: решение, которому соответствует этот базис, не является допустимым.

[править] Различия между дополнительными и вспомогательными переменными

Несмотря на то, что и дополнительные, и вспомогательные  переменные создаются искусственно и используются для создания исходного  базиса, их значения в решении сильно отличаются:

• дополнительные переменные сообщают, насколько соответствующее им ограничение «недоиспользовано». Значение дополнительной переменной, равное нулю, соответствует равенству значений правых и левых частей ограничения.
• вспомогательные переменные сообщают, насколько данное условие далеко от допустимого (относительно конкретного ограничения). Если значение вспомогательной переменной больше нуля, то данное решение не выполняет определённое ограничение, а значит не является допустимым.

То есть ненулевое  значение дополнительной переменной может (но не должно) сигнализировать о неоптимальности решения. Ненулевое значение вспомогательной переменной сигнализирует о недопустимости решения.

[править] Фазы решения

После того, как  было модифицировано условие, создаётся вспомогательная целевая функция. Если вспомогательные переменные были обозначены, как y_i, i∈{1, .., k}, то вспомогательную функцию определим, как

.

После этого проводится обыкновенный симплекс-метод относительно вспомогательной целевой функции. Поскольку все вспомогательные  переменные увеличивают значение , в ходе алгоритма они будут поочерёдно выводится из базиса, при этом после каждого перехода новое решение будет всё ближе к множеству допустимых решений.

Когда будет найдено  оптимальное значение вспомогательной  целевой функции, могут возникнуть две ситуации:

• оптимальное значение больше нуля. Это значит, что как минимум одна из вспомогательных переменных осталась в базисе. В таком случае можно сделать вывод, что допустимых решений данной задачи линейного программирования не существует.
• оптимальное значение равно нулю. Это означает, что все вспомогательные переменные были выведены из базиса, и текущее решение является допустимым.

Во втором случае мы имеем допустимый базис, или, иначе  говоря, исходное допустимое решение. Можно проводить дальнейшую оптимизацию  с учётом исходной целевой функции, при этом уже не обращая внимания на вспомогательные переменные. Это и является второй фазой решения.

[править] Модифицированный симплекс-метод

В модифицированном методе матрица

не пересчитывается, хранится и пересчитывается только матрица  . В остальном алгоритм похож на вышеописанный.

1. Вычисляем двойственные  переменные 

2. Проверка оптимальности. преобразуется в .

Проверка заключается  в вычислении для всех столбцов . Столбец со значением < 0 можно вводить в базис.

Часто выбирают минимальное  значение, но для этого нужно перебрать  все столбцы.

Чаще выбирают значение, меньшее некоторого заданного значения

Если такого столбца  не обнаружится, за принимается максимальное найденное абсолютное значение и соответствующий столбец вводится в базис.

3. Определение выводимого.

Пусть - вводимый столбец, соответствующий переменной Базиный план - это решение системы Увеличиваем .

Умножим слева на , т.е. .

Здесь - базисный план, - разложение вводимого столбца по базису.

Находим максимальное значение , при котором все значения не отрицательны. Если может быть взято как угодно велико, решение не ограничено. В противном случае один из элементов выйдет на нулевое значение. Выводим соответствующий столбец из базиса.

4. Пересчет опорного(базисного) плана.

Вычисляем новый  опорный план по уже приведенной  формуле  с найденным значением .

5. Пересчитываем  обратную к базисной  .

Пусть - выводимый столбец.

Матрица B представима  в виде

где - базисная матрица без выводимого столбца.

После замены столбца  базисная матрица будет иметь  вид 

Нам нужно найти  матрицу  , такую что

=> => =>

Откуда 

Замечание.

При пересчете матрицы  накапливаются ошибки округления. Во избежание получения больших ошибок время от времени матрица пересчитывается полностью. Этот процесс называется "повторением".

[править] Мультипликативный вариант симплекс-метода

В мультипликативном  варианте матрица  не хранится, хранятся лишь множители

При решении экономических  задач часто матрица ограничений разреженная, в таком случае мультипликативный вариант получает дополнительные преимущества - можно хранить мультипликаторы в сжатом виде (не хранить нули).

[править] Другие варианты симплекс-метода

Во избежание  накопления ошибок округления может  использоваться LU-разложение матрицы.

При подавляющем  числе ограничений типа "неравенство" может быть использован метод переменного базиса.

Метод основан на том, что базисная матрица может  быть представлена в виде

Обратная к ней имеет вид

При относительно небольших размерах матрицы  остальная часть матрицы может не храниться.

Таким подходом удается  решить задачи с десятками миллионов  строк ограничений (например, из теории игр).

[править] Двойственный симплекс-метод

Для реализации двойственного  метода необходимо перейти от задачи на минимум к задаче на максимум (или наоборот) путем транспонирования матрицы коэффициентов. При переходе от задачи на минимум целевая функция примет вид:

при ограничениях

.

Теорема двойственности. Если из пары двойственных задач одна обладает оптимальным планом, то и другая имеет решение, причем экстремальные значения линейных функций этих задач равны.

Если линейная функция  одной из задач не ограничена, то другая не имеет решения.

[править] Вычислительная эффективность

Симплекс-метод  удивительно эффективен на практике, но в 1972 Кли и Минти ^[1] привели пример, в котором симплекс-метод перебирал все вершины симплекса, что показывает экспоненциальную сходимость метода в худшем случае. С тех пор для каждого варианта метода был найден пример, на котором метод вел себя исключительно плохо.

Наблюдения и  анализ эффективности метода в практических приложениях привело к развитию других способов измерения эффективности.

Симплекс-метод  имеет среднюю полиномиальную сходимость при широком выборе распределения значений в случайных матрицах.^[2][3]

Вычислительная  эффективность оценивается обычно при помощи двух параметров:

1) Числа итераций, необходимого для получения решения;

2) Затрат машинного  времени.