20090913 algorithmsfornphardproblems kulikov_lecture01

Алгоритмы для NP-трудных задач
Лекция 1: Обзор

А. Куликов

Computer Science клуб при ПОМИ
http://logic.pdmi.ras.ru/∼infclub/

А. Куликов (Computer Science клуб) 1. Обзор 1 / 24

План лекции

1 P и NP неформально




2 Точные алгоритмы
Задача выполнимости
Задача о максимальном разрезе


Цель первых двух лекций

Привести несколько красивых алгоритмов, не особо
вдаваясь в определения и доказательства. Все
формальности будут дальше в курсе.


P и NP неформально






Классы P и NP




Задача поиска (search problem) задаётся алгоритмом , который
получает на вход условие I и кандидата на решение S и имеет
время работы, ограниченное некоторым полиномом от |I |. S
называется решением (solution), если и только если
(S, I ) = true.




(S, I ) = true.
NP — класс всех задач поиска. Другими словами, NP — класс
всех задач, решение для которых может быть быстро проверено.




(S, I ) = true.
P — класс задач поиска, решение для которых может быть быстро
найдено.




(S, I ) = true.
P — класс задач поиска, решение для которых может быть быстро
найдено.
P̸=NP? Другими словами, существуют ли задачи, решение для
которых может быть быстро проверено, но не может быть быстро
найдено? Это один из самых важных и самых сложных открытых
вопросов Theoretical Computer Science.



Сведения



Сведения

Говорим, что задача A сводится к (reduces to) задаче B, и пишем
A → B, если по эффективному алгоритму для задачи B можно
построить эффективный алгоритм для задачи A.



Сведения

По-другому: если A решить сложно и A → B, то и B решить
сложно. То есть B не может быть сильно проще A.



Сведения

Задача поиска называется NP-полной (NP-complete), если к ней
сводятся все задачи поиска. То есть это универсальный
притягивающий объект в классе NP.



Сведения

Задача поиска называется NP-полной (NP-complete), если к ней
сводятся все задачи поиска. То есть это универсальный
притягивающий объект в классе NP.
Удивительно (на первый взгляд), что такие задачи вообще
существуют.



P vs NP



P vs NP

Большинство исследователей считают, что P̸=NP.



P vs NP

Есть, впрочем, и другие мнения:
http://www.win.tue.nl/∼gwoegi/P-versus-NP.htm



P vs NP

Есть, впрочем, и другие мнения:
http://www.win.tue.nl/∼gwoegi/P-versus-NP.htm
В предположении P̸=NP не существует полиномиальных
алгоритмов для NP-трудных задач.



Мотивация



Мотивация

Многим приложениям требуется решать NP-трудные задачи, даже
несмотря на то, что решения могут быть найдены только для
весьма маленьких размеров входов.



Мотивация

Лучшее понимание NP-трудных задач.



Мотивация

Новые интересные комбинаторные и алгоритмические задачи.



Мотивация

Новые интересные комбинаторные и алгоритмические задачи.
Общая теория.


Точные алгоритмы






Точные алгоритмы для NP-трудных задач

Алгоритмы, находящие точное решение для данной
задачи за время c n для достаточно малой константы c.



Мотивация

Представим, что у нас есть алгоритм сложности 1.7n для некоторой
задачи, который за “разумное” время позволяет решать примеры этой
задачи размера не более n0 .



Мотивация

The “hardware” approach: возьмем в 10 раз более быстрый
компьютер. Теперь мы можем решать примеры размера n0 + 4.



Мотивация

The “brainware” approach: придумаем алгоритм сложности 1.3n .
Это позволит нам решать примеры размера 2 · n0 .



Мотивация

The “brainware” approach: придумаем алгоритм сложности 1.3n .
Это позволит нам решать примеры размера 2 · n0 .
Другими словами, уменьшение основания экспоненты времени работы
алгоритма увеличивает размер решаемых за данное время примеров в
константное число раз, в то время как использование более быстрого
компьютера способно увеличить размер лишь на константу.


Точные алгоритмы Задача выполнимости






Пример

Формула

(x ∨ y ∨ z) ∧ (x ∨ y ) ∧ (y ∨ z ) ∧ (z ∨ x ) ∧ (¯ ∨ y ∨ z )
¯ ¯ ¯ x ¯ ¯

невыполнима. То есть переменным x, y , z нельзя присвоить
истинностные значения так, чтобы значение формулы стало истиной.




Определение
Задача пропозициональной выполнимости (Boolean satisfiability
problem, SAT): определить, выполнима ли данная формула в
конъюнктивной нормальной форме, то есть существует ли набор
булевых значений переменным формулы, выполняющий формулу.
Такой набор называют выполняющим (satisfying assignment), а
формулу, для которой такой набор существует, — выполнимой
(satisfiable).



Хэммингово расстояние между наборами




Набор истинностных значений переменным формулы — это
последовательность битов длины n, где n — количество
переменных формулы. Всего, таким образом, есть 2n различных
наборов.




наборов.





наборов.

Хэммингово расстояние двух наборов — количество переменных,
которым эти наборы присваивают разные значения.




наборов.

Хэммингово расстояние двух наборов — количество переменных,
которым эти наборы присваивают разные значения.
Для набора t ∈ {0, 1}n и числа d под Хэмминговым шаром
ℋ(t, d ) (с центром в t и радиуса d ) будем понимать множество
всех наборов, находящихся на расстоянии не более чем d от t.



Поиск в шаре

Для формулы F в 3-КНФ поиск выполняющего набора в шаре ℋ(t, d )
может быть осуществлен за время 3d :




если t не выполняет F , возьмем произвольный невыполненный
клоз C = (x1 ∨ x2 ∨ x3 )




клоз C = (x1 ∨ x2 ∨ x3 )
рассмотрим три набора, полученных из t изменением значений
переменных x1 , x2 и x3




клоз C = (x1 ∨ x2 ∨ x3 )
рассмотрим три набора, полученных из t изменением значений
переменных x1 , x2 и x3
хотя бы один из них будет ближе к выполняющему набору


√ n
3 -Алгоритм

Алгоритм
Simple-3-SAT(F )


√ n
3 -Алгоритм

Алгоритм
Simple-3-SAT(F )
проверить, есть ли выполняющий набор в шарах ℋ(0n , n/2),
ℋ(1n , n/2)


√ n
3 -Алгоритм

Алгоритм
Simple-3-SAT(F )
ℋ(1n , n/2)

Лемма
√ n
Время работы алгоритма Simple-3-SAT есть 3 , где n = n(F ) —
число переменных формулы F .


√ n
3 -Алгоритм

Алгоритм
Simple-3-SAT(F )
ℋ(1n , n/2)

Лемма
√ n
Время работы алгоритма Simple-3-SAT есть 3 , где n = n(F ) —
число переменных формулы F .

Доказательство
Понятно, что если выполняющий набор есть, то он содержится в
одном из рассмотренных двух шаров.


Точные алгоритмы Задача о максимальном разрезе






3-клика

Задача о 3-клике (3-clique problem) заключается в проверке наличия
3-клики (то есть полного подграфа на трех вершинах) во входном
графе.



3-клика

графе.

Алгоритм
Matrix-Clique(G )



3-клика

графе.

Алгоритм
Matrix-Clique(G )
построить матрицу смежности A графа G



3-клика

графе.

Алгоритм
Matrix-Clique(G )
посчитать A3



3-клика

графе.

Алгоритм
Matrix-Clique(G )
вернуть “да”, если на диагонали построенной матрицы есть хотя
бы одна единица



3-клика

графе.

Алгоритм
Matrix-Clique(G )
вернуть “да”, если на диагонали построенной матрицы есть хотя
бы одна единица
вернуть “нет”



Анализ алгоритма

Лемма
Алгоритм выдает правильный ответ за время O(n ), где ≈ 2.376 —
экспонента перемножения матриц (matrix multiplication exponent).




Лемма





Лемма

важное свойство матрицы смежности: Ak [i, j] есть количество
путей длины k из вершины i в вершину j в графе G (легко
доказать по индукции)




Лемма

3-клика — это путь длины 3 из вершины в саму себя




Лемма

3-клика — это путь длины 3 из вершины в саму себя
для вычисления A3 требуется два умножения матриц




Задача о максимальном разрезе (maximum cut proble„ MAX-CUT)
заключается в нахождении такого разбиения вершин графа на две
части, при котором количество ребер, концы которых принадлежат
разным частям, максимально.





Основные идеи сведения максимального разреза к 3-клике
Дан граф G на n вершинах.





Построим трехдольный граф H на 3 · 2n/3 вершинах со
следующим свойством: исходный граф G имеет разрез веса w
тогда и только тогда, когда H содержит 3-клику веса w .





Используем быстрое умножение матриц для поиска 3-клики.





Используем быстрое умножение матриц для поиска 3-клики.
Сложность: 2n/3 ≈ 1.732n .



Вспомогательный граф

H G




это три части вершин исходного графа G

H G




это три доли вершин вспомогательного огромного графа H

H G




для каждого Xi ⊆ Vi создаём вершину в соответствующей доле H

V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3




чему равен вес разреза X1 ∪ X2 ∪ X3 в G ?

V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3




V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3




V1 ∖ X1

X1
итак, вес треугольника (H1 , H2 , H3 ) в H равен
весу разреза X1 ∪ X2 ∪ X3 в G
X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
разбить множество вершин V на три равные части V1 , V2 , V3



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
построить вспомогательный трехдольный граф H: i-я доля Ti
содержит все возможные подмножества Vi ; вес ребра между X1 и
X2 равен

w (V2 ∖ X2 , X1 ) + w (V1 ∖ X1 , X1 ) + w (V1 ∖ X1 , X2 )

(для остальных пар долей — аналогично)



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
X2 равен

w (V2 ∖ X2 , X1 ) + w (V1 ∖ X1 , X1 ) + w (V1 ∖ X1 , X2 )

для всех 1 ≤ w12 , w13 , w23 ≤ |EG |



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
X2 равен

w (V2 ∖ X2 , X1 ) + w (V1 ∖ X1 , X1 ) + w (V1 ∖ X1 , X2 )

для всех 1 ≤ w12 , w13 , w23 ≤ |EG |
оставить только ребра веса wij между долями Ti и Tj



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
X2 равен

w (V2 ∖ X2 , X1 ) + w (V1 ∖ X1 , X1 ) + w (V1 ∖ X1 , X2 )

для всех 1 ≤ w12 , w13 , w23 ≤ |EG |
проверить, есть ли в модифицированном графе H 3-клика



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
X2 равен

w (V2 ∖ X2 , X1 ) + w (V1 ∖ X1 , X1 ) + w (V1 ∖ X1 , X2 )

для всех 1 ≤ w12 , w13 , w23 ≤ |EG |
если да, то в G есть разрез веса w12 + w13 + w23



Алгоритм
Алгоритм
Matrix-MAX-CUT(G )
X2 равен

w (V2 ∖ X2 , X1 ) + w (V1 ∖ X1 , X1 ) + w (V1 ∖ X1 , X2 )

для всех 1 ≤ w12 , w13 , w23 ≤ |EG |
если да, то в G есть разрез веса w12 + w13 + w23
вернуть максимальную найденную стоимость разреза


Спасибо за внимание!


20090913 algorithmsfornphardproblems kulikov_lecture01

More Related Content

Viewers also liked (20)

Similar to 20090913 algorithmsfornphardproblems kulikov_lecture01 (11)

More from Computer Science Club (20)

20090913 algorithmsfornphardproblems kulikov_lecture01