20130302 np algorithms_kulikov_lecture04-05_sat

Алгоритмы для NP-трудных задач
Лекции 4–5: Алгоритмы для задачи
выполнимости

Александр Куликов

Петербургское отделение Математического института им. В. А. Стеклова
Российская академия наук

Computer Science клуб в Екатеринбурге
2-3 марта 2013

А. Куликов (ПОМИ РАН) Алгоритмы для задачи выполнимости 2-3 марта 2013 1 / 38

1 Введение

2 Простые подклассы

3 Примеры свед´ний
е

4 Расщепление

5 Локальный поиск

6 Точные алгоритмы для MAX-2-SAT

7 Приближённый алгоритм для MAX-2-SAT


Содержание

1 Введение


е






Формулировка задачи

Проверить, выполнима ли формула вида

(x ∨ y ∨ z)(x ∨ ¬y )(y ∨ ¬z)(z ∨ ¬x)(¬x ∨ ¬y ∨ ¬z) .


Формулировка задачи

Проверить, выполнима ли формула вида

(x ∨ y ∨ z)(x ∨ ¬y )(y ∨ ¬z)(z ∨ ¬x)(¬x ∨ ¬y ∨ ¬z) .

Задача максимальной выполнимости: выполнить как можно
больше клозов.


Важность

http://www.satisfiability.org/ — The International
Conferences on Theory and Applications of Satisfiability Testing.
http://www.satcompetition.org/ — The international SAT
Competitions web page.
http://www.isa.ewi.tudelft.nl/Jsat/ — Journal on
Satisfiability, Boolean Modeling and Computation.
http://www.satlib.org/ — The Satisfiability Library.
http://www.satlive.org/ — Up-to-date links for the
Satisfiability Problem.
http://www.qbflib.org/ — The Quantified Boolean
Formulas Satisfiability Library.



1 Введение


е






Простые подклассы

Задача выполнимости NP-полна.



В частности, многие NP-трудные задачи очень просто и
естественно формулируются в терминах выполнимости.



В частности, многие NP-трудные задачи очень просто и
естественно формулируются в терминах выполнимости.
Это, однако, не исключает того, что бывают простые
формулы.


2-SAT

В задаче 2-выполнимости каждый клоз входной формулы
содержит не более двух литералов.


2-SAT

Идея: клоз (x ∨ y ) говорит нам, что нельзя одновременно
присваивать значение 0 литералам x и y . Ровно о том же
самом нас просят импликации (¯ ⇒ y ) и (¯ ⇒ x).
x y


2-SAT

x y
Заведём граф на вершинах {x1 , x2 , . . . , x1 , x2 , . . . }. Если в
¯ ¯
исходной формуле есть клоз (xi ∨ xj ), проведём рёбра xi → xj ¯
и xj → xi .
¯


2-SAT

x y
¯ ¯
и xj → xi .
¯
В полученном графе найдём компоненты сильной связности.
Если хотя бы в одной из них содержатся xi и xi , то формула
¯
невыполнима.


2-SAT

x y
¯ ¯
и xj → xi .
¯
В полученном графе найдём компоненты сильной связности.
Если хотя бы в одной из них содержатся xi и xi , то формула
¯
невыполнима.
В противном случае линеаризуем компоненты и выполним
формулу.


Horn SAT

Формулы Хорна: в каждом клозе не более одного
положительного литерала.


Horn SAT

Идея: присвоим всем переменным значение 0; если формула
при этом не выполнилась, значит, есть клоз вида (xi ).


Horn SAT

Присвоим тогда xi = 1 и опять, посмотрим не выполнилась
ли формула.


Horn SAT

Присвоим тогда xi = 1 и опять, посмотрим не выполнилась
ли формула.
Это работает по простой причине: если уж мы присвоили
значение 1 какой-то переменной, значит, мы обязаны были
это сделать.



1 Введение


е






Гамильтонов цикл
В задаче о гамильтоновом цикле нужно проверить, есть ли в
данном графе цикл, проходящий по каждой вершине ровно
один раз.


один раз.
Заведём n2 переменных: xij = true, если вершина i имеет
номер j в гамильтоновом цикле.


один раз.
Клозы:


один раз.
Клозы:
В строке i стоит ровно одна единица:
(xi1 ∨ xi2 ∨ · · · ∨ xin ) (хотя бы одна единица)
{(¯ij ∨ xik )}j,k (не более одной)
x ¯


один раз.
Клозы:
x ¯
Аналогично про столбцы.


один раз.
Клозы:
x ¯
Аналогично про столбцы.
Каждые две последовательные вершины цикла соединены
ребром: если (i, j) ̸∈ E , то они не могут быть
последовательными:
(¯ik ∨ xj(k+1) )
x ¯

Максимальный разрез
В задаче о максимальном разрезе нужно разделить вершины
на две части так, чтобы как можно больше рёбер соединяли
эти две части. Сводить будем к задаче максимальной
выполнимости.


Для каждого ребра (i, j) ∈ E запишем пару клозов:

(xi ∨ xj )(¯i ∨ xj )
x ¯



(xi ∨ xj )(¯i ∨ xj )
x ¯

В полученной формуле будет 2|E | клозов.



(xi ∨ xj )(¯i ∨ xj )
x ¯

Набору переменных естественным образом соответствует
разрез в графе: в одну часть попадают вершины, которым
присвоено значение true, в другую — все остальные.



(xi ∨ xj )(¯i ∨ xj )
x ¯

Набору переменных естественным образом соответствует
разрез в графе: в одну часть попадают вершины, которым
присвоено значение true, в другую — все остальные.
Если переменные в разных частях, то из двух клозов
выполнены оба. Если в одной — то ровно один.

Вершинное покрытие

В задаче о вершинном покрытии нужно отметить в графе
поменьше вершин так, чтобы у каждого ребра хотя бы один
из концов был помечен.



Сведение чуть более хитрое, потому что теперь нужно,
чтобы множество вершин было покрытием. Сводить будем
опять к задаче максимальной выполнимости.



Для каждой вершины i запишем клоз (¯i ).
x



x
Для каждого ребра (i, j) ∈ E запишем клоз (xi ∨ xj ).



x
Для каждого ребра (i, j) ∈ E запишем клоз (xi ∨ xj ).
Ключевая идея: есть оптимальный набор значений, в
котором все 2-клозы выполнены: если какой-то 2-клоз
(xi ∨ xj ) не выполнен, изменим значение переменной xi ; при
этом количество выполненных клозов не уменьшится.



1 Введение


е






(w ∨ x ∨ y ∨ z), (w ∨ x), (x ∨ y ), (y ∨ z), (z ∨ w ), (w ∨ z)
w = 0 w = 1
(x ∨ y ∨ z), (x), (x ∨ y ), (y ∨ z) (x ∨ y ), (y ∨ z), (z), (z)
x = 0 x = 1 z = 0 z = 1
(y ∨ z), (y ), (y ∨ z) (), (y ∨ z) (x ∨ y ), () (x ∨ y ), (y ), ()
y =0 y =1
(z), (z) ()
z =0 z =1
() ()


Правила упрощения

Единичный клоз
Если формула содержит единичный клоз (unit clause), то
входящему в него литералу можно присвоить значение 1:
F = (x ∨ y ∨ ¬z) ∧ (¬x) ∧ (z ∨ ¬y ) ∧ (¬y ∨ ¬x ∨ ¬z)
F [x = 0] = (y ∨ ¬z) ∧ (z ∨ ¬y )


Правила упрощения

Единичный клоз
Если формула содержит единичный клоз (unit clause), то
входящему в него литералу можно присвоить значение 1:
F = (x ∨ y ∨ ¬z) ∧ (¬x) ∧ (z ∨ ¬y ) ∧ (¬y ∨ ¬x ∨ ¬z)
F [x = 0] = (y ∨ ¬z) ∧ (z ∨ ¬y )

Чистый литерал
Если формула содержит чистый литерал, то есть литерал,
отрицание которого не входит в формулу, то ему можно
присвоить значение 1:
F = (x ∨ y ∨ z) ∧ (¬x) ∧ (x ∨ ¬y ) ∧ (¬y ∨ ¬x ∨ z)
F [z = 1] = (¬x) ∧ (x ∨ ¬y )


Правила упрощения (продолжение)

Резолюция
Если F = F ′ ∧ (x ∨ C ) ∧ (¬x ∨ D) и F ′ не содержит ни x, ни ¬x,
заменить F на F ′ ∧ (C ∨ D).
(x ∨ ¬y ∨ z) ∧ (¬z) ∧ (z ∨ u) ∧ (¬u ∨ x ) ∧ (y ∨ z)
¯
↔ (¬y ∨ z ∨ ¬u) ∧ (¬z) ∧ (z ∨ u) ∧ (y ∨ z)


Правила упрощения (продолжение)

Резолюция
Если F = F ′ ∧ (x ∨ C ) ∧ (¬x ∨ D) и F ′ не содержит ни x, ни ¬x,
заменить F на F ′ ∧ (C ∨ D).
(x ∨ ¬y ∨ z) ∧ (¬z) ∧ (z ∨ u) ∧ (¬u ∨ x ) ∧ (y ∨ z)
¯
↔ (¬y ∨ z ∨ ¬u) ∧ (¬z) ∧ (z ∨ u) ∧ (y ∨ z)
(x ∨ y ∨ ¬z) ∧ (¬x) ∧ (x ∨ ¬y ) ∧ (¬y ∨ ¬x ∨ z)
↔ (¬x) ∧ (x ∨ ¬y )


Алгоритм

Алгоритм
DPLL-SAT(F )
применять правила упрощения единичный клоз, чистый
литерал и резолюция до тех пор, пока хотя бы одно из них
применимо
если F не содержит ни одного клоза, выдать “выполнима”
если F содержит пустой клоз, выдать “невыполнима”
если F содержит литерал, входящий в нее хотя бы два раза
положительно и хотя бы два раза отрицательно, положить x
равным этому литералу; в противном случае взять в
качестве x любой литерал
вернуть (DPLL-SAT(F [x = 1]) or DPLL-SAT(F [x = 0]))


Анализ

Лемма
Время работы алгоритма DPLL-SAT есть O * (1.415K ), где K —
кол-во клозов входной формулы.

Доказательство
достаточно показать, что в каждой ветке удаляется хотя бы
два клоза: T (K ) ≤ T (K − 2) + T (K − 2) + poly(K )


Анализ

Лемма

это ясно, если нашёлся литерал, который входит в формулу
хотя бы дважды и положительно и отрицательно


Анализ

Лемма

это ясно, если нашёлся литерал, который входит в формулу
хотя бы дважды и положительно и отрицательно
назовём (i, j)-литералом литерал, входящий в формулу
ровно i раз положительно и ровно j раз отрицательно


Доказательство (продолжение)

ясно, что упрощённая формула не содержит (0, k)- и
(k, 0)-литералов (это как раз чистые литералы), а также
(1, 1)-литералов (они удаляются резольвированием)



ясно, что упрощённая формула не содержит (0, k)- и
(k, 0)-литералов (это как раз чистые литералы), а также
(1, 1)-литералов (они удаляются резольвированием)
значит, осталось рассмотреть случай, когда формула
состоит только из (1, 2)- и (2, 1)-литералов



рассмотрим произвольный литерал x:

F = (x ∨ . . . ) ∧ (x ∨ . . . ) ∧ (¬x ∨ . . . ) ∧ . . .




F = (x ∨ . . . ) ∧ (x ∨ . . . ) ∧ (¬x ∨ . . . ) ∧ . . .

поскольку F не содержит единичных клозов, в клозе
(¬x ∨ . . . ) есть еще хотя бы один литерал; назовем его y




F = (x ∨ . . . ) ∧ (x ∨ . . . ) ∧ (¬x ∨ . . . ) ∧ . . .

в F [x = 0] y будет (2, 0)-, (0, 2)- или (1, 1)-литералом




F = (x ∨ . . . ) ∧ (x ∨ . . . ) ∧ (¬x ∨ . . . ) ∧ . . .

в любом из этих случаев y будет удален правилами
упрощения, что повлечет за собой удаление хотя бы одного
клоза




F = (x ∨ . . . ) ∧ (x ∨ . . . ) ∧ (¬x ∨ . . . ) ∧ . . .

в любом из этих случаев y будет удален правилами
упрощения, что повлечет за собой удаление хотя бы одного
клоза
итак, и F [x = 1], и F [x = 0] (после упрощения) содержат
хотя бы на два клоза меньше, чем F



1 Введение


е






Расстояние Хэмминга для наборов

Набор истинностных значений переменным формулы — это
последовательность битов длины n, где n — количество
переменных формулы. Всего, таким образом, есть 2n
различных наборов.



Хэммингово расстояние двух наборов — количество
переменных, которым эти наборы присваивают разные
значения.



Хэммингово расстояние двух наборов — количество
переменных, которым эти наборы присваивают разные
значения.
Для набора t ∈ {0, 1}n и числа d под Хэмминговым шаром
ℋ(t, d) (с центром в t и радиуса d) будем понимать
множество всех наборов, находящихся на расстоянии не
более чем d от t.


Поиск в шаре

Для формулы F в 3-КНФ поиск выполняющего набора в шаре
ℋ(t, d) может быть осуществлён за время 3d :
если t не выполняет F , возьмём произвольный
невыполненный клоз C = (x1 ∨ x2 ∨ x3 );



рассмотрим три набора, полученных из t изменением
значений переменных x1 , x2 и x3 ;



хотя бы один из них будет ближе к выполняющему набору.



хотя бы один из них будет ближе к выполняющему набору.

Алгоритм для 3-SAT со временем работы O * (3n/2 ): проверить,
есть ли выполняющий набор в шарах ℋ(0n , n/2), ℋ(1n , n/2).



1 Введение


е






Задача о максимальном разрезе

Мы рассмотрим точный алгоритм в применении к частному
случаю задачи MAX-2-SAT — задаче о максимальном разрезе (в
которой требуется разбить множество вершин графа на две
части так, чтобы между ними было как можно больше рёбер).


Поиск треугольников в графе

Алгоритм будет основан на быстрой проверке наличия
треугольника (3-клики) в графе:


Поиск треугольников в графе

Алгоритм будет основан на быстрой проверке наличия
треугольника (3-клики) в графе: возведём матрицу смежности в
куб и посмотрим, есть ли на диагонали ненулевое число. Время
работы: O(nw ), где w ≈ 2.37 — экспонента умножения матриц.


Основные идеи алгоритма

Дан граф G на n вершинах.
Построим трёхдольный граф H на 3 · 2n/3 вершинах со
следующим свойством: исходный граф G имеет разрез веса
w тогда и только тогда, когда H содержит 3-клику веса w .
Используем быстрое умножение матриц для поиска 3-клики.
Время работы: 2 𝜔n/3 ≈ 1.732n .


Вспомогательный граф

H G



это три части вершин исходного графа G

H G



это три доли вершин вспомогательного огромного графа H

H G



для каждого Xi ⊆ Vi создаём вершину в соответствующей доле H

V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3



чему равен вес разреза X1 ∪ X2 ∪ X3 в G ?

V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3



V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3



V1 ∖ X1

X1

X1
H G
V2 ∖ X2 V3 ∖ X3

X2 X3 X2 X3

итак, вес треугольника (H1 , H2 , H3 ) в H
равен весу разреза X1 ∪ X2 ∪ X3 в G


1 Введение


е






Положительно полуопределённые матрицы

Определение
Симметрическая матрица называется положительно
полуопределённой, если все её собственные числа
неотрицательны. Обозначение: A ⪰ 0.


Положительно полуопределённые матрицы

Определение
Симметрическая матрица называется положительно
полуопределённой, если все её собственные числа
неотрицательны. Обозначение: A ⪰ 0.

Лемма
Симметрическая матрица A ∈ Rn×n является положительно
полуопределённой тогда и только тогда, когда A представима в
виде U T U для некоторой матрицы U ∈ Rn×n . Другими словами,
найдутся вектора u1 , . . . , un ∈ Rn (столбцы U), такие что
Aij = uiT uj .


Задача полуопределённого программирования
Задача полуопределённого программирования (ПП) похожа на
задачу линейного программирования (ЛП). Для задачи ЛП
существует полиномиальный алгоритм. Для задачи ПП
существует алгоритм, находящий решение с аддитивной ошибкой
𝜀 за время, полиномиальное от размера входных данных и от
log 1𝜀 .

ЛП ПП
максимизировать c T x ⟨C , X ⟩
при условии aiT x ≤ bi ⟨Ai , X ⟩ ≤ bi
x ≥0 X ⪰0
где x ∈ Rn , ai ∈ Rn X ∈ Rn×n , Ai ∈ Rn×n
bi ∈ R bi ∈ R


Формулировка задачи о максимальном разрезе
в виде целочисленной ПП

Сопоставим каждой вершине vi ∈ V число yi , где
{︃
−1, vi — белая вершина,
yi =
1, vi — чёрная вершина.

Тогда ребро (vi , vj ) принадлежит разрезу тогда и только тогда,
когда yi yj = −1. Величина же разреза вычисляется как
∑︁ 1 − yi yj
f (M) = wij .
i<j
2


Релаксация

Будем искать оптимум на сфере большей размерности:

max g ((v1 , . . . , vn )),
v1 ,...,vn ∈S n−1

где
∑︁ 1 − v T vj
i
g ((v1 , . . . , vn )) = wij ,
i<j
2

S n−1 — n-мерная единичная сфера. Ясно, что максимальное
значение является верхней оценкой на величину максимального
разреза.


Возврат к 1 и -1

Рассмотрим решение (vi )i новой задачи. Проведем через начало
координат случайным образом гиперплоскость T размерности
n − 1, которая разделит пространство на два полупространства A
и B. После чего определим yi так:
{︃
1, vi ∈ A,
yi =
−1, vi ∈ B.

Иначе говоря, выберем случайным образом вектор u ∈ S n и
построим yi так: {︃
1, u T vi ≥ 0,
yi =
−1, u T vi < 0.


𝜃

Гиперплоскость, проходящая через Вероятность того, что случайно про-
начало координат, делит сферу на ведённая через начало координат ги-
две части. Мы разбиваем вектора в перплоскость разделит вектора, равна
соответствии с тем, в какую половину отношению угла между ними и 𝜋.
этносительно этой гиперплоскости
эти вектора попали.


∑︁ 1 − yi yj ∑︁ 𝜃ij
wij = wij ,
i<j
2 i<j
𝜋
∑︁ 1 − v T vj ∑︁ 1 − cos 𝜃ij
i
wij = wij .
i<j
2 i<j
2

arccos(x)/𝜋
arccos(x)/𝜋 (1−x)/2

(1 − x)/2 0.878
1 1.5

0.5 1

0 0.5
−1 −0.5 0 0.5 1 −1 −0.5 0 0.5


Спасибо!

Спасибо за внимание!


20130302 np algorithms_kulikov_lecture04-05_sat

More Related Content

What's hot (20)

Similar to 20130302 np algorithms_kulikov_lecture04-05_sat (10)

More from Computer Science Club (20)

20130302 np algorithms_kulikov_lecture04-05_sat