1. с/к “Эффективные алгоритмы”
Лекция 2: Приближенные алгоритмы
А. Куликов
Computer Science клуб при ПОМИ
http://logic.pdmi.ras.ru/∼infclub/
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 1 / 15

2. План лекции
1 Кратчайшая надпоследовательность
Пример работы алгоритма
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 2 / 15

3. Приближенный алгоритм
Определение
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 3 / 15

4. Приближенный алгоритм
Определение
Приближенный алгоритм A имеет относительную оценку точности
(relative performance guarantee) ������, если для любого входа I
выполняется неравенство
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 3 / 15

5. Приближенный алгоритм
Определение
Приближенный алгоритм A имеет относительную оценку точности
(relative performance guarantee) ������, если для любого входа I
выполняется неравенство
A(I )/OPT(I ) ≥ ������ для максимизационной задачи;
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 3 / 15

6. Приближенный алгоритм
Определение
Приближенный алгоритм A имеет относительную оценку точности
(relative performance guarantee) ������, если для любого входа I
выполняется неравенство
A(I )/OPT(I ) ≥ ������ для максимизационной задачи;
A(I )/OPT(I ) ≤ ������ для минимизационной задачи.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 3 / 15

7. Приближенный алгоритм
Определение
Приближенный алгоритм A имеет относительную оценку точности
(relative performance guarantee) ������, если для любого входа I
выполняется неравенство
A(I )/OPT(I ) ≥ ������ для максимизационной задачи;
A(I )/OPT(I ) ≤ ������ для минимизационной задачи.
Такие алгоритмы мы называем ������-приближенными.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 3 / 15

8. Приближенный алгоритм
Определение
Приближенный алгоритм A имеет относительную оценку точности
(relative performance guarantee) ������, если для любого входа I
выполняется неравенство
A(I )/OPT(I ) ≥ ������ для максимизационной задачи;
A(I )/OPT(I ) ≤ ������ для минимизационной задачи.
Такие алгоритмы мы называем ������-приближенными.
Замечание
Для оптимизационных задач ������ ≤ 1, для минимизационных — ������ ≥ 1.
Алгоритм тем лучше, чем ближе ������ к 1.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 3 / 15

9. План лекции
1 Кратчайшая надпоследовательность
Пример работы алгоритма
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 4 / 15

10. Задача о кратчайшей общей надпоследовательности
Определение
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 5 / 15

11. Задача о кратчайшей общей надпоследовательности
Определение
Дано множество строк {s1 , . . . , sn }.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 5 / 15

12. Задача о кратчайшей общей надпоследовательности
Определение
Дано множество строк {s1 , . . . , sn }.
Задача о кратчайшей общей надпоследовательности (shortest
common superstring) заключается в нахождении самой короткой
строки u, которая содержит в качестве подстроки каждую из si .
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 5 / 15

13. Задача о кратчайшей общей надпоследовательности
Определение
Дано множество строк {s1 , . . . , sn }.
Задача о кратчайшей общей надпоследовательности (shortest
common superstring) заключается в нахождении самой короткой
строки u, которая содержит в качестве подстроки каждую из si .
Факт
Задача является NP-трудной.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 5 / 15

14. Задача о покрытии множествами
Определение
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 6 / 15

15. Задача о покрытии множествами
Определение
Дано множество U = {u1 , . . . , un } и семейство его подмножеств
ℱ = {S1 , . . . , Sk }, Si ⊆ U.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 6 / 15

16. Задача о покрытии множествами
Определение
Дано множество U = {u1 , . . . , un } и семейство его подмножеств
ℱ = {S1 , . . . , Sk }, Si ⊆ U.
⋃︀
В сумме все подмножества покрывают U: U = S∈ℱ S.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 6 / 15

17. Задача о покрытии множествами
Определение
Дано множество U = {u1 , . . . , un } и семейство его подмножеств
ℱ = {S1 , . . . , Sk }, Si ⊆ U.
⋃︀
В сумме все подмножества покрывают U: U = S∈ℱ S.
Каждому подмножеству Si сопоставлена некоторая
неотрицательная стоимость pi ≥ 0.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 6 / 15

18. Задача о покрытии множествами
Определение
Дано множество U = {u1 , . . . , un } и семейство его подмножеств
ℱ = {S1 , . . . , Sk }, Si ⊆ U.
⋃︀
В сумме все подмножества покрывают U: U = S∈ℱ S.
Каждому подмножеству Si сопоставлена некоторая
неотрицательная стоимость pi ≥ 0.
Задача о покрытии множествами (set cover problem) заключается
в нахождении набора подмножеств, покрывающего все множество
U и имеющего минимальный возможный вес.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 6 / 15

19. Задача о покрытии множествами
Определение
Дано множество U = {u1 , . . . , un } и семейство его подмножеств
ℱ = {S1 , . . . , Sk }, Si ⊆ U.
⋃︀
В сумме все подмножества покрывают U: U = S∈ℱ S.
Каждому подмножеству Si сопоставлена некоторая
неотрицательная стоимость pi ≥ 0.
Задача о покрытии множествами (set cover problem) заключается
в нахождении набора подмножеств, покрывающего все множество
U и имеющего минимальный возможный вес.
Теорема
Существует Hn -приближенный алгоритм для задачи о покрытии
множествами.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 6 / 15

20. Сведение к задаче о покрытии множествами
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

21. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

22. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
для всех i, j, k, для которых суффикс строки si длины k совпадает
с префиксом строки sj длины k, построим строку
wijk = si · sj [k + 1..|sj |]:
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

23. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
для всех i, j, k, для которых суффикс строки si длины k совпадает
с префиксом строки sj длины k, построим строку
wijk = si · sj [k + 1..|sj |]:
s6 = abcab bbca, s2 = bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Y Z
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

24. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
для всех i, j, k, для которых суффикс строки si длины k совпадает
с префиксом строки sj длины k, построим строку
wijk = si · sj [k + 1..|sj |]:
s6 = abcab bbca, s2 = bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Y Z
w6,2,4 = abcab bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Z
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

25. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
для всех i, j, k, для которых суффикс строки si длины k совпадает
с префиксом строки sj длины k, построим строку
wijk = si · sj [k + 1..|sj |]:
s6 = abcab bbca, s2 = bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Y Z
w6,2,4 = abcab bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Z
для любой строки s определим
set(s) = {si |si — подстрока s}
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

26. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
для всех i, j, k, для которых суффикс строки si длины k совпадает
с префиксом строки sj длины k, построим строку
wijk = si · sj [k + 1..|sj |]:
s6 = abcab bbca, s2 = bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Y Z
w6,2,4 = abcab bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Z
для любой строки s определим
set(s) = {si |si — подстрока s}
стоимость множества set(s) положим равной длине строки s
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

27. Сведение к задаче о покрытии множествами
НУО, среди строк нет подстрок друг друга
для всех i, j, k, для которых суффикс строки si длины k совпадает
с префиксом строки sj длины k, построим строку
wijk = si · sj [k + 1..|sj |]:
s6 = abcab bbca, s2 = bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Y Z
w6,2,4 = abcab bbca aaccbcac
⏟ ⏞ ⏟ ⏞ ⏟ ⏞
X Y Z
для любой строки s определим
set(s) = {si |si — подстрока s}
стоимость множества set(s) положим равной длине строки s
вход задачи о покрытии множествами: U = {s1 , . . . , sn },
ℱ = {set(si )} ∪ {set(wijk )}
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 7 / 15

28. Сведение к задаче о покрытии множествами
(продолжение)
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 8 / 15

29. Сведение к задаче о покрытии множествами
(продолжение)
итак, алгоритм возвращает нам некоторые множества
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 8 / 15

30. Сведение к задаче о покрытии множествами
(продолжение)
итак, алгоритм возвращает нам некоторые множества
мы сливаем соответствующие им строки и получаем строку,
содержащую все si
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 8 / 15

31. Сведение к задаче о покрытии множествами
(продолжение)
итак, алгоритм возвращает нам некоторые множества
мы сливаем соответствующие им строки и получаем строку,
содержащую все si
осталось показать, что построенный нами алгоритм является
2Hn -приближенным
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 8 / 15

32. Сведение к задаче о покрытии множествами
(продолжение)
итак, алгоритм возвращает нам некоторые множества
мы сливаем соответствующие им строки и получаем строку,
содержащую все si
осталось показать, что построенный нами алгоритм является
2Hn -приближенным
для этого достаточно доказать приведенную ниже лемму
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 8 / 15

33. Сведение к задаче о покрытии множествами
(продолжение)
итак, алгоритм возвращает нам некоторые множества
мы сливаем соответствующие им строки и получаем строку,
содержащую все si
осталось показать, что построенный нами алгоритм является
2Hn -приближенным
для этого достаточно доказать приведенную ниже лемму
Лемма
Стоимость оптимального решения полученной задачи о покрытии
множествами не более чем в два раза хуже длины решения исходной
задачи о кратчайшей надполедовательности.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 8 / 15

34. Доказательство леммы
Доказательство
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

35. Доказательство леммы
Доказательство
перенумеруем строки si в порядке их вхождения в (какую-нибудь)
оптимальную строку s
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

36. Доказательство леммы
Доказательство
перенумеруем строки si в порядке их вхождения в (какую-нибудь)
оптимальную строку s
ясно, что вхождение каждой строки начинается и заканчивается
строго позже предыдущей
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

37. Доказательство леммы
Доказательство
перенумеруем строки si в порядке их вхождения в (какую-нибудь)
оптимальную строку s
ясно, что вхождение каждой строки начинается и заканчивается
строго позже предыдущей
разделим строки на блоки следующим образом: в первый блок
берем s1 и все si , первые вхождения которых начинаются до конца
первого вхождения s1
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

38. Доказательство леммы
Доказательство
перенумеруем строки si в порядке их вхождения в (какую-нибудь)
оптимальную строку s
ясно, что вхождение каждой строки начинается и заканчивается
строго позже предыдущей
разделим строки на блоки следующим образом: в первый блок
берем s1 и все si , первые вхождения которых начинаются до конца
первого вхождения s1
сделаем из первой и последней строки этого блока общую
строку — получим строку w1,j,k
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

39. Доказательство леммы
Доказательство
перенумеруем строки si в порядке их вхождения в (какую-нибудь)
оптимальную строку s
ясно, что вхождение каждой строки начинается и заканчивается
строго позже предыдущей
разделим строки на блоки следующим образом: в первый блок
берем s1 и все si , первые вхождения которых начинаются до конца
первого вхождения s1
сделаем из первой и последней строки этого блока общую
строку — получим строку w1,j,k
следующий блок строим, начиная с первой строки, не попавшей в
первый блок, и т.д.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

40. Доказательство леммы
Доказательство
перенумеруем строки si в порядке их вхождения в (какую-нибудь)
оптимальную строку s
ясно, что вхождение каждой строки начинается и заканчивается
строго позже предыдущей
разделим строки на блоки следующим образом: в первый блок
берем s1 и все si , первые вхождения которых начинаются до конца
первого вхождения s1
сделаем из первой и последней строки этого блока общую
строку — получим строку w1,j,k
следующий блок строим, начиная с первой строки, не попавшей в
первый блок, и т.д.
в итоге, получаем некоторое решение задачи о покрытии
множествами
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 9 / 15

41. Доказательство леммы (продолжение)
Доказательство
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 10 / 15

42. Доказательство леммы (продолжение)
Доказательство
достаточно показать, что стоимость данного конкретного решения
не превосходит удвоенной длины s
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 10 / 15

43. Доказательство леммы (продолжение)
Доказательство
достаточно показать, что стоимость данного конкретного решения
не превосходит удвоенной длины s
это верно, поскольку каждый символ строки s входит не более
чем в два блока
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 10 / 15

44. Доказательство леммы (продолжение)
Доказательство
достаточно показать, что стоимость данного конкретного решения
не превосходит удвоенной длины s
это верно, поскольку каждый символ строки s входит не более
чем в два блока
Упражнение
Докажите последнее утверждение.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 10 / 15

45. План лекции
1 Кратчайшая надпоследовательность
Пример работы алгоритма
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 11 / 15

46. Пример работы алгоритма
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 12 / 15

47. Пример работы алгоритма
допустим, на вход даны следующие строки:
s1 = abc, s2 = bac, s3 = bcd , s4 = cde
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 12 / 15

48. Пример работы алгоритма
допустим, на вход даны следующие строки:
s1 = abc, s2 = bac, s3 = bcd , s4 = cde
вычисляем wijk :
w132 = abcd , w141 = abcde, w241 = bacde, w342 = bcde
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 12 / 15

49. Пример работы алгоритма
допустим, на вход даны следующие строки:
s1 = abc, s2 = bac, s3 = bcd , s4 = cde
вычисляем wijk :
w132 = abcd , w141 = abcde, w241 = bacde, w342 = bcde
вычисляем set(si ) и set(wijk ), а также стоимости:
S1 = set(s1 ) = {s1 }, p1 = 3,
S2 = set(s2 ) = {s2 }, p2 = 3,
S3 = set(s3 ) = {s3 }, p3 = 3,
S4 = set(s4 ) = {s4 }, p4 = 3,
S5 = set(w132 ) = {s1 , s3 }, p5 = 4
S6 = set(w141 ) = {s1 , s3 , s4 }, p6 = 5,
S7 = set(w241 ) = {s2 , s4 }, p7 = 5,
S8 = set(w342 ) = {s3 , s4 }, p8 = 4
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 12 / 15

50. Пример работы алгоритма
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 13 / 15

51. Пример работы алгоритма
итак, входными данными задачи о покрытии множествами
являются универсальное множество U = {si }i∈[1..4] , множество его
подмножеств ℱ = {Si }i∈[1..8] , где каждому подмножеству Si
сопоставлена стоимость pi
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 13 / 15

52. Пример работы алгоритма
итак, входными данными задачи о покрытии множествами
являются универсальное множество U = {si }i∈[1..4] , множество его
подмножеств ℱ = {Si }i∈[1..8] , где каждому подмножеству Si
сопоставлена стоимость pi
алгоритм последовательно добавляет в покрытие множества S6 и
S2
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 13 / 15

53. Пример работы алгоритма
итак, входными данными задачи о покрытии множествами
являются универсальное множество U = {si }i∈[1..4] , множество его
подмножеств ℱ = {Si }i∈[1..8] , где каждому подмножеству Si
сопоставлена стоимость pi
алгоритм последовательно добавляет в покрытие множества S6 и
S2
поскольку S6 = set(w141 ) и S2 = set(s2 ), выходом нашего
алгоритма будет конкатенация строк w141 и s2 , то есть строка
abcdebac, которая в данном конкретном примере является
оптимальной
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 13 / 15

54. Что мы узнали за сегодня?
Что мы узнали за сегодня?
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 14 / 15

55. Что мы узнали за сегодня?
Что мы узнали за сегодня?
2Hn -приближенный алгоритм для задачи о кратчайшей
надпоследовательности.
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 14 / 15

56. Спасибо за внимание!
А. Куликов (CS клуб при ПОМИ) 2. Приближенные алгоритмы 15 / 15