Дасгупты, Пападимитриу, Вазирани «Алгоритмы»

4. На пути из aj в A(!k) сумма весов равна jk mod 8.

Так как !8 = 1, вклад входа aj в A(!k) есть в точности aj !jk, и поэтому схема корректно вычисляет значения на выходах.

5. Наконец, отметим, что такое представление схемы очень удобно для параллельного вычисления и аппаратной реализации.

Упражнения

2.1. Найдите произведение чисел 10011011 и 10111010 (в двоичной системе счисления), используя алгоритм умножения чисел, основанный на методе «разделяй и властвуй».

2.2. Покажите, что для любых целых положительных n и b на отрезке [n, bn] обязательно найдётся степень b.

2.3. В разделе 2.2 мы анализировали рекуррентные соотношения, оценивая число операций на каждом уровне дерева рекурсии. Примерно тот же анализ можно изложить иначе. Для примера рассмотрим знакомое нам соотношение T (n) = 2T (n=2) + O(n) и будем его «раскручивать». Первым делом заменим O(n) на верхнюю оценку cn для некоторой константы c, получив T (n) ¶ 2T (n=2) + cn. Применяя это неравенство несколько раз, мы оцениваем T (n) сначала через T (n=2), потом через T (n=4), через T (n=8) и так далее. В конце концов мы дойдём до T (1) = O(1):

(a)Проведите те же рассуждения для T (n) = 3T (n=2) + O(n). Каков будет общий вид неравенства в данном случае? Какое k нужно подставить?

(b)Теперь оцените T (n), если T (n) = T (n 1) + O(1) (это соотношение не покрывается нашей теоремой).

2.4.Какой из трёх приведённых ниже алгоритмов вы бы предпочли? Каково время работы этих алгоритмов?

ffАлгоритм A, решая задачу, производит пять рекурсивных вызовов для подзадач вдвое меньшего размера, после чего строит ответ для исходной за-

дачи за линейное время.

пень двойки, примените БПФ к двум векторам, перемножьте полученные векторы покомпонентно и получите искомый многочлен обратным БПФ.

(b)Повторите это для многочленов 1 + x + 2x2 и 2 + 3x.

2.10.Найдите коэффициенты многочлена p степени не больше 4, если p(1) = = 2, p(2) = 1, p(3) = 0, p(4) = 1, p(5) = 0.

2.11.В алгоритме для умножения матриц (раздел 2.5) мы использовали следующее свойство: если X и Y суть матрицы размера n n и

A B E F

X = C D , Y = G H ,

Докажите это.

2.12. Оцените порядок количества строк, которое напечатает приведённая ниже программа, как функции от n: запишите рекуррентное соотношение и решите его. Можно считать, что n есть степень двойки.

процедура F(n)

если n > 1:

напечатать «всё ещё работаю»

F(n=2)

F(n=2)

2.13.Двоичное дерево называется строго двоичным, если у каждой его вершины либо ноль, либо два сына. Обозначим через Bn количество всех строго двоичных деревьев с n вершинами.

(a)Нарисуйте все строго двоичные деревья с 3, 5, 7 вершинами и найдите значения B3, B5 и B7. Почему мы пропустили чётные числа (например, B4)?

(b)Запишите рекуррентное соотношение для Bn.

(c)Докажите индукцией по n, что Bn = (2n=2).

2.14.Покажите, как за время O(n log n) удалить из массива размера n все дубликаты, то есть оставить каждый элемент в одном экземпляре.

2.15.Основной составляющей алгоритма нахождения медианы (раздел 2.4) является процедура Split, которая получает на вход массив S и элемент v и делит элементы массива на три части: меньшие v, равные v и большие v. Покажите, как сделать это на том же месте (in place), то есть не выделяя памяти под новый массив.

2.16.Дан бесконечный массив A[ ], первые n элементов которого содержат возрастающую последовательность целых чисел, а дальше стоит 1. Значе-DRAFT

ние n не дано. Постройте алгоритм, который получает на вход целое число x

и находит это x в массиве –– или говорит, что там его нет, за время O(log n). (Если вас смущает тот факт, что массив бесконечен, можно представлять себе массив неизвестной длины n и функцию, которая при обращении к элементу с номером i > n возвращает 1.)

2.17. В массиве A[1‌n] записана возрастающая последовательность целых чисел. Постройте алгоритм типа «разделяй и властвуй», который проверяет, существует ли такой индекс i, что A[i] = i.

2.18. Рассмотрим задачу проверки принадлежности элемента x заданному упорядоченному массиву A[1‌n]. Такая задача решается двоичным поиском за время O(log n). Покажите, что любой алгоритм, решающий эту задачу, в некоторых случаях читает (log n) элементов этого массива.

DRAFTДоказать это можно, найдя минимум этой функции (квадратного трёхчлена) или преобразовав её к виду

2.19. Слияние k массивов. Допустим, у нас есть k упорядоченных массивов размера n и мы хотим получить из них один упорядоченный массив размера kn.

(a) Сразу приходит в голову следующая идея: при помощи процедуры Merge из раздела 2.3 сольём сначала первые два массива, результат сольём с третьим, потом с четвёртым и так далее. Каково время работы такого алго-

ритма (как функция от k и n)?

(b) Постройте более эффективный алгоритм, используя метод «разделяй

и властвуй».

2.20. Покажите, как упорядочить массив целых чисел x[1‌n] за время

2.21. Среднее арифметическое и медиана. В статистике иногда нужно описать множество наблюдаемых значений fx1, x2, ‌, xng R одним числом. Часто в качестве такого числа выбирается медиана 1 или среднее арифметическое 2.

(a) Покажите, что медиана является значением параметра , которое ми-

нимизирует сумму

X

jxi j.

i

Для простоты можно считать, что n нечётно. (Подсказка: Как меняется эта сумма с изменением ? когда она растёт, а когда убывает?)

(b) Покажите, что среднее арифметическое минимизирует функцию

X

(xi )2.

i

XX

(xi )2 = (xi 2)2 + n( 2)2.

ii

Видно, что среднее арифметическое 2 «штрафует» точки, далёкие от , гораздо сильнее, чем 1. То есть 2 в большей степени заботится о далёких наблюдаемых значениях. В результате всего несколько наблюдений, сильно отклоняющихся от среднего, могут сильно изменить 2. Поэтому 1 иногда считается более разумным статистическим описанием набора наблюдений, чем 2. Другая крайность –– это 1, определяемое как значение , минимизирующее выражение

max jxi j.

i

(c) Покажите, что 1 может быть вычислено за время O(n) (считаем, что xi достаточно малы, так что основные арифметические операции с ними производятся за один шаг).

2.22. Даны два упорядоченных массива размера m и n. Постройте алгоритм, находящий k-й по величине элемент в объединении этих массивов за время

O(log(m + n)).

2.23.Представителем большинства (majority element) в массиве A[1‌n] называется элемент, равные которому составляют в массиве большинство. Постройте алгоритм, находящий такой элемент (если он есть; если нет, алгоритм может делать что угодно). На элементах массива не задан порядок, поэтому запросы типа «A[i] > A[j]?» запрещены. (Представьте себе, например, массив картинок.) Однако разрешены запросы типа «A[i] = A[j]?», ответы на которые даются за время O(1).

(a)Покажите, как решить такую задачу за время O(n log n). (Подсказка: разбейте массив на две половины. Если бы вы знали представителей большинства в обеих половинах, могли бы вы быстро найти представителя большинства в исходном массиве? Если да, то можно воспользоваться методом «разделяй и властвуй».)

(b)Теперь постройте линейный алгоритм. (Подсказка: опишем другой подход, основанный на методе «разделяй и властвуй». Разобьём элементы массива на пары произвольным образом. Для каждой из n=2 пар: если оба элементы равны, то выкинем один из них, если же различны, то выкинем оба. Покажите, что после такой операции останется не больше n=2 элементов и представитель большинства сохранится, если он был. Впрочем, то же наблюдение можно использовать и более простым образом, поддерживая инвариант «искомый элемент является представителем большинства в массиве A[k‌n], дополненном p копиями элемента A[q]» и увеличивая k.)

2.24.На с. 59 приведена общая идея алгоритма быстрой сортировки.

(a)Напишите псевдокод этого алгоритма.

(b)Докажите, что время работы алгоритма в худшем случае на массиве размера n есть (n2).

(c)Докажите, что математическое ожидание времени работы алгоритмаDRAFT

(усреднение по всем вариантам выбора элементов для сравнения) на любом

i=1

и что решением данного соотношения является O(n log n).

(a) Пусть мы хотим найти двоичное представление десятичного числа 10n (единица и n нулей). Будем считать, что n –– степень двойки. Рассмотрим такой алгоритм:

функция Pwr2Bin(n)

если n = 1: вернуть 10102

иначе: z = ‌

вернуть FastMultiply(z, z)

Впишите недостающую строчку псевдокода. Запишите рекуррентное соотношение на время работы алгоритма и решите его.

(b) Пусть теперь мы хотим перевести произвольное десятичное число x, в записи которого n цифр (n –– степень двойки), в двоичную систему счисления. Алгоритм приведён ниже.

функция Dec2Bin(x)

если n = 1: вернуть binary[x] иначе:

разделить x на два десятичных числа xL , xR из n=2 цифр вернуть ‌

Массив binary[ ] содержит заранее вычисленные двоичные представления десятичных цифр; доступ к любому элементу этого массива требует времени O(1).

Как и в предыдущем упражнении, допишите псевдокод, запишите рекуррентное соотношение и решите его.

2.26.Профессор О. П. Рометчивый утверждает, что возведение n-битового числа в квадрат проще, чем умножение двух n-битовых чисел (в том смысле, что для возведения в квадрат есть асимптотически более быстрый алгоритм). Стоит ли ему верить?

2.27.Квадратом (square) матрицы A называется произведение её на себя, то есть A A.

(a) Покажите, что для вычисления квадрата матрицы размера 2 2 достаточно пяти умножений чисел.

(b) Найдите ошибку в приведённом ниже алгоритме вычисления квадрата матрицы размера n n:

Действуем как в алгоритме Штрассена, но теперь вместо 7 рекурсивных вызовов нужно лишь 5, поскольку мы перемножаем не две различные матрицы, а две одинаковые (см. предыдущий пункт); из основной теоремы следует, что его время работы будет O(nlog2 5).

позволяет производить основные арифметические операции с ними за один шаг.

2.29. Мы хотим вычислить значение многочлена p(x) = a0 + a1 x + a2 x2 + ‌ ‌ + an xn в точке x.

(a) Покажите, что следующий алгоритм, известный как схема Горнера (Horner’s rule), правильно вычисляет значение z = p(x):

вернуть z

(b)Сколько арифметических операций производит данный алгоритм? Можете ли вы указать многочлен, для которого есть более быстрый способ вычисления значения в произвольной точке?

2.30.В данном упражнении показывается, как вычислять преобразование Фурье (ПФ) в арифметике сравнений, например, по модулю 7.

(a)Существует такое !, что все степени !, !2, ‌, !6 различны (по модулю 7). Найдите такое ! и покажите, что ! + !2 + ‌ + !6 = 0. (Отметим

также, что такое число существует для любого простого модуля.)