От Пантелеева / Книги студентам / лИТЕРАТУРА / Тартышников

A + B = B + A (коммутативность).

Полезно ввести также операцию умножения матрицы на число. Если α число, то матрица C = αA определяется как матрица тех же размеров с элементами cij = αaij.

1.6Умножение блочных матриц

Предположим, что матрицы A è B составлены из блоков Aij è Bij:

ãäå Aij mi ×nj, Bij ni ×kj. Тогда произведение C = AB существует и его можно вычислять, используя операции умножения и сложения матриц-блоков:

Докажите!

Можно сказать, что блочные матрицы умножаются по правилу блочная строка на блочный столбец . Мы очень скоро увидим, какую пользу может дать блочное умножение.

1.7Вычислительный аспект умножения матриц

Пусть заданы n×n-матрицы A è B и требуется вычислить их произведение C = AB. Âîò

классический алгоритм (программа на неком подобии алгоритмического языка Фортран):

DO i = 1, n

DO j = 1, n

DO k = 1, n

cij = cij + aikbkj

END DO

END DO

END DO.

Конечно, предварительно следует занулить элементы cij.

ДОПОЛНИТЕЛЬНАЯ ЧАСТЬ

1.8Хороша ли программа?

Ответить на этот вопрос не очень просто. Прежде всего, нужен какой-то критерий пусть это будет время исполнения программы. Но время зависит не только от типа компьютера. В строгом смысле, оно привязано к отдельно взятому компьютеру и зависит от его состояния на данный момент, от операционной системы и, конечно, от особенностей транслятора.

Чтобы что-то здесь понять, нужно отбросить очень много деталей и оставить нечто главное. Если все операции выполняются последовательно, то время работы можно считать пропорциональным числу операций. Мы пойдем дальше и будем подсчитывать лишь арифметические операции. Общее их число будем называть арифметической

сложностью алгоритма.

Легко найти, что арифметическая сложность классического алгоритма умножения матриц равна 2n3 (n3 умножений и n3 сложений). Но хорошо ли это? Уверены ли мы в

том, что это наилучший алгоритм?

Само понятие наилучший предполагает наличие некого множества возможных алгоритмов. Будем полагать, что алгоритм это последовательность элементарных операций из конечного фиксированного набора элементарных операций. Для определенности, пусть это будут четыре арифметических действия.

Итак, математическая задача поставлена. Еще в недавнем прошлом многим казалось, что классический алгоритм самый лучший. Теперь уже ясно, что это не так.

1.9Метод Винограда

Попробуйте-ка перемножить матрицы как-либо иначе не по классическому алгоритму. Вероятно, впервые это сделал Виноград (в начале 60-х). Он догадался использовать следующее тождество:

Пусть n = 2m. Ясно, что вторую и третью суммы для всех 1 ≤ i, j ≤ n можно найти, затратив

n2m = 12 n3 умножений и 3n2m = 32 n3 сложений.

В итоге по-прежнему, 2n3 операций (без учета порядка n2 n3 операций), но те-

ïåðü 12 n3 умножений и 32 n3 сложений! Поскольку умножение операция более сложная, чем сложение, метод Винограда может представлять практический интерес.

1.10Метод Штрассена

В 1965 году Штрассен нашел способ умножения 2 × 2-матриц с помощью всего лишь

7-ми умножений (в классическом методе 8 умножений). То, что придумал Штрассен, получается посредством вычисления тензорного ранга многомерных матриц . Об этом мы поговорим в заключительной лекции курса. А пока давайте посмотрим на изобретение Штрассена без комментариев : 1

1См. задачу 5.4.21 из Задачника по линейной алгебре Х.Д.Икрамова.

Только очень ленивый человек не сможет проверить, что две матрицы порядка 2 умножаются правильно.

1.11Рекурсия для n Ч n-матриц

От метода умножения 2×2-матриц с 7-ю умножениями довольно легко перейти к методу умножения n × n-матриц, требующему не более 7 nlog2 7 операций. Поскольку

7nlog2 7

n3 → 0 ïðè n → ∞,

метод Штрассена асимптотически лучше классического метода.

Предположим, что n = 2L и будем рассматривать A è B как блочные 2×2-матрицы:

Замечательно, что в штрассеновском методе умножения 2 Ч2-матриц коммутативность не используется. Поэтому метод годится и для умножения блочных 2 Ч 2-матриц!

При практическом применении рекурсию не обязательно раскручивать до конца. Это вредно: 7 nlog2 7 > 2n3 даже при n = 512. Но при n = 1 024 неравенство меняется в

пользу Штрассена.

К настоящему времени придуманы и более быстрые (асимптотически) методы, чем метод Штрассена. Уже существуют методы с числом операций O (nα), ãäå α < 2.42.

Никто не знает, каков минимальный показатель в таких оценках. Ясно лишь, что α ≥ 2.

12 Лекция 2

элемент y = f(x) множества Y . Задание правила равносильно выбору подмножества

= {(x, f(x)) : x X} X × Y,

называемого графиком отображения (функции, оператора) f.

Элемент y = f(x) называется образом элемента x, à x прообразом элемента y при отображении f. Чтобы подчеркнуть, что f действует из X â Y , пишут так: f : X → Y .

Множество f(X) ≡ {y : y = f(x) для некоторого x X} называется образом (множеством значений) отображения f.

Åñëè M Y , то множество f−1(M) ≡ {x : f(x) M} называется полным прообразом множества M. Åñëè M = {y}, то пишут таким образом: f−1(y) = f−1(M).

Отображение f : X → Y называется

g : Y → X такое, что f(g(y)) = y y Y è g(f(x)) = x x X. Ïðè ýòîì g называют

обратным отображением äëÿ f и пишут g = f−1.

Отображение f называется взаимно-однозначным, если для любого y Y полный прообраз f−1(y) состоит ровно из одного элемента. Легко показать, что обратимость равносильна взаимной однозначности.

2.3Алгебраические операции

Отображение f : X × X → X называется алгебраической операцией íà X. Пусть для обозначения такой операции использутся символ . Тогда запись c = a b означает, что

(a, b) X × X è c = f((a, b)).

Если задано отображение f : M → X на непустом подмножестве M X × X, òî f

называется частичной алгебраической операцией íà X. Таковой, в частности, является

операция умножения матриц на множестве всех матриц.

Cимвол часто опускается, при этом пишут ab = a b, называют операцию умножением, а элемент ab (если он существует) произведением элементов a è b.

2.4Ассоциативность и скобки

Частичная алгебраическая операция на X называется ассоциативной, если для любых a, b, c X из существования произведений ab è bc вытекает существование произведений a(bc), (ab)c и равенство

a(bc) = (ab)c.

В этом случае естественно убрать скобки и писать abc ≡ a(bc) = (ab)c.

Теорема. Пусть на X задана ассоциативная частичная алгебраическая операция и x1, . . . , xn произвольные элементы из X, для которых существуют произведения x1x2, x2x3, . . ., xn−1xn. Тогда существует расстановка скобок, определяющая элемент

x = x1x2 . . . xn,

при этом любая расстановка скобок дает один и тот же элемент x.

Доказательство. Проведем индукцию по n. Докажем сначала существование некоторой расстановки скобок, определяющей x. Согласно индуктивному предположению, существует произведение (x1 ... xn−2)xn−1. По условию теоремы существует также про- изведение xn−1xn. Таким образом, можно применить определение ассоциативности по отношению к элементам a = x1 . . . xn−2, b = xn−1, c = xn.

Пусть элементы a è b получаются при разных расстановках скобок. В любом случае имеем

2.5Ассоциативность при умножении матриц

Пусть нужно вычислить произведение трех прямоугольных матриц размеров 1×n, n×1 è 1 × n:

c11

A = BCD = [b11 . . . b1n] . . . [d11 . . . d1n]. cn1

В данном случае есть два варианта расстановки скобок:

В силу ассоциативности результаты должны быть одинаковыми. Но арифметическая работа будет разная! Применяя правило строка на столбец , получаем 2n2 умножений

в случае (1) и всего 2n умножений в случае (2).

2.6Группы

Непустое множество G с ассоциативной алгебраической операцией называется группой, åñëè:

(1)существует элемент e G такой, что ae = ea = a для любого элемента a G;

(2)для любого элемента a G существует элемент b G такой, что ab = ba = e.

Элемент e определяется свойством (1) однозначно: если e1 è e2 два таких элемента, òî e1 = e1e2 = e2. Он называется единичным.

Элемент b из свойства (2) однозначно определяется по a: åñëè b1 è b2 äâà òà-

ких элемента, то b1 = b1(ab2) = (b1a)b2 = b2. Элемент b называется обратным äëÿ a. Обозначение: b = a−1.

Для любых фиксированных a, b G можно рассмотреть уравнения ax = b (относительно x) è ya = b (относительно y). Оба уравнения однозначно разрешимы: x = a−1b

è y = ba−1.

Группа называется абелевой (коммутативной), если ab = ba äëÿ âñåõ a, b G.