Оптимизирующие преобразования программ. Учебное пособие

3.7. Асинхронное распараллеливание циклов с зависимыми итерациями

for(j=1; j <= M; ++j)

{

i = (k-1)*R+l

aa[k,j] = aa[k,j]+b[i,j]*c[i,j]

x[i,j] = aa[k,j]*d[i,j];

В} данном примере, в отличие от предыдущего, первая координата массива aa имеет длину p, а не N.

Конец примера.

3.7. Асинхронное распараллеливание циклов

с зависимыми итерациями

Для определения условий синхронизации при параллельном выполнении гнезда циклов может быть полезен решётчатый граф программы (граф алгоритма). Решётчатый граф содержит информацию о зависимости между переменными на разных итерациях гнезда циклов. Вершинами решётчатого графа являются точки пространства итераций гнезда циклов. Каждая дуга (u,v) соединяет вершины u и v, если результат вычислений на итерации u используется на итерации v.

В данном примере ни один цикл гнезда не распараллеливаетсяПример 112. Тем. не менее параллельные вычисления можно применить к некоторым множествам точек пространства итераций

(см. рис. 3).

for(i=1; i <= N; ++i){ for(j=1; j <= N; ++j){ a[i+j] = …

… = … a[i+j-1];

} }

111

3. Распараллеливание

Решётчатый граф, построенный с помощью ОРС: зелёныеРисдуги. 3. – истинная зависимость, красные – антизависимость,

синие – выходная самозависимость

Конец примера.

112

3.7. Асинхронное распараллеливание циклов с зависимыми итерациями

Приведём несколько примеров в качестве упражнений.

тыйПримерграф113. . Построить граф информационных связей и решётча-

for(i=1; i <= N; ++i){ for(j=1; j <= N; ++j){ 88 X[I,J]=D[I,J]+X[J,I];

} }

тыйПримерграф114. . Построить граф информационных связей и решётча-

for(I=1; I <= 100; ++I){ 99 A[I]=D[I,I-1]+A[I+100]

}

тыйПримерграф115. . Построить граф информационных связей и решётча-

for(I=1; I <= 100; ++I){ for(J=1; J <= 100; ++J){ D[I+100,J+100]=A[I,J]

88 X[I,J]=D[I,J]+X[J,I]

} }

тыйПримерграф116. . Построить граф информационных связей и решётча-

for(j=1; j <= N; ++j){ for(i=1; i <= N; ++i){ A[I-2,J]=X[2*I-1]; X[2*I]=X[2*I+3]+A[I,J-1]; X[2*I+1]=A[J,I-1];

333X[2*I+2]=A[I+K,J]+A[I-2,J];

}}

113

3.Распараллеливание

3.8.Ошибочные представления

ораспараллеливании

Концепция распараллеливания программ сопровождается многими иллюзиями.

Если вычислительная система состоит из N параллельноГипотеза работающих1. вычислительных устройств, то последовательная программа может быть выполнена в N раз бы- стрее. вытекает из понятной для школьников задачи о том,Опровержениечто сумму N чисел невозможно вычислить даже всем классом быстрее, чем за log (N) шагов. И это притом, что не учитывается расход времени на обмены2 данных.

То, как успех распараллеливания зависит от исходного алгоритма, иллюстрирует следующая задача.

Задача. Предположим, что некоторая задача решается алго- ритмом сложности 2n, т. е. при количестве данных на входе n ал- горитму требуется 2n операций для решения задачи на однопроцес- сорном компьютере (существует много сотен таких практически значимых алгоритмов для решения NP-полных задач). Для n = 100 однопроцессорный компьютер работает 1 час. Для какого значения

n сможет решить задачу за 1 час двухпроцессорный компьютер? (ОтветИзучение: n = 101параллельного.) программирования начинается с параллельных вычислительных архитектур. Здесь никак нельзя обойти SIMD и MIMD. В архитектуре SIMD все вычислительные устройства ведут одинаковые вычисления, а MIMD позволяет проводить разные вычисления. Это повод для следующей «очевидной» гипотезы.

нен Гипотезаасинхронно2.. Всякий векторизуемый цикл может быть выпол-

114

3..8Векторное. Ошибочные пр дставлениявыполнениераспараллеливанииследующего цикла рав-

носильноОпровегоржениепоследовательному выполнению.

For I = 1 to N do

X[i] = 2*X[i+1]

Асинхронное параллельное выполнение этого же цикла может дать и другие результаты – например, если вторая итерация завершится до начала первой итерации.

Иногда используется упрощённая формулировка о том, что асинхронное параллельное выполнение процессов – это выполнение «в любом порядке». Здесь появляется ещё одна «очевидная» гипотеза.

Пусть программа F представляет собой последовательноеГипотезавыполнение3. двух фрагментов F1 и F2. Предположим, что последовательное выполнение этих фрагментов в произвольном порядке не влияет на результат. Тогда эти фрагменты можно выполнять асинхронно.

ют видОпровержение. Пусть оба фрагмента F1 и F2 одинаковы и име-

{

X = 1; Y = X; X = 2;

}

Перестановка местами одинаковых фрагментов, очевидно, является эквивалентным преобразованием (просто не меняет программу). Но параллельное асинхронное выполнение этих фрагментов некорректно. Действительно, при последовательном выполнении программы переменная Y приобретает значение 1. Но если операторы в процессах выполняются по расписанию из следующей таблицы, то по окончании параллельного исполнения значение переменной Y будет равно 2.

115

3. Распараллеливание

Из приведённых гипотез можно сделать выводы о том, что эвристические соображения следует подкреплять математическими доказательствами и при преобразовании последовательных программ в параллельные следует анализировать программные зависимости.

Не все программы распараллеливаются автоматически или даже вручную. Если программу можно распараллелить, то это не означает, что распараллеленная программа будет работать быстрее. То есть распараллеливание не влечёт ускорение.

Следует отметить, что известны методы распараллеливания некоторых рекуррентных циклов, которые, казалось бы, строго последовательны.

116

4. ПРИМЕРЫ КОНТРОЛЬНЫХ ЗАДАНИЙ

4.1. Пример контрольного задания на построение графа информационных связей

Построить граф информационных связей и определить типЗаданиеинформационных1. зависимостей, соответствующих его дугам.

for (j=1; j < N; j+=1) {

X[3*j - 2] = X[3*j-2]+ X[3*j+2];

}

Построить граф информационных связей и определить типЗаданиеинформационных2. зависимостей, соответствующих его дугам.

for (j=1; j < N; j+=1) { for (k=1; k < M; k+=1) { Y[k] = Y[j];

X[j][k] = X[j+1][k+1];

}}

Применить преобразование «разбиение цикла», возможноЗадание, с 3использованием. вспомогательных преобразований «перестановка операторов», «растягивание скаляров» (замена скалярной переменной массивом), «введение вспомогательного массива».

for (i=2; i=i+1; i< n) do { 88: X[i] = B[i]+Y[i+1]

99: Y[i] = B[i] – X[i+2]

}

117

4.Примеры контрольных заданий

4.2.Пример тестовых вопросов

по преобразованиям программ

Тесты по преобразованиям программ включают 5 вопросов. Ниже приводится пример тестового задания.

• Тестовое задание.

Пример 117. Фрагмент программы

10 X(K) = A(I+1)

равносилен15 K =следующему1 ?

10 K = 1

15 X(K) = A(I+1)

Пример 118. Фрагмент программы

T = A+B

X = T+C

Y = T-C

равносиленwrite(Y)следующему?

T = A+B

Y = T-C

write(Y)

Пример 119. Фрагмент программы

IF (Y<0)

For(I = 1; I<=100; I++){ K(I) = X(I-1)

}

For(I = 1; I<=100; I++){

Z(I) = A(I+1)

эквивалентен} следующему циклу?

IF (Y<0)

118

4.2. Пример тестовых вопросов по преобразованиям программ

For(I = 1; I<=100; I++){ K(I) = X(I-1);

Z(I) = A(I+1);

}

Пример 120. Цикл

For(I = 1; I<=100; I++){

X(I) = A(I+1)

эквивалентен} следующему?

For(I = 1; I<=100; I=I+3){ X(I) = A(I+1);

X(I+1) = A(I+2);

X(I+2) = A(I+3);

}

X(100) = A(101);

циклПример 121. Можно ли распараллелить на архитектуру MIMD

For(I = 1; I<=100; I++){ X(I) = A(I+1)+5;

99 A(I) = X(I-1)+1;

}

119

ЛИТЕРАТУРА

120