Чем полезно параллельное программирование?

Идея распараллеливания вычислений основана на том, что большинство задач может быть разделено на набор меньших задач, которые могут быть решены одновременно, что уменьшает время выполнения задач.

Параллельные системы с общей (shared) и распределённой (distributed) памятью - чем отличаются, привести примеры.

Компьютеры с распределенной памятью (Distributed memory)

Каждый процессор имеет доступ только к локальной собственной памяти. Процессоры объединены в сеть. Доступ к удаленной памяти возможен только с помощью системы обмена сообщениями.

Компьютеры с общей (разделяемой) памятью (True shared memory)

Каждый процессор компьютера обладает возможностью прямого доступа к общей памяти, используя общую шину (возможно, реализованную на основе высокоскоростной сети). В таких компьютерах нельзя существенно увеличить число процессоров, поскольку при этом происходит резкое увеличение числа конфликтов доступа к шине.

В некоторых архитектурах каждый процессор имеет как прямой доступ к общей памяти, так и собственную локальную память.

Примером машин с общей памятью могут служить:

• Sun Microsystems (многопроцессорные рабочие станции)

• Silicon Graphics Challenge (многопроцессорные рабочие станции)

• Sequent Symmetry

• Convex

• Cray 6400.

Следующие компьютеры относятся к классу машин с распределенной памятью

• IBM-SP1/SP2

• Parsytec GC

• CM5 (Thinking Machine Corporation)

• Cray T3D

• Paragon (Intel Corp.)

• KSR1

• nCUBE

• Meiko CS-2

• AVX (Alex Parallel Computers)

• IMS B008

Основы OpenMp: как распараллелить простой цикл?

Если в параллельной области встретился оператор цикла, то, согласно общему правилу, он будет выполнен всеми нитями текущей группы, то есть каждая нить выполнит все итерации данного цикла. Для распределения итераций цикла между различными нитями можно использовать директиву for(do ... [end do]).

#pragma omp for [опция[[,] опция]...]

Эта директива относится к идущему следом за данной директивой блоку, включающему оператор for.

#include <stdio.h>

#include <omp.h>

int main(int argc, char *argv[])

{

int A[10], B[10], C[10], i, n;

/* Заполним исходные массивы*/

for (i=0; i<10; i++){ A[i]=i; B[i]=2*i; C[i]=0; }

#pragma omp parallel shared(A, B, C) private(i, n)

{

/* Получим номер текущей нити*/

n=omp_get_thread_num();

#pragma omp for

for (i=0; i<10; i++)

{

C[i]=A[i]+B[i];

printf("Нить%d сложила элементы с номером%d\n", n, i);

} } }

Основы коммуникаций в mpi: _Comm_rank, _Comm_size, _Send, _Recv.

Определение количества и ранга процессов. Определение количества процессов в выполняемой параллельной программе осуществляется при помощи функции:

int MPI_Comm_size(MPI_Comm comm, int *size),

где comm — коммуникатор, размер которого определяется, size — определяемое количество процессов в коммуникаторе.

Для определения ранга процесса используется функция:

int MPI_Comm_rank(MPI_Comm comm, int *rank),

где comm — коммуникатор, в котором определяется ранг процесса, rank — ранг процесса в коммуникаторе.

Как правило, вызов функций MPI_Comm_size и MPI_Comm_rank выполняется сразу после MPI_Init для получения общего количества процессов и ранга текущего процесса:

#include "mpi.h"

int main(int argc, char *argv[]) {

int ProcNum, ProcRank;

<программный код без использования функций MPI>

MPI_Init(&argc, &argv);

MPI_Comm_size(MPI_COMM_WORLD, &ProcNum);

MPI_Comm_rank(MPI_COMM_WORLD, &ProcRank);

<программный код с использованием функций MPI>

MPI_Finalize();

<программный код без использования функций MPI>

return 0;

}

Следует отметить:

• коммуникатор MPI_COMM_WORLD, как отмечалось ранее, создается по умолчанию и представляет все процессы выполняемой параллельной программы;

• ранг, получаемый при помощи функции MPI_Comm_rank, является рангом процесса, выполнившего вызов этой функции, т. е. переменнаяProcRank примет различные значения у разных процессов.

Передача сообщений

Для передачи сообщения процесс­ отправитель должен выполнить функцию:

int MPI_Send(void *buf, int count, MPI_Datatype type, int dest, int tag, MPI_Comm comm),

где buf — адрес буфера памяти, в котором располагаются данные отправляемого сообщения;

count — количество элементов данных в сообщении;

type — тип элементов данных пересылаемого сообщения;

dest — ранг процесса, которому отправляется сообщение;

tag — значение­тег, используемое для идентификации сообщения;

comm — коммуникатор, в рамках которого выполняется передача данных.

Следует отметить:

• отправляемое сообщение определяется через указание блока памяти (буфера), в котором это сообщение располагается. Используемая для указания буфера триада (buf, count, type) входит в состав параметров практически всех функций передачи данных;

• процессы, между которыми выполняется передача данных, в обязательном порядке должны принадлежать коммуникатору, указываемому в функции MPI_Send;

• параметр tag используется только при необходимости различения передаваемых сообщений, в противном случае в качестве значения параметра может быть использовано произвольное положительное целое число

2)

 (см. также описание функции MPI_Recv).

Сразу же после завершения функции MPI_Send процесс­отправитель может начать повторно и использовать буфер памяти, в котором располагалось отправляемое сообщение. Также следует понимать, что в момент завершения функции MPI_Send состояние самого пересылаемого сообщения может быть совершенно различным: сообщение может располагаться в процессеотправителе, может находиться в состоянии передачи, может храниться в процессеполучателе или же может быть принято процессомполучателем при помощи функции MPI_Recv. Тем самым, завершение функции MPI_Send означает лишь, что операция передачи начала выполняться и пересылка сообщения рано или поздно будет выполнена.

Пример использования функции будет представлен после описания функции MPI_Recv. Прием сообщений

Для приема сообщения процесс­получатель должен выполнить функцию:

int MPI_Recv(void *buf, int count, MPI_Datatype type, int source, int tag, MPI_Comm comm, MPI_Status *status),

где nbuf, count, type — буфер памяти для приема сообщения, назначение каждого отдельного параметра соответствует описанию в MPI_Send;

source — ранг процесса, от которого должен быть выполнен прием сообщения;

tag — тег сообщения, которое должно быть принято для процесса;

comm — коммуникатор, в рамках которого выполняется передача данных;

status – указатель на структуру данных с информацией о результате выполнения операции приема данных.

Следует отметить:

• буфер памяти должен быть достаточным для приема сообщения. При нехватке памяти часть сообщения будет потеряна и в коде завершения функции будет зафиксирована ошибка переполнения; с другой стороны, принимаемое сообщение может быть и короче, чем размер приемного буфера, в таком случае изменятся только участки буфера, затронутые принятым сообщением;

• типы элементов передаваемого и принимаемого сообщения должны совпадать;

• при необходимости приема сообщения от любого процессаотправителя для параметра source может быть указано значение MPI_ANY_SOURCE (в отличие от функции передачи MPI_Send, которая отсылает сообщение

строго определенному адресату);

• при необходимости приема сообщения с любым тегом для параметра tag может быть указано значение MPI_ANY_TAG (опятьтаки, при использовании функции MPI_Send должно быть указано конкретное значение тега);

• в отличие от параметров "процесс­получатель" и "тег", параметр"коммуникатор" не имеет значения, означающего "любой коммуникатор";

• параметр status позволяет определить ряд характеристик принятого сообщения:

• status.MPI_SOURCE — ранг процесса – отправителя принятого сообщения;

• status.MPI_TAG — тег принятого сообщения.

Приведенные значения MPI_ANY_SOURCE и MPI_ANY_TAG иногда называют джокерами.

Значение переменной status позволяет определить количество элементов данных в принятом сообщении при помощи функции:

int MPI_Get_count(MPI_Status *status, MPI_Datatype type, int *count),

где

• status — статус операции MPI_Recv;

• type — тип принятых данных;

• count — количество элементов данных в сообщении.

Вызов функции MPI_Recv не обязан быть согласованным со временем вызова соответствующей функции передачи сообщения MPI_Send – прием сообщения может быть инициирован до момента, в момент или после момента начала отправки сообщения. По завершении функции MPI_Recv в заданном буфере памяти будет располагаться принятое сообщение. Принципиальный момент здесь состоит в том, что функция MPI_Recv является блокирующей для процесса­получателя, т.е. его выполнение приостанавливается до завершения работы функции. Таким образом, если по каким-то причинам ожидаемое для приема сообщение будет отсутствовать, выполнение параллельной программы будет блокировано.