1. Типы и особенности параллелизма.

1. Явный параллелизм –

• векторные команды;

• операторы с условиями синхронизации (условие готовности , как только оно выполнено,можно выполнить);

• fork – join;

• Нити;

• MPI – процессы.

Неявный параллелизм –

• последовательная программа;

• функциональная программа;

• логическая программа.

язык программа (текст)денотационная семантика (содержание текста программы, исходя из свойств операций)операционная семантика (последовательность выполнения программы (последовательное применение программы: входвыход)).

2. Параллелизм последовательных, функциональных, логических программ, ОО и др.

3. Коммутативный –

Некоммутативный –

Пример. Функция голосования.

Параллельная функция, которую нельзя вычислить последовательно:

В идеале - надо вычислять параллельно.

SIM END – коммутативный оператор, так как можно вычислять в любом порядке.

- некоммутативный оператор.

4. Упреждающий –

Без упреждения –

При чем - обязательно надо вычислить,- возможно потребуются, то есть мы их вычисляем с упреждением.

- вычисления без упреждения.

- с упреждением.

Можно получать ускорение до 50%. .

5. Пространственный параллелизм –

Конвейерный параллелизм –

Можно организовать конвейерное выполнение команд. m копий программы, ко всем применять независимопространственный параллелизм (ускорениеmax в m раз).

Конвейер – самая экономичная схема с точки зрения загрузки ресурсов (каждая единица всегда работает). Пространственный параллелизм более объемен.

Задачи.

Сеточные задачи.

- задана на границе. - некая функция от соседних точек.

Можно разбить на области, и каждый компьютер считает свою область.

СЛАУ

Метод Ньютона плохо параллелится Но параллельно решать задачу возможно, при условии: если A хорошо определены.

задаем начальные значения

- критерий останова. Данная схема является синхронной.

Может быть асинхронная схема.

Как только хотя бы одно новое появляется, то дальше вычисляем с нимвыигрыш. Эта задача является задачей с регулярными связями.

0. Процессы модели и языки.

Событийные модели, то есть модели отвлеченные от времени с сохранением причинно-следственных связей между актами.

Вопросы:

1. Порождение процессов.

Допускает ли система порождение процессов или все статистики предопределены.

2. Взаимодействие процессов.

Fact – точки-места взаимодействия.

3. Состояние процессов.

• активный (выполняется);

• не может порождаться по логическим причинам (нет данных для дальнейшей работы);

• нет ресурсов - пассивен;

• временной фактор пассивен.

0. Сети Петри

1. Событийная модель; статические процессы.

Позволяют представить конечные автоматы, многие вычислительные задачи.

Сеть Петри:

Можно задать таблицей:

p1	…	p1	 место
n1	…	nk	количество фишек

Пример Сети Петри

p1	p2	p3
1	1	0

M₀:

Процесс (правила) функция сети – смена её разметок (последовательно).

- фиксирует состояние процесса правила смены (перехода из состояния в состояние) разметок: переход считается готовым для срабатывания, если во всех его входных местах есть хотя бы по одной фишке. Входные места те, где есть стрелки ведущие в переход. При срабатывании перехода из всех его входных мест изымается по одной фишке и добавляется по одной фишке во все входные места перехода, если имеется стрелка из этого перехода.

Переход: a.

На входе: p₁;

На выходе: p_1,p₂; и т.д.

Возникают вопросы:

1. В данном случае, какой из переходов сработает?

2. Если есть (1) и (2), то хотелось бы, чтобы они сработали параллельно.

В математической модели есть некий «оракул», который видит эту сеть и выбирает произвольным образом переход, который должен сработать. В один момент времени работает только один переход.

3. Эквивалентности сетей.

4. Одновременность.

• оракул выполняет переходы мгновенно;

• два перехода могут срабатывать одновременно.

Пример.

begin real r₁, r₂, z,

real array a, b, c, d [1...100]

S: r₁ := r₂ := z := 0;

par begin

A: for I := 1 step 1 until n to

r₁ := r₁ + a[i]  b[i]

B: for j := 1 step 1 until n to

r₂ := r₂ + c[i]  d[i]

end

E: z := r₁ + r₂ ;

output (z)

end

- взаимоисключение.

Пример.

Семафоры Дейкстры.

par begin semaphore

S₁, S₂, S₃;

S₁ := 0; S₂ := 0; S₃ := 1;

Пр1: begin L1 : P(S₁); P(S₃);

занести данные в буфер

V(S₃); V(S₂); goto L1;

end;

Пр2: begin L2 : P(S₂); P(S₃);

прочитать данные из буфера

V(S₃); V(S₁); goto L2;

end;

end.

S₁ – количество пустых мест в буфере;

S₂ – количество пустых мест в буфере;

S₃ – семафор взаимного исключения;

P – проверка, можем ли войти в критическую область (S>0);

V – S : = S+1.

Пример.

Обедающие философы.

Дано:

Стол, 5 философов, 5 мест, 5 вилок.

Для того, чтобы один из философов мог пообедать, ему необходимо взять две вилки.

Задача состоит в синхронизации процессов.

Вводится ограничение: больше четырех философов в столовой быть не может.