Принципи побудови паралельних алгоритмів

Паралельний алгоритм – це інструкція по розв’язання заданої задачі на процесорних елементів. Для його проектування необхідно:

1. ідентифікувати режими роботи, які можуть виконуватись одночасно

2. відобразити ці частини на множині процесів

3. розподілити вхідні, вихідні і проміжні дані асоційовані з програмою

4. реалізувати керування доступом до даних

5. синхронізувати роботу процесів на всіх етапах.

Процес розподілу обчислень можуть бути …. декомпозиції

Задачі – це виділені програмістом модулі, на які поділене основне завдання за допомогою декомпозиції. Задачі можуть мати довільний розмір, але визначені 1 раз або розсіюються як неподільні.

Граф залежності задач – це ациклічний граф, в якому вузли являють собою задачі, а дуги вказують залежність між ними. Граф може бути роз’єднаний, і множина може бути пустою.

Обробка запиту до бази даних.

ID	MODEL	YEAR	color	……
1	Livie	2002	Blue
2	Covolla	1999	While
3	Camry	2001	Green
4	livie	2001	White
5	Acerod	2000	Green
6	Givie	2001	Red

Select * from T1 where

Model = “Civic” and Year=2001

And (Color=”Green” or Color=”White”)

Результат декомпозиції запитом зображений на рис.3. один із шляхів розв’язку задач:

Число задач, на які розбите вхідне завдання визначає ступінь деталізації декомпозиції. Декомпозицію на велику кількість задач називають мілко модульною, і на невелику кількість об’ємних задач – крупно модульною. Ту ж саму задачу можна деком позувати по різному. Якщо об’єднувати в одне завдання кілька модулів, то отримаємо крупно модульною декомпозицією. Поняття пов’язане з ступенем декомпозиції – це ступінь паралелізму та мах число задач, які можуть бути виконані паралельною програмою одночасно, відомою як максимальною ступенем паралелізму. Більш корисний – це середній ступінь паралелізму, ступінь залежить від форми графа залежності задач. І той самий ступінь декомпозиці не гарантує ту ж саму ступінь декомпозиці паралелізму.

Sp=w/t; Q=Sp/p; w – кількість операцій; t – висота; р - процесори

Найдовший направлений шлях між початкової пари та кінцевого вузлів називається критичним шляхом. Модель взаємодії задач фіксується графом взаємодії задач. Його вершини – це задачі, а ребра зв’язують лише ті задачі, які взаємодіють. Вершини і ребра можуть бути пропорційно до кількості пропозицій і … ребра зазвичай не орієнтовані, вони можуть бути одно направлення, коли існує один напрямок задачі. Масив ребер є над множиною масиву ребер ГЗЗ. Для прикладу №1 граф взаємодії задач ідентичний графу залежності задач.

Приклад розрідженого векторно-матричного множення.

Матрицю називають розрідженою, якщо більшість її елементів є нульовим а локалізація ненульових елементів не відповідають певній структурі. Такі операції легко передаються оптимізації.

*

*

*

*

*

0 1 2 3 4 5 6 7 8 9 10 11

*	*			*				*
*	*	*			*	*
	*	*	*		*	*
		*	*				*
*				*	*			*	*
	*	*		*	*	*			*
			*			*	*
*				*		*		*
	*			*	*	*			*	*
				*	*	*			*	*
						*			*	*
						*					*

Механізм, згідно з яким задача призначають процеси на виконання називають картою процесів. Вона будується на основі графів залежності та взаємодії задач. Здається, що ідеальна карта буде сформована, якщо в певній задачі буде поставлено у відповідність певний процес.