М
инистерство
образования и науки Украины
Севастопольский национальный технический
университет
КРОТОВ К.В.
Теории параллельных вычислений
Конспект лекций
для студентов специальности 07.080401
всех форм обучения
Часть 1
Севастополь
2009
УДК 681.326
Теории параллельных вычислений. Часть 1. Методические указания / Сост. К.В.Кротов - Севастополь: Изд-во СевНту, 2009.- 87 с.
Методические указания предназначены для проведения лабораторных занятий по дисциплине «Теории параллельных вычислений». Целью настоящих методических указаний является обучение студентов практическим навыкам разработки программ, использующих принципы параллельных вычислений.
Методические указания составлены в соответствии с требованиями программы дисциплины «Теории параллельных вычислений» для студентов специальности 7.080401 дневной и заочной формы обучения и утверждены на заседании департамента информационных систем.
Допущено учебно-методическим центром СевНТУ в качестве методических указаний.
Содержание
1. Параллельные вычисления. Вводные понятия 4
1.2 Параллелизм уровня заданий 4
1.2 Параллелизм уровня программ 6
1.3 Параллелизм уровня команд 6
2. Эффективность функционирования параллельных вычислительных систем 7
2.1 Закон Амдала 9
2.2 Закон Густафсона 9
3. Классификация параллельных вычислительных систем 10
3.1 Система ОКОД (SISD) 10
3.2 Система МКОД (MISD) 11
3.3 Системы класса ОКМД (SIMD) 12
3.4 Системы МКМД (MIMD) 13
3.5 Матричные системы (ОКМД) 14
3.6 Системы с ансамблем процессоров (ОКМД) 15
3.7 Структурная организация SMP-систем 15
3.8 MPP - системы (системы с разделяемой памятью) 16
3.9 Гибридные системы (NUMA-системы) 17
4. Вычислительные кластера 18
5. Организация конвейерных вычислений. Конвейер команд 19
5.1 Арифметический конвейер 20
5.2 Понятие векторных вычислений (операций) 21
6. Примеры систем, реализующих конвейерные вычисления 25
6.1 ВС с вычислительной магистралью и с реализацией модели «Память- память» 26
6.2 ВС с арифметико-командной магистралью и с реализацией модели «Регистр – регистр» 28
7. Системы класса SIMD.Матричные системы 29
7.1 Организация процессорного элемента (ПЭ) 32
7.2 Упрощенная организация системы (MasPar) 33
7.3 Контроллер массива 33
8. Системы класса MIMD 35
9. SMP-системы 37
10. Организация простых коммутаторов 41
11.Составные перекрестные коммутаторы 41
12. Примеры реализации SMP систем 44
12.1 HP X5670 server 44
12.2 Sun Fire 15000 45
12.3 Сервер HP 9000 46
13. Системы PVM. Общие понятия 47
13.1 Особенности реализации распределенных вычислений в PVM 47
13.2 Архитектура PVM 48
13.3 Понятие идентификатора задачи (Tid) 50
13.4 Модели передачи сообщений в PVM 50
13.5 Технология создания PVM-программ 51
13.6 Определение (задание) конфигурации вычислительного кластера (параллельной виртуальной машины) 52
13.7 Организация распределённого выполнения параллельных программ на ПК вычислительного кластера с обменом сообщениями между ним 53
13.8 Управление конфигурацией вычислительного кластера средствами PVM 56
13.9 Взаимодействие распределено выполняемых процессов с помощью сообщений. Образование каналов передачи данных 60
14. Основные понятия распределенных вычислений 61
14.1 Основные понятия передачи сообщений по каналам 64
14.2 Схемы «Взаимодействующие равные» при обмене между процессами 64 14.3 Взаимодействие процессов по схеме «Клиент-сервер» 64
14.4 Модели взаимодействия распределенных процессов. Модель «зонд-эхо». 71
15. Алгоритм распределенной синхронизации доступа к общим ресурсам 76
15.1 Распределенные семафоры 76
15.2 Алгоритм передачи маркера 78
16. Изучение алгоритмов работы с распределенными базами 83