магПП2013 / lec01

(графики от riki-koen.livejournal.com/75235.html)

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

12

р=0.1, с=0.001, max=6.25

(чем меньше с, тем быстрее обмен данными)

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

Многозадачный режим, или режим разделения времени:

Псевдопараллельность – для выполнения нескольких программ используется один процессор  исполняется 1 программа (процесс, задание, задача), прочие – в очереди.

Параллельное выполнение:

Одномоментное выполнение нескольких команд обработки данных из разных потоков или с разными данными на нескольких процессорах (ядрах).

Распределенные вычисления:

Параллельное выполнение на удаленных устройствах 

Возможны проблемы с обменом данными 

Актуальны для специфических задач.

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

Основные типы ПВС

14

Суперкомпьютер:

ВС рекордной производительности, выпускаемая отдельными экземплярами на оригинальной схемотехнической базе.

ВС ценой > $1 млн.

ВС, мощность которой только на порядок меньше необходимой для современных задач)).

Способы построения и применения СК – технологии

высокопроизводительных вычислений (ТВВ) –

High Performance Computing (HPC).

С 1980 г.г. СК стали ПВС 

ТВВ взаимосвязаны с технологиями параллельной

обработки данных (иногда синоним)

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

Кластер – группа выделенных рабочих станций:

объединены в ЛВС,

эффективно и надежно работают как единый вычислительный ресурс,

используется серийное, типовое оборудование (компьютерное и сетевое).

Развитие сетевого оборудования (конец 1990г.г.)  суперкомпьютеры часто строятся по технологии кластеров.

Пример – СК - кластер ИМКН:

2 IBM eServer BladeCenter™+

флагманское сетевое оборудование Cisco Systems + хранилище

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

Классификация ПВС по архитектуре

16

Архитектура ВС - общая логическая организация ВС:

определяющая процесс обработки данных,

включающая

архитектуру ЭВМ,

структуру и характеристики программного обеспечения, принципы его взаимодействия с аппаратными средствами.

Основа классификации – систематика Флинна:

анализ взаимодействия потоков выполняемых команд и потоков обрабатываемых данных 

вид параллелизма (ПВС)

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

17 Основные типы ВС по Флинну

(Michael J. Flynn, Таксономия Флинна - 1966 г.)

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

SISD (Single Instruction Single Data) –

1поток команд, 1 поток данных.

есть только один поток команд,

все команды обрабатываются последовательно друг за другом,

каждая команда инициирует одну операцию с одним потоком данных

П. Стандартный компьютер фон Неймана.

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

SIMD (Single Instruction Multiple Data) –

1поток команд, много потоков данных.

один поток команд, включающий векторные команды,

может выполняться одна операция сразу над многими данными - элементами вектора.

П1. Компьютер с векторным процессором (операнды – массивы). П2. Специализированные многопроцессорные ВС (одна команда одновременно выполняется с разными данными)

для обработки видео, изображений и аудио, для ускорения 3D- и 2Dграфики и других мультимедийных задач.

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1

 MISD (Multiple Instruction Single Data) –

много потоков команд, 1 поток данных.

Отказоустойчивые компьютеры,

ВС с систолическим массивом (systolic array) процессоров.

 MIMD (Multiple Instruction Multiple Data) –

много потоков команд, много потоков данных.

Большинство многопроцессорных ПВС

АЛГОРИТМЫ И ТЕХНОЛОГИИ РАЗРАБОТКИ ПАРАЛЛЕЛЬНЫХ ПРОГРАММ. ЛЕКЦИЯ 1