Уровни параллелизма
Направления при обработке:
а) Совмещение во времени разных этапов разных задач
б) Конвейерная обработка
в) Наличие компьютерной системы
1. Уровень заданий – независимые задания выполняются на разных процессорах с малым взаимодействием между собой. Уровень реализуется на ВС с множеством процессоров в мультизадачном режиме. 2. Уровень программ – части одной задачи выполняются на множестве процессоров, уровень реализуется на любой параллельной ВС.В программе выделяются независимые участки которые могут выполняться параллельно.
3. Уровень команд – выполнение команды разделятся на фазы, а фазы последовательных команд перекрываются за счет конвейеризации, уровень достигается на ВС с 1-им процессором.
Имеет место когда обработка нескольких команд, или выполнение различных этапов 1-ой и той же команды перекрывается во времени за счет конвейеризации вычислений и параллелизма вычислений, которое достигается благодаря наличию сдублированных ФБ.
4. Уровень битов – если биты данных обрабатываются параллельно то говорят о бит-параллельной операции, уровень достигается в суперскалярных ЭВМ.
При параллельной обработке используют понятие гранулярности – мера отношения объема вычислений,
выполненных в параллельной задаче к объему коммуникаций.
Гранулярность:
- Крупнозернистый параллелизм (каждое параллельное вычисление мало зависит от других, требуется редкий обмен информацией между вычислениями. Единицей распараллеливания большие независимые программы 1000-и команд. Уровень параллелизма обеспечивается ОС).
- Среднезернистый параллелизм (единица распараллеливания – процедуры 100-и команд, организуется программистом и компилятором).
- Мелкозернистый параллелизм (параллельное вычисление мало – около 10-ов команд, единица распараллеливания – элементы выражения или операции цикла).
Если коммутационная издержка велика, то лучшую производительность дает мелкозернистый, если нет, то крупнозернистый.
Классификация систем параллельной обработки.
Процесс решения задачи можно представить как воздействие определенной последовательности команд программы (потока команд) на соответствующую последовательность данных (поток данных), вызываемых этой последовательностью команд. Различные способы организации параллельной обработки информации можно представить как способы организации одновременного воздействия одного или нескольких потоков команд на одни или несколько потоков данных.
Для такой классификации оказывается полезным ввести понятие множественности потоков команд и данных. Под множественным потоком команд или данных будем понимать наличие в системе нескольких последовательностей команд, находящихся в стадии реализации, или нескольких последовательностей данных, подвергающихся обработке командами.
Основными понятиями классификации являются "поток команд" и "поток данных". Под потоком команд упрощенно понимают последовательность команд одной программы. Поток данных — это последовательность данных, обрабатываемых одной программой
Исходя из возможности существования одиночных и множественных потоков, все системы могут быть разбиты на четыре больших класса.
Системы с одиночным потоком команд и одиночным потоком данных (ОКОД).
Системы с множественным потоком команд и одиночным потоком данных (МКОД).
Системы с одиночным потоком команд и множественным потоком данных (ОКМД)
Системы с множественным потоком команд и множественным потоком данных (МКМД).
