45. Параллелизм вычислений. Основные подходы и способы организации.

Под параллелизмом имеется в виду одновременная обработка заданий, шагов заданий, программ, подпрограмм, стандартных программ, циклов или команд программ, наконец, отдельных эта­пов команд одной и той же программы или разных программ. В общем случае параллельная обработка состоит в реализации парал­лелизма на любом из вышеприведенных уровней или их сочетаний.

Обработку любой команды можно разделить на отдельные эта­пы, а для совмещения выполнения этапов разных команд использо­вать конвейеризацию (конвейерную обработку).

Большинство современных ЭВМ способны работать в мульти­программном режиме, предусматривающем возможность разделе­ния ресурсов процессора и памяти несколькими независимыми программами.

Параллельная обработка, при которой мультипрограммный режим работы обеспечивается двумя и более взаимодействующими друг с другом процессорными устройствами, называется мультипроцессорной обработкой, а сама система мультипроцессорной или многопроцессорной вычислительной системой (МПВС). Особый случай мультипрограммной обработки, когда программным процессом (задачей) является шаг задания или подпрограмма, называ­ется многозадачной обработкой, а при определенных условиях многопоточной или многотредовой обработкой.

Реализация параллельной обработки помимо использования ал­горитмов, обеспечивающих параллельную работу ЭВМ, одновре­менно предъявляет определенные требования к аппаратурной ее поддержке, т.е. совершенствование и развитие структур ЭВМ.

Структурные подходы основываются на следующих основных направлениях, обеспечивающих возможность параллельной обра­ботки.

1. Совмещение во времени выполнения различных этапов раз­ных задач (программ) - мелкозернистый параллелизм.

2. Одновременное выполнение различных задач или частей од­ной задачи - крупнозернистый параллелизм.

3. Конвейеризация обработки команд программ.

Первое направление заключается в совмещении во времени этапов выполнения разных задач путем использования мультипро­граммирования. Такой режим функционирования, как было отме­чено выше, возможен и в однопроцессорных ЭВМ.

Второе направление - одновременное выполнение различных задач или частей одной задачи возможно при наличии нескольких функциональных устройств.

Третье направление - организация обработки путем конвейе­ризации, которое основано на расщепление команд или функций на более мелкие части и выполнение этих подфункций специализиро­ванными исполнительными устройствами процессора.

В современных вычислительных системах нашли применение следующие основные структурные способы реализации паралле­лизма:

- магистральный или конвейерный способ. Основан на использо­вании аппаратно-реализованном конвейере в сочетании с единой магистралью;

- функциональный способ. Основан на использовании нескольких независимых функциональных (исполнительных) устройств (ФУ), наделенных разными функциональными возможностями и способ­ных одновременно обрабатывать различные данные, определяемые потоком команд;

- матричный способ. Основан на использовании матрицы иден­тичных процессоров, работающих под единым управлением. Каж­дый из этих процессоров выполняет одну и ту же операцию над различными данными;

- многопроцессорный способ. Основан на использовании сово­купности процессоров от 2 до нескольких тысяч и больше. Каждый из этих процессоров работает под управлением собственной про­граммы и взаимодействует с другими посредством общей основной памяти или передачей сообщений через сети межпроцессорной связи (коммутационной среды);

- многомашинный способ. Основан на использовании группы не­зависимых ЭВМ, связанных друг с другом средствами обмена ин­формацией.