10.3. Архитектура мультипроцессорных систем общего назначения

Описанные в предыдущем разделе матричные системы предназначены для вы­полнения вычислений с ярко выраженным параллелизмом данных. Для других задач, где нет столь явно выраженного параллелизма данных, гораздо лучше под­ходит архитектура MIMD, в которой множество процессоров могут независимо и параллельно выполнять разные подпрограммы.

На рис. 10.2, 10.3 и 10.4 продемонстрированы три возможных способа реализации мультипроцессорной системы типа MIMD. Самая простая система представлена на рис. 10.2. Она состоит из n процессоров, k модулей памяти и коммуникацион­ной сети, связывающей процессоры и память. Сеть может стать причиной значи­тельной задержки при обращении процессора к памяти. Система, в которой такая задержка одинакова для всех операций доступа к памяти, называется мультипро­цессорной системой с однородным доступом к общей памяти (Uniform Memory Access, UMA) или системой с общей памятью. Поскольку процессоры выполняют команды с огромной скоростью, слишком большие задержки на выборку из памяти команд и данных для них не приемлемы. Однако коммуникационные сети с малым временем задержки имеют очень сложную структуру и высокую стоимость.

Модули памяти

Рис. 10.2. Мультипроцессорная система типа UMA

Достичь высокого быстродействия всех процессоров можно путем непосред­ственного соединения с ними модулей памяти. Архитектура такой системы пока­зана на рис. 10.3. Каждый процессор имеет доступ не только к собственной ло­кальной памяти, но и к памяти других процессоров сети. Но поскольку при обращении к памяти других процессоров запросы проходят через сеть, они вы­полняются дольше, чем обращения к локальной памяти. Системы этого типа на­зываются мультипроцессорными системами с неоднородным доступом к памя­ти (Non-Uniform Memory Access, NUMA).

Рис. 10.3. Мультипроцессорная система типа NUMA

В схемах, приведенных на рис. 10.2 и 10.3, используется глобальная память, к ка­ждому из модулей которой может обратиться любой из процессоров. На рис. 10.4 де­монстрируется схема иной организации системы, характеризующаяся тем, что все модули памяти являются собственностью непосредственно соединенных с ними процессоров. Ни один из процессоров не может обратиться к удаленной па­мяти без взаимодействия с удаленным процессором, которому она принадлежит. Взаимодействие между этими двумя процессорами осуществляется в форме об­мена сообщениями. Системы такого типа называются системами с распределен­ной памятью и высокоскоростным протоколом передачи сообщений.

Рис. 10.4. Мультипроцессорная система с распределенной памятью

До сих пор в этом разделе в качестве основных функциональных устройств мультипроцессорной системы рассматривались процессоры и модули памяти. Мы не обсуждали модули ввода-вывода, хотя любая мультипроцессорная систе­ма обязательно должна иметь эффективные инструменты такого рода. Существу­ют разные средства, предназначенные для ввода и вывода информации. Отдель­ные модули ввода-вывода могут быть соединены прямо с коммуникационной сетью, обеспечивая стандартные интерфейсы ввода-вывода, о которых рассказы­валось в главе 4. Кроме того, некоторые функции ввода-вывода могут быть интег­рированы прямо в процессорные модули.

Высокоуровневое представление возможных способов организации мульти­процессоров показано на рис. 10.2, 10.3 и 10.4. Производительность и стоимость подоб­ных систем в значительной степени зависит от того, как реализованы их схемы. В следующих двух разделах речь пойдет о наиболее популярных схемах органи­зации сетей обмена и о структуре иерархии памяти.