Параллельные архитектуры с неоднородным доступом к памяти. NUMA-системы

Основные классы современных параллельных компьютеров

•Симметричные мультипроцессорные системы

Symmetric Multiprocessing - SMP

•Массивно-параллельные системы

Massive Parallel Processing - MPP

•NUMA-архитектура

Non-Uniform Memory Architecture

Особенности NUMA

•Каждая группа процессоров имеет свою собственную память.

•Каждый ЦП может иметь доступ к памяти, связанной с другими группами.

•Доступ к локальной памяти происходит быстрее, чем к памяти, связанной с другими узлами NUMA.

Работа с памятью

•Доступ процессорного элемента к собственной локальной памяти оказывается в 5-10 раз быстрее, чем доступ к общему блоку памяти и к блокам локальной памяти других процессорных элементов.

•Отношение времен доступа к внешней и локальной памяти называется коэффициентом NUMA.

•Чем выше коэффициент NUMA, тем больше издержки на доступ к памяти других узлов.

Когерентность кэша

•В многопроцессорных системах несколько процессорных узлов работают одновременно, поэтому возможна ситуация параллельного доступа к одной ячейке памяти.

•Механизм уведомления всех узлов об изменении значения в общей памяти называется протоколом когерентности (memory coherence protocol).

•В класс NUMA входят системы без кэширования nc-NUMA (No Caching NUMA) и системы с согласованной кэш-памятью cc-NUMA (Coherent Cache NUMA).

•Примеры cc-NUMA: HP 9000 V-class в SCA-конфигурациях, SGI Origin2000, Sun HPC 10000, IBM/Sequent NUMA-Q 2000, SNI RM600.

Масштабируемость

•Главный выигрыш от использования NUMA — это масштабируемость.

•Масштабируемость NUMA-систем ограничивается объемом адресного пространства, возможностями аппаратуры поддержки когерентности кэшей и возможностями операционной системы по управлению большим числом процессоров.

Операционная система

•Обычно вся система работает под управлением единой ОС. Но возможны также варианты динамического "подразделения" системы, когда отдельные "разделы" системы работают под управлением разных ОС.