- •Тема 1. Вычислительные системы параллельной архитектуры 2
- •Программирование в вычислительных системах параллельной архитектуре
- •Тема 1. Вычислительные системы параллельной архитектуры
- •Определение понятия архитектуры вычислительных системах:
- •Компоненты архитектуры вс
- •Связь в алгоритмических и структурных аспектах параллельного вычисления
- •Тема : Параллельная обработка информации в Многомашинных и многопроцессорных вычислительных процессов
- •Архитектурный принцип организации обработки данных вс
- •Принципы архитектуры:
- •Принцип потока управления
- •Принцип потока данных
- •Принцип потока запросов (не эффективный (долгая), но экономный)
- •2. Вс с множественным потоком команд, одиночный поток данных. Вс системы класса mkod
- •Вычислительные системы класса simd. Векторные и векторно-конвейерные вс
- •Вычислительные системы класса mimd. Симметричные мультипроцессорные вс
- •Вычислительные системы класса mimd. Numa. Неоднородный доступ к памяти
- •Вычислительные системы класса mimd. Вс с массовой параллельной обработкой
- •Тема: Методы распараллеливания программ и вычислений
- •Этапы распараллеливания при использовании япф (ярусно-параллельная форма) для представления программ
- •Алгоритм распараллеливания ациклических участков
- •Особенности распределения выражения.
- •Тема: Распараллеливание циклических фрагментов программ
- •Пространство итераций
- •Метод гиперплоскостей
- •Статическое планирование динамического распараллеливания
- •Принципы динамического распараллеливания
- •Принцип неизбежности
- •Принцип возможности.
- •Тема: Операторы задания взаимодействий Операторы индивидуальных взаимодействий:
- •Условия корректности параллельных алгоритмов
- •Корректность параллельных алгоритмов с операторами групповых взаимодействий.
Принцип потока запросов (не эффективный (долгая), но экономный)
Каждая команда имеет возможность выполнения в том случае, когда становятся необходимы результаты ее выполнения.
Схема потока запросов
Отличительными особенностями потока запросов являются:
Все программные структуры, команды и аргументы являются выражениями
Не используется обычная концепция памяти для данных
Нет никаких ограничений по последовательность выполнения вычислительных действий, сверхприсущих собственно запросам на операнды .
Нет общей памяти
Нет системы централизованного управления
Классификация ВС. ВС класса ОКОД ( SISD). Систематика Флинна
Общепринятой является классификация вычислительных систем, которую часто называют систематикой Флинна. Эта систематика базируется на понятии потока, под которым понимается множественное представление данных и команд на наиболее узком участке ВС. (если была многопроцессная, а где-то свелась к одному ядру, то она однопоточная ). Таким образом ВС могут быть поделены на 4 класса:
ОКОД |
|
ОКМД |
SIMD (скалярное умножение вектора) + |
МКОД |
|
МКМД |
MIMD + |
Недостатки классификации:
Пустой класс
Неправильное определение множеств
MIMD – перенаселен. Попадают неродственные ВС:
1). ВС с одиночным потоком команд, одиночный поток данных. (Single Instruction, Single Data)
2. Вс с множественным потоком команд, одиночный поток данных. Вс системы класса mkod
С множественным потоком класса МКМД MIMD
Вычислительные системы класса simd. Векторные и векторно-конвейерные вс
Представляет
собой два класса:
Конвейерное АЛУ. Выделяются такие фазы обработки, которые могут быть реализованы параллельно.
Выборка команд.
Дешифрация кода операции.
Определение набора управляющих сигналов.
Выбирается первый операнд.
Выбирается второй операнд.
Производится действие (получается результат).
Результат заносится в оперативную (либо другую) память.
В сложных ВМ количество фаз приближается к 50.
Б) Матричные ВС реализуются на массиве процессоров, в котором каждый процессор связан со своими соседями.
Такие системы применяются для различных матричных операций матричные ВС имеют общие управляющие устройства, которое генерирует поток команд; массива процессора, имеющего большое количество процессорных элементов, работающих параллельно и обрабатывает свой поток данных.
Наиболее эффективен при перемножении матриц.
На массиве АЛУ. Одно и тоже действие выполняется на всеми параллельно обрабатываемыми АЛУ. (Дорогой, но быстрый вариант обработки)
Вычислительные системы класса mimd. Симметричные мультипроцессорные вс
Все процессы имеют равные права.
Доступ к основной памяти и к периферии (система ввода/вывода)
Сопоставимая производительность.
Все процессы совместно используют общую память и работают в едином виртуальном пространстве.
Коммуникационная система чаще всего реализуется в виде шины и именно она(шина) определяет, что время доступа к памяти для каждого процессора одинаковая.
Ввод/вывод: все процессоры имеют одинаковый доступ к системе ввода/вывода и используют одинаковые каналы.
Все процессоры имеют возможность выполнять одинаковые функции.
Любой процессор может обслуживать внешнее прерывание
ОС общая интегрированная.
Общая память хороша для решения сильно-связанных задач.
Проблема КЭШ памяти. проблема когерентности (согласованность) кэш-памяти. – означает, что в любой момент времени для каждого элемента данных, в любом модуле(кэш) памяти существует только одно его значение не смотря на возможное одновременное существование нескольких копий этого элемента данных , расположенных в разных видах памяти. Для обеспечения когерентности используется аппаратная реализация (поддержка) когерентности, т.е. реализуется специальная шина, которая объединяет кэш-памяти.
Главным недостатком является наличие данной системы, которая должна быть и высокопроизводительной и высоконадежной.
Группа процессоров работает с общей ОП, при этом процессор имеет свой КЭШ, вычислительная система работает под управление одной ОС, процессоры обмениваются информацией через ОП, данная система обрабатывает все типы задач, использование общей ОП увеличивает производительность и скорость обработки данных, масштабируемость ограниченна и зависит от объема ОП.
