Asm 2006

5

тающему устройству: если разрешить всем программам бесконтрольно выводить свои данные на печать, то, конечно, разобраться в том, что же получится на бумаге, будет чаще всего невозможно.1

Итак, в мультипрограммном режиме программе пользователя запрещается выполнять многие "опасные" команды, в частности команды, работающие с внешними устройствами (дисками, принтерами, линиями связи и т.д.). Как же тогда быть, если программе необходимо, например, считать данные из своего файла на диске в оперативную память? Выход один – программа пользователя должна обратиться к определённым служебным процедурам, с просьбой выполнить для неё ту работу, которую сама программа пользователя сделать не в состоянии. Эти служебные процедуры, естественно, должны работать в привилегированном режиме. Перед выполнением запроса из программы пользователя, такая служебная процедура проверяет, имеет ли эта программа пользователя право на запрашиваемое действие, например, что эта программа имеет необходимые полномочия на чтение из указанного файла.2

Переключение из привилегированного режима в режим пользователя обычно производится по некоторой (не привилегированной) машинной команде. Значительно сложнее обстоит дело с такой опасной операцией, как переключение центрального процессора из обычного в привилегированный режим работы. Это переключение невозможно выполнить по какой-либо машинной команде (докажите, что это так!). Обычно переключение в привилегированный режим производится автоматически при обработке центральным процессором сигнала прерывания, в этом случае процедура-обработчик прерывания уже начинает свою работу в привилегированном режиме. Иногда переключение в привилегированный режим производится центральным процессором при вызове специальных системных процедур, которые имеют полномочия для работы в привилегированном режиме.

14.1.4. Таймер

Встроенные в компьютер электронные часы (таймер) появились ещё до возникновения мультипрограммного режима работы. Тем не менее, легко понять, что без таймера мультипрограммный режим тоже невозможен. Действительно, это единственное внешнее устройство, которое гарантированно и периодически посылает центральному процессору сигналы прерываний. Без таких сигналов некоторые программы могли бы войти в выполнение бесконечного цикла (как говорят программисты – зациклиться), и ничто не могло бы вывести компьютер из этого состояния.3

Итак, мы рассмотрели аппаратные средства, необходимые для обеспечения мультипрограммного режима работы ЭВМ. Остальные аппаратные возможности ЭВМ, которые часто называют студенты при ответе на этот вопрос (такие, как большая оперативная память, высокое быстродействие центрального процессора, большая ёмкость дисков и другие) являются, конечно, желательными, но

не необходимыми.

Разумеется, кроме перечисленных аппаратных средств, для обеспечения мультипрограммной работы совершенно необходимы и специальные программные средства, прежде всего операционная система, поддерживающая режим мультипрограммной работы. Такая операционная система является примерно на порядок более сложной, чем её предшественницы – операционные системы, не поддерживающие мультипрограммный режим работы. Всё это, однако, тема Вашего следующего семестра, а мы продолжаем изучать архитектуру современных ЭВМ.

1Например, если работающие в мультипрограммном режиме программы Васи и Пети производят вывод на единственный общий принтер, то на самом деле данные, которые печатает каждая программа пользователя, не выводятся сразу на печать, а записываются в специальный файл, который будет выводиться на печать только после полного завершения этой программы.

2Способы задания таких полномочий студенты факультета Вычислительной математики и кибернетики МГУ изучатют в третьем семестре на примере операционной системы Unix.

3Обычно при счёте в мультипрограммном режиме программа пользователя может сообщить операционной системе своё максимальное время счёта. Это не физическое время, а сумма всех квантов времени центрального процессора, выделяемых для этой задачи. Можно сказать, что программа заводит для себя "будильник", на котором выставляется время окончания её работы. По истечению этого максимального времени счёта программа пользователя получит соответствующий сигнал и может быть завершена.

2

Кэш делается на очень быстрых интегральных схемах статической памяти и работает почти с такой же скоростью, как и центральный процессор, т.е. может, например, выдавать по 8 байт каждые 2-3нс. Для программиста кэш является невидимой памятью в том смысле, что эта память не адресуемая, к ней нельзя обратиться из программы по какой-либо команде чтения или записи данных.1 Такого рода память, в которой команды и числа не имеют адресов, как мы уже не упоминали, называется ассоциативной памятью.2 Центральный процессор работает с кэшем по следующей схеме.

Когда центральному процессору нужна какая-то команда или данное, то сначала он смотрит, не находится ли уже эта команда или данные в кэше, и, если они там есть, читает их оттуда, не обращаясь к оперативной памяти. Разумеется, если требуемой команды или данных в кэше нет, то центральный процессор вынужден читать их из относительно медленной оперативной памяти, однако копию прочитанного он обязательно оставляет при этом в кэше. Заметим, что используя расслоение оперативной памяти, вместе с требуемыми байтами памяти в кэш одновременно попадают и несколько соседних с ними байтов памяти (обычно этих байт даже больше, чем банков памяти, это называется строкой кэш памяти – cash line), что как мы далее увидим, является очень полезным для увеличения быстродействия ЭВМ.

Аналогично, при записи данных центральный процессор помещает их в кэш. Особая ситуация складывается, если требуется что-то записать в кэш, а там нет свободного места. В этом случае по специальным алгоритмам, которые Вы будете изучать в следующем семестре, из кэша удаляются некоторые данные, обычно те, к которым дольше всего не было обращения из центрального процессо-

ра.3 При этом, если эти данные в кэш памяти изменялись, то они переписываются в оперативную память.4

Таким образом, в кэше накапливаются наиболее часто используемые команды и данные выполняемой программы, например, все команды не очень длинных циклов после их первого выполнения будут находиться в памяти типа кэш.5 Часто говорят, что кэш образует буфер между быстрой регистровой памятью центрального процессора и медленной оперативной памятью (буфером обычно называется устройство, сглаживающее неравномерность скорости работы других взаимодействующих между собой устройств). На рис. 15.1 показана схема взаимодействия центрального процессора и оперативной памяти с использованием кэша.

Оперативная

память

Память типа кэш

Центральный

процессор

Рис. 15.1. Схема обмена с использованием памяти типа кэш.

Как уже говорилось, память типа кэш строится из очень быстрых и, следовательно, дорогих интегральных схем, поэтому из экономических соображений её объём сравнительно невелик, примерно

1 Конечно, существуют привилегированные команды для работы с кэшем как с единым целым, это, например, команда очистки кэша от всех находящихся там команд и данных.

2Скорее всего, так же устроена память и у человека. Действительно, было бы удивительно, если бы у того, что мы помним, были бы ещё какие-то адреса.

3Проще всего это сделать, если вести очередь обращений к данным в кэше, при этом при каждом чтении или записи некоторого данного, оно ставится в начало этой очереди. Легко понять, что при этом в конце очереди автоматически соберуться те данные, к которым дольше всего не было обращения.

4В архитектуре некоторых ЭВМ может быть два отдельных кэша, один для команд и другой для данных. Такие ЭВМ нарушают принцип Фон Неймана неразличимости команд и данных. При этом команды запрещается менять, поэтому в кэш команд никогда не производится запись, что позволяет упростить реализацию этого кэша.

5Как видно из этого алгоритма работы кэша, он весьма "болезненно" реагирует на прерывания, так как при этом производится переключение на другую программу, и информацию в кэше необходимо по большей части сменить.

4

выполнения программы. Современные компьютеры снабжаются более сложно устроенной кэш памятью, в которой вероятность описанной выше неприятной ситуации значительно ниже.

Для ещё большего увеличения скорости чтения и записи команд и данных центральным процессором можно включить в архитектуру не один, а два и даже три последовательно подключённых кэша. При этом самый внутрений (ближайший к центральному процессору) кэш называется кэшем первого уровня, следующиё – второго уровня, и т.д.

Здесь, однако, необходимо уяснить для себя следующее. Успешное применение памяти типа кэш базируется на свойстве локальности программ, это свойство уже упоминалось нами при изучении близких относительных переходов. Свойство локальности заключается в том, что выполняемые команды и обрабатываемые данные программы не разбросаны по памяти в хаотическом беспорядке, а обнаруживают тенденцию группироваться в некоторые относительно небольшие области. Это, например, команды в теле циклов, данные внутри массивов и т.д. Например, можно специально написать программу, не обладающую свойством локальности, такая программа будет после каждой команды случайным образом переходить на выполнение следующей команды в любой части программы, а обрабатываемые данные также выбирать из областей памяти со случайными адресами. Так вот, Вам необходимо понять, что при выполнении такой программы кэш будет бесполезен.1

Вот теперь, на машине с памятью типа кэш, наша рассмотренная выше команда add ax,X будет чаще всего выполняться уже за 2(команда)+2(данные)+2(сложение)=6нс.2 Как видим, ситуация коренным образом улучшилась, хотя всё равно получается, что сам центральный процессор работает только 30% от времени выполнения команды, а остальное время ожидает поступления на свои регистры команд и данных. Для того чтобы исправить эту неприятную ситуацию, нам придётся снова существенно изменить архитектуру центрального процессора.

15.1. Конвейерные ЭВМ

Как мы уже говорили, современные ЭВМ могут одновременно выполнять несколько команд. Для этого они должны либо иметь несколько центральных процессоров, либо центральный процессор такого компьютера строится по так называемой конвейерной (pipeline) архитектуре.3 Рассмотрим схему работы таких конвейерных ЭВМ.

Выполнение каждой команды любым центральным процессором, как мы уже знаем, состоит на нескольких этапов или шагов. Можно, например, выделить следующие основные шаги выполнения команды.

1. Выбор команды из оперативной памяти (или кэша) на регистр команд.

2.Определение кода операции (так называемое декодирование команды).

3.Вычисление исполнительных адресов операндов в памяти.

4.Выбор операндов из оперативной памяти (или кэша) на регистры арифметико-логичес- кого устройства.

5.Выполнение требуемой операции (сложение, умножение, сдвиг и т.д.) над операндами на регистрах арифметико-логического устройства.

6.Запись результата операции и выработка флагов.

Вконвейерных ЭВМ центральный процессор состоит из нескольких блоков, каждый из которых выполняет один из перечисленных выше шагов команды. Эти блоки стараются строить так, чтобы все они выполняли свою работу по выполнению шага команды за одно и то же время. Теперь понятно, что такие блоки можно заставить работать параллельно, обеспечивая, таким образом, одновременное выполнение центральным процессором нескольких последовательных команд программы. На рис. 15.2 приведена схема работы центрального процессора конвейерной ЭВМ, направление движения команд на конвейере показано толстой стрелкой. Так как выполнение каждой команды мы разби-

1 Замечание для программистов-математиков: объём сегментов команд и сегментов данных такой "нелокальной" программы должен существенно превышать размер памяти типа кэш.

2 Заметим, что за одно обращение из памяти теперь читается не одна команда, а в среднем две-три последовательные команды программы, поэтому можно считать, что среднее время выполнения команды будет ещё меньше: 1+2+2=5нс.

3 На персональных ЭВМ впервые конвейер реализован на процессоре Intel 486 в 1989 году, но на больших компьютерах это произошло раньше. Например, конвейер имела отечественная ЭВМ БЭСМ-6, выпускавшаяся в 70-х годах прошлого века.

5

ли на шесть шагов, то одновременно на нашем конвейере может находиться шесть команд программы.1

Рис. 15.2. Схема работы конвейера.

Из показанной схемы понятно, почему такие ЭВМ называются конвейерными. Как, например, на конвейере автомобильного завода одновременно находятся несколько машин в разной стадии сборки, так и на конвейере центрального процессора находятся несколько команд в разной стадии выполнения. Отметим, что теперь в центральном процессоре уже нет привычного нам регистра команд, на котором располагается текущая выполняемая команда. Вместо этого поток выполняемых команд располагается в специальном буфере команд.

Отметим хорошее свойство любого конвейера: хотя выполнение каждой команды, как в нашем примере, занимает шесть шагов, однако на каждом шаге с конвейера "сходит" полностью выполненная команда. Таким образом, использование такого рода конвейера позволяет, в принципе, в шесть раз повысить скорость выполнения программы.

Вот теперь, после введения в архитектуру ЭВМ конвейера, мы, наконец, достигли соответствия скорости работы центрального процессора и памяти. Действительно, предположим для простоты, что каждое из шести устройств на конвейере выполняет свой этап обработки команды за 1нс, тогда каждая команда выполняется на конвейере за 6нс, и за это время она успевает произвести все необходимые обмены и командами и данными с памятью (чаще всего из кэша). В то же время, как мы уже отмечали, скорость выполнения потока команд центральным процессором получается в 6 раз больше за счёт работы конвейера. Поэтому и говорят, что, например, компьютер работает со скоростью 109 операций в секунду (то есть как бы выполняет по одной команде каждую наносекунду), хотя мы теперь знаем, что на самом деле выполнение каждой команды занимает в несколько раз больше времени.

Разумеется, как всегда не всё обстоит так хорошо, как кажется с первого взгляда. Первая неприятность поджидает нас, если одна из следующих команд использует результат работы предыдущей команды, а это случается достаточно часто по самой сути вычислительных алгоритмов. Например, пусть есть фрагмент программы:

add al,[bx] sub X,al inc bx

inc di

Для второй команды этого фрагмента нельзя выполнять операцию вычитания, пока первая команда фрагмента не запишет в al свой результат, т.е. не сойдёт с конвейера.2 Таким образом, вторая команды будет задержана на третьей позиции конвейера (на четвёртой позиции уже надо читать операнд из регистра al, а этот операнд ещё не помещён в этот регистр). Вместе со второй командой из нашего примера остановится, и выполнение следующих за ней команд и на конвейере образуются два "пустых места". В таблице 15.1 показана схема движения команд из приведённого выше фрагмента программы на конвейере, каждая строка соответствует одному шагу работы конвейера.

1 Конвейеры современных ЭВМ могут разбивать выполнения команд и на большее число шагов, например, в компьютере Pentium-IV конвейер состоит из 20 шагов.

2 Такая зависимость между данными называется в научной литературе RAW (Read after Write – чтение после записи, т.е. мы читаем ещё не записанный операнд). Путём рассуждений можно понять, что существуют и две другие зависимости между данными: WAR (Write after Read – запись после чтения) и WAR (Write after Write – запись после записи).

6

Таблица 15.1. Движение команд по конвейеру.

Ясно, что скорость выполнения всей программы с такими, как говорят, зависимостями по данным, может при этом сильно упасть. Зная такую особенность работы конвейера, "умный" центрального процессора, исправляя оплошность программиста, может изменить порядок команд в машинной программе, получив, например, такой эквивалентный фрагмент: 1

add al,[bx] inc bx

inc di sub X,al

При выполнении этого фрагмента, как легко увидеть, ячейки конвейера уже не будут пустовать.

Упражнение. Нарисуйте новую схему работы конвейера для этого оптимизированного фрагмента программы и убедитесь, что нам не будет пустых мест.

Другая неприятность в работе конвейера случается, когда на него поступает команда условного перехода. Что надо делать после выполнения этой команды, производить переход в другое место программы, или же продолжить последовательное выполнение команд, выяснится только тогда, когда команда условного перехода сойдёт с конвейера. Так, спрашивается, из какой же ветви условного перехода выбирать на конвейер следующую команду? Обычно при конструировании конвейера для обработки команд условного перехода принимается какое-либо одно из следующих двух решений.

Во-первых, можно выбирать команды из наиболее вероятной ветви условного оператора. Например, очевидно, что в нашем компьютере для команды цикла loop переход на повторение тела цикла значительно более вероятен, чем выход из цикла вниз. Для остальных команд условного перехода центральный процессор может накапливать статистику, насколько часто та или иная команда осуществляет переход, а не естественное продолжение программы. Этот метод называется в научной литературе предсказанием ветвления. Вероятность такого предсказания у современных конвейерных ЭВИ может приближаться к 90%.

Во-вторых, можно поочерёдно выбирать на конвейер команды из обеих ветвей условного перехода. Разумеется, в этом случае половина команд будет выполняться зря и их потом "недоделанными" придётся выбросить с конвейера. В литературе этот метод называется спекулятивным выполнением (режущее для российского уха название связано с неудачным выбором значения соответствующего английского термина speculative: лучше переводить его не как спекулятивный, а как умозрительный, имея в виду умозрительное, а не настоящее движение алгоритма сразу по двум ветвям условного перехода, что противоречит сути вычислительного процесса).

1 Так как переставлять команды в программе для её более эффективного выполнения умеют только достаточно мощные центральные процессоры, то можно поручить эту работу и компилятору. Такие компиляторы называются оптимизирующими компиляторами, оптимизация машинного кода программы выполняется обычно на одном или нескольких дополнительных проходах компилятора перед получением объектного модуля. Необходимо, однако, заметить, что оптимизирующие компиляторы обычно реализуются для языков высокого уровня и не занимаются оптимизацией собственно машинного кода. В то же время современные процессоры (например, семейства Pentium) могут сами при выполнении программы (динамически) переставлять её команды для повышения производительности работы конвейера.

7

Далее, как мы уже отмечали ранее, конвейер весьма болезненно реагирует на прерывания, так как при этом производится автоматическое переключение на другую программу и конвейер приходится полностью очищать от частично выполненных команд предыдущей программы.1

Ещё одна неприятность, связанная с функционированием конвейера, подстерегает нас, когда в программе возникает аварийная ситуация (в русскоязычной литературе сокращённо АВОСТ). Это может быть деление на ноль, выполнения привилегированной команда в режиме пользователя, попытка нарушения защиты памяти, неверный код операции и т.д. Заметим, что теперь обработчик прерывания аварийной ситуации часто не сможет однозначно определить то место (конкретную команду) в программе пользователя, где возникла эта ситуация.

Действительно, аварийную ситуацию может вызвать любая команда, находящаяся на конвейере, это, естественно, вызывает трудности при отладке программ (появляются, как их называют в специальной литературе, "неопределённые" прерывания, т.е. прерывания с неопределённым местом их возникновения в программе). А при упоминавшимся выше спекулятивном способе выполнения на конвейере условных переходов вообще возможны "ложные" прерывания в той ветви условного перехода, которая на самом деле не должна выполняться. Здесь приходится идти на беспрецендентный шаг и откладывать обработку такого "сомнительного" прерывания до того момента, пока команда условного перехода не сойдёт с конвейера, и можно будет определить, произошло ли это прерывание "на самом деле".

Ситуация ещё более запутывается, если в компьютере есть несколько конвейеров, например, один конвейер выполняет команды плавающей арифметики, а другой – все остальные команды. В этом случае, например, команда, стоящая в некотором фрагменте программы второй, может завершиться раньше, чем команда, стоящая первой. Спрашивается, с какой команды возобновить выполнение программы после возврата из прерывания? Вот и приходится в нужные моменты искусственно тормозить работу одного из конвейеров, чтобы не нарушался естественный порядок следования команд в программе. Как видим, конструкторам центральных процессоров современных ЭВМ не позавидуешь ☺.

На этом мы закончим наше краткое знакомство с архитектурными особенностями современных ЭВМ, ориентированными на повыщение производительности их работы, и перейдём к сравнению между собой ЭВМ разных классов.

15.2. ЭВМ различной архитектуры

Отметим сейчас одно важное обстоятельство. До сих пор мы изучали, в основном, архитектуру центральной части компьютера, т.е. центрального процессора и оперативной памяти. При этом практически не рассматривалась архитектура ЭВМ в целом, то есть способы взаимодействия центральной части компьютера с периферийными устройствами, а также способы управления устройствами ввода/вывода со стороны центрального процессора. Такое "однобокое" изучение архитектуры ЭВМ имело свою причину. Дело в том, что, несмотря на большое разнообразие архитектур центральных процессоров современных ЭВМ, различие в этих архитектурах всё же значительно меньше, чем в архитектурах компьютеров в целом. Теперь же нам пора обратить внимание на связь центральной части ЭВМ и её периферийных устройств.

Сейчас мы рассмотрим две архитектуры ЭВМ, которые в каком-то смысле являются противоположными, находятся на разных полюсах организации связи центральной части машины с её периферийными устройствами. Сначала изучим способ организации связи устройств компьютера, который получил название архитектуры с общей шиной.

15.2.1. Архитектура ЭВМ с общей шиной

Эта архитектура была разработана, когда появилась необходимость в массовом производстве относительно простых компьютеров (их тогда называли мини- и микроЭВМ [11]). Основой архитек-

1 На супер-ЭВМ для целей более эффективного использования конвейера обработку большинства прерываний обычно поручают одному из каналов ввода/вывода (периферийных процессоров), что позволяет не прерывать работу конвейера центрального процессора. Архитектуру ЭВМ с каналами ввода/вывода мы будем изучать далее в нашем курсе.

8

туры этого класса ЭВМ была, как можно легко догадаться из названия, общая шина.1 В первом приближении общую шину можно представить себе как набор электрических проводов (линий), снабженных некоторыми электронными схемами. В современных ЭВМ число линий в такой шине обычно составляет несколько десятков. Все устройства компьютера в архитектуре с общей шиной соединяются между собой посредством подключения к такому общему для них набору электрических проводов – шине. На рис. 15.3 показана схема соединения всех устройств компьютера между собой с помощью такой общей шины.

Рис. 15.3. Архитектура компьютера с общей шиной.

В этой архитектуре шина исполняет роль главного элемента, связующей магистрали, по которой производится обмен информацией между всеми остальными устройствами ЭВМ. Легко понять, что, так как обмен информацией производится по шине с помощью электрических сигналов, то в каждый момент времени только два устройства могут выполнять такой обмен. Обычно одно из этих устройств является ведущим (инициатором обмена данными), а другое – подчинённым (ведомым). Все устройства компьютера связаны с общей шиной посредством специальных электронных схем, которые чаще всего называются портами ввода/вывода. Каждый такой порт имеет на шине уникальный номер (в нашей архитектуре этот номер имеет формат i16). Обычно каждому устройства компьютера приписан не один порт, а несколько, так как они специализированные: по некоторым портам устройство может читать данные с шины, по другим – записывать (передавать) данные в шину, а есть и универсальные порты, как для чтения, так и для записи.

При использовании общей шины многими устройствами могут возникать конфликты, когда два или более устройств захотят одновременно обмениваться между собой данными. Для разрешения таких конфликтов предназначен арбитр шины – специальная электронная схема, которая обычно располагается на одном из концов этой шины. Разрешение конфликтов производится по принципу приоритетов устройств: при конфликте арбитром отдаётся предпочтение устройству с большим приоритетом. В простейшем случае приоритеты устройствам явно не назначаются, а просто считается, что из двух устройств то имеет больший приоритет, которое расположено на шине ближе к арбитру. Исходя из этого, более "важные" устройства стараются подключить к шине поближе к арбитру. Не правда ли, это несколько похоже на известный солдатский принцип "держись подальше от начальства и поближе к кухне" (неясно только, почему арбитр шины – это не начальник, как можно было бы ожидать, а кухня !).

Разберём теперь схему обмена данными между двумя устройствами с помощью общей шины. Сначала ведущее устройство (инициатор обмена) делает так называемый запрос шины, т.е. посылает арбитру сигнал о желании начать обмен данными (для этого ведущее устройство может прочитать из специального служебного регистра флаг-признак занятости шины). Если шина занята, то устройство вынуждено ждать её освобождения, а если шина свободна, то устройство производит операцию захвата шины в своё монопольное использование. Это означает, что для остальных устройств шина теперь будет выдавать признак занятости.

После захвата шины ведущее устройство определяет, готово ли ведомое устройство для обмена данными. Для этого ведущее устройство посылает ведомому устройству специальный сигнал и ждёт ответа, или же читает из порта ведомого устройства его флаг готовности. Определив готовность

1 В некоторых книгах, посвящённых архитектуре ЭВМ, такую шину часто называют также внешней шиной. Это название призвано подчеркнуть, что в архитектуре таких компьютеров, наряду с этой внешней шиной, существуют и другие (внутренние) шины.