28. Иерархия систем памяти. КЕШ-память. Принцип использования. Причины эффективности.

Иерархическая система памяти

Для достижения компромисса между емкостью и производительностью памяти она реализуется в виде иерархической системы, показанной на рис. 3.4.

Иерахическая система памяти состоит из следующих уровней:

1Сверхоперативная память (СОЗУ), которая реализуется на регистрах и является наиболее быстрой.

2Процессорный кэш (буферная память), служит для согласования скорости процессора и основной памяти.

Образует с основной памятью систему буферизованной памяти. Для программиста эта память является прозрачной, поэтому называется кэш-памятью, она реализуется на биполярных элементах (на одном кристалле с процессором или в менее быстрых компьютерах – на одной плате с процессором). Может, в свою очередь, делиться на несколько уровней, а также разделяться на кэш команд и кэш данных.

3Основная память, все то, что представляется программисту для выполнения программ.

4Дисковая вспомогательная память – память на жестком диске (винчестере), служащая для расширения доступного программисту адресного пространства путем организации совместно с основной памятью системы виртуальной памяти.

5Архивная память – многотомные накопления на магнитных лентах, CD-ROM и т. д. для долговременного хранения данных без разрушения. Дисковая и архивная память образуют систему дисковой виртуальной памяти, обеспечивающей удобство работы жесткого диска с архивными устройствами.

Рис. 3.4

68

Чем больше “номер” у памяти, тем ниже ее ценность по быстродействию.

Организация кэш-памяти.

Кэш - промежуточный буфер с быстрым доступом, содержащий копию той информации, которая хранится в памяти с менее быстрым доступом, но с наибольшей вероятностью может быть оттуда запрошена. Доступ к данным в кэше идёт быстрее, чем выборка исходных данных из медленной памяти или их перевычисление, что делает среднее время доступа короче.

Использование кэш-памяти основано на свойстве локальности программ, заключающемся в том, что в течение достаточно длительных интервалов времени исполняемая программа использует сравнительно небольшой диапазон адресов команд и/или небольшой диапазон адресов данных. Это обусловлено наличием в программе циклов и подпрограмм, а также необходимостью длительной обработки одного или нескольких массивов данных.

Идея использования кэша как буферной памяти заключается в наличии двух видов памяти:

быстрой памяти малой емкости М1 (n1, tобр1) и медленной памяти большой емкости М2 (n2, tобр2), параметры которых число ячеек - ni и время обращения tобрi характеризуются неравенствами:

n1 << n2 и t обр1 << t обр2.

Пусть 0 < α << 1 – вероятность отсутствия данного в быстрой памяти (обычно α ≈0.02…0.05). Тогда среднее время обращения для такой системы буферизованной памяти будет

М {t обр} = (1 - α) * t обр1 + α * (t обр1 + t обр2) = t обр1 +α* t обр2 ≈t обр1

Если данные имеются в кэш-памяти, то они выбираются за время t обр1, а если отсутствуют, то за время t обр1 + t обр2; данные выбираются из основной памяти и одновременно подгружаются в кэш-память.

Применяется несколько способов отображения основной памяти на кэш-память.

69

29. КЕШ-память с прямым отображением адресов.

Отображение основной памяти на кэш-память происходит блоками. При прямом отображении адрес блока (строки) i кэш-памяти, на которую может быть отображен блок j ОП, однозначно определяется выражением i = j mod m , где m – общее число строк кэш-памяти. Пусть m = 128 и число блоков ОП равно 16384(14К), тогда на блок кэш-памяти с номером i будут отображаться 128 блоков ОП с номерами i , i+128, i +256, … , i +16256.

Для задания конкретного блока ОП из такой последовательности в кэш-памяти используется специальное поле тегов. В свою очередь, 14-битный адрес блока ОП разбивается на два поля: 7- битный тег (7 старших разрядов адреса) и 7-битный номер строки кэш-памяти, на которую может быть отображен этот блок ОП. При этом поле тега определяет, какой из списка блоков ОП, закрепленных за данной строкой кэша, сейчас адресуется. Когда блок ОП фактически заносится в соответствующую строку кэш-памяти, в поле тегов этой строки нужно записать тег именно этого блока, в качестве тега служат 7 старших разрядов адреса блока.

При несомненной простоте прямого отображения его существенным недостатком является жесткое закрепление строки кэша за определеннымиблоками ОП. Поэтому при поочередном обращении программы к словам из двух блоков, отображаемых на одну и ту же строку кэша, постоянно будет происходить обновление этой строки, резко снижающее скорость доступа к памяти. Кэш с прямым отображением ввиду своей экономичности используется для построения вторичных кэшей сравнительно большого объема.

70

30. КЕШ-память с множественно-ассоциативным отображением адресов.

Такой способ отображения позволяет каждому блоку основной памяти претендовать на одну из нескольких строк кэш-памяти, объединенных в набор (множество). Можно считать, что в этом случае используется несколько параллельно и согласованно работающих каналов прямого отображения и контроллеру кэша приходится принимать решение о том, в какую из строк набора помещать очередной блок данных из ОП. В простейшем случае каждый блок ОП может помещаться в одну из двух строк (двухканальный множественно-ассоциативный кэш). Кэш с множественноассоциативным отображением может применяться для построения как первичных, так и вторичных кэшей.

71