9. Организация кэш-памяти.

Использование кэш-памяти основано на свойстве локальности программ по обращению, имющем три составляющих:

1. Пространственная локальность программ, заключающаяся в том, что при выборке команд из памяти адрес очередной команды либо следует непосредственно за адресом предыдущей, либо находится вблизи него;

2. Пространственная локальность данных, связанная с тем, что за счет широкого использования структурированных данных при обращении к данным, как правило, используются последовательные ячейки памяти;

3. Временная локальность программ, заключающаяся в том, что в течение достаточно длительных интервалов времени исполняемая программа использует сравнительно небольшой диапазон адресов команд и\или небольшой диапазон адресов данных. Это обусловлено наличием в программе циклов и подпрограмм, а также необходимостью длительной обработки массивов данных.

Идея использования кэша как буферной памяти заключается в наличии двух видов памяти:

быстрой памяти малой емкости М₁ (n₁, tобр₁) и медленной памяти большой емкости М₂ (n₂, tобр₂), параметры которых: число ячеек - n_i и время обращения tобр_i характеризуются неравенствами

n₁ << n₂ и t _обр1 << t _обр2.

Если данные имеются в быстрой кэш-памяти, то они выбираются за время t _обр1, а если отсутствуют, то за время t _обр1 + t _обр2 данные выбираются из основной памяти и одновременно подгружаются в кэш-память.

Если благодаря свойству локальности удается исполняемый фрагмент программы и обрабатываемый массив данных разместить в кэш-памяти, то вероятность 0 <  << 1 отсутствия команд или данных в кэш - памяти удается сделать достаточно малой - обычно   0.02…0.05. Тогда среднее время обращения к такой системе буферизованной памяти будет

М {t _обр} = (1 - ) * t _обр1 +  * (t _обр1 + t _обр2) = t _обр1 +* t _обр2  t _обр1

Поскольку емкость кэш-памяти значительно меньше емкости основной памяти (ОП), то эпизодически происходит обмен информацией между КЭШем и ОП, чтобы в КЭШе оказывалась актуальная на данное время информация. При этом обмен происходит блоками одинакового размера, которые в кэш-памяти принято называть строками. Когда процессор пытается выбрать слово из памяти, то сначала он ищет это слово в КЭШе и если находит, то выбирает его из КЭШа. Такая ситуация называется попаданием (hit), а при отсутствии слова в КЭШе возникает ситуация промах ( miss) и слово выбирается из ОП. Одновременно из ОП в кэш-память пересылается блок данных, содержащий это слово.

Так как число блоков ОП больше числа строк КЭШа, строка КЭШа не может быть выделена постоянно одному блоку ОП. Поэтому каждой строке КЭШа соответствует признак (тег), показывающий, копия какого блока ОП хранится в ней в данное время. В качестве тега обычно используется часть адреса ОП. При этом для разных типов (уровней) КЭШа применяются различные способы отображения ОП на кэш-память.

Рассмотрим различные способы отображения блоков ОП на кэш-память на следующем примере.

С_оп = 256 Кслов=2¹⁸ слов, С_кэш = 2 Кслов=2¹¹ слов, С_блока = 16 слов (С - емкость);

М_оп = N_бл.оп. = 256К/16 = 16K = 2¹⁴ блоков., М_кэш = 2К/16 = 128 = 2⁷ блоков (М – число блоков);

L_адр.оп = 18бит = 14бит (адрес блока ОП) { 7бит (тег) +7бит (строка кэша)} + 4бит (слово в блоке)

L_{адр.кэш} = 11бит= 7бит (адрес строки кэша) + 4бит (слово в блоке) (L – длина адреса в битах)