23.2. Типы кэшей

Для передачи данных из основной памяти в кэш надо некоторым образом отображать ее сравнительно большой объем на небольшой по емкости буфер. В зависимости от способа отображения различают следующие типы кэшей:

- кэш с прямым отображением;

- полностью ассоциативный кэш;

- множественный ассоциативный кэш.

По организации кэш с прямым отображением является самым простым типом буфера. Адрес памяти однозначно определяет строку кэша, в которую будет помещен блок информации. При этом предполагается, что оперативная память разбита на блоки и каждому такому блоку в буфере отводится только одна строка.

Допустим, что в компьютере используется 32-разрядный адрес оперативной памяти. Размер блока равен 4 байтам, а емкость кэша равна 64 Кбайта (16К блоков по 4 байта). В этом случае для формирования адреса буфера достаточно 16 разрядов, из которых два младших определяют один из четырех байтов в строке (offset), а 14 старших разрядов адресуют один из 16К блоков кэша (line). В соответствии с этим адрес основной памяти можно разбить на два поля: младшие 16 разрядов - индекс, старшие 16 разрядов - признак. Индекс определяет адрес кэша - памяти (строку кэша, а признак позволяет отличить один блок оперативной памяти от другого при записи в некоторую строку буфера. Хранится он в специальной памяти признаков (рис. 23.1.).

При обращении центрального процессора к основной памяти, например, по чтению, поле индекса определяет выбор одной из строк кэша. Признак, хранящийся в соответствующей строке памяти признаков, сравнивается с 16 старшими разрядами адреса, выданного центральным процессором. Если выбранная из памяти признаков информация совпадает с этими разрядами, то это означает, что необходимые данные находятся в буфере - они считываются из кэша и передаются в процессор. Если же нет, то оно свидетельствует об отсутствии информации в кэш-памяти, и в выбранную строку считывается требуемый блок информации из основной памяти.

Существенное преимущество данного типа кэша заключается в необходимости только одного сравнения признака, выбранного из соответствующей строки, и старших разрядов адреса оперативной памяти, выданного процессором. Такое техническое решение существенно повышает производительность системы.

Однако оно имеет и недостатки. Если адреса двух блоков отличаются только полем признака, то они будут отображаться на одну и ту же строку буфера. Поэтому при обращении к таким полям возникает конфликт. Для его разрешения старый блок из кэша переписывается в оперативную память, а на его место помещается новый. Правда, при этом следует заметить, что переписывать старый блок в оперативную память имеет смысл только в том случае, если он изменялся. Если же блок не изменялся, то переписывать его в основную память не имеет смысла, так как он в ней и так хранится. Необходимость разрешения конфликтов приводит к росту числа пересылок между буфером и оперативной памятью, что в итоге влияет на эффективность работы буфера не самым лучшим способом.

Рис.23.1.

В полностью ассоциативном кэше любой блок оперативной памяти может быть отображен на любую строку кэш-памяти. Так как между блоками нет каких-либо определенных взаимосвязей, то в буфер должны записываться полный адрес каждого блока и непосредственно сам блок, тогда два младших разряда адреса оперативной памяти определяют байт в блоке, а старшие разряды адреса (признак) должны быть помещены в память признаков (рис. 23.2.). Таким образом, в памяти признаков будет хранится полный адрес блока. Этот подход к реализации кэша позволяет решить проблему конфликта адресов, свойственную кэш-памяти с прямым отображением, так как каждая строка кэша будет отображать только один блок оперативной памяти.

При данной организации буфера возникает вопрос: в какую именно строку должны быть помещены блок данных и адрес оперативной памяти (признак) ? Первоначально, когда буфер еще не заполнен, блок помещается в первую свободную строку.

Рис.23.2.

Когда же буфер полон, то один из блоков должен быть из него вытеснен и переписан в основную память, а на его место помещен новый. В ОЗУ переписывается блок, к которому было наименьшее число обращений. Следовательно необходим механизм, позволяющий определить наименее используемый блок. Это требует дополнительных аппаратных затрат. Кроме того, при каждом обращении к оперативной памяти необходимо сравнивать ее адрес со всеми адресами, хранящимися в буфере (память признаков), а подобная процедура требует немало времени. Таким образом, полностью ассоциативной кэш разрешает проблему конфликта адресов, но ценой дополнительного оборудования и увеличения времени обработки запроса в память.

Множественный ассоциативный кэш сочетает в себе преимущества кэш-памяти с прямым отображением и полностью ассоциативной кэш-памяти (рис.23.3).

Рис.23.3.

В этом типе буфера строки разбиваются на группы, в которые могут входить две, четыре и т.д. строк. В соответствии с их количеством различают двухвходовой множественный ассоциативный кэш, четырехвходовый множественный ассоциативный кэш и т.д. Рассмотрим простейший двухвходовой множественный ассоциативный кэш. Тогда в рассматриваемом примере буфер будет иметь 8К групп по две строки в каждой (рис.23.3.). Два младших разряда адреса оперативной памяти по прежнему определяют байт в блоке, а остальные разряды поля индекса обеспечивают выбор одной из 8К групп кэша. Старшие 16 разрядов адреса оперативной памяти (признак), как и в полностью ассоциативном буфере, записываются в соответствующую строку памяти признаков. Для блоков с одним и тем же индексом в адресах отводится две строки буфера. Поэтому, если одна из строк группы занята некоторым блоком, то следующий блок с таким же индексом записывается в свободную строку, то есть в пределах группы кэш является полностью ассоциативным. Благодаря этому увеличивается коэффициент удачных обращений к буферу. Кроме того, по сравнению с полностью ассоциативным кэшем, количество сравнений адреса основной памяти с признаками в буфере сокращается до двух. Оба этих фактора оказывают заметное влияние на повышение производительности системы. Например, для двухвходового ассоциативного кэша производительность повышается на несколько процентов по сравнению с кэшем с прямым отображением.

Безусловно, на эффективность работы буфера с такой организацией большое влияние оказывает количество входов (строк в группе) множественного ассоциативного кэша: чем их больше, тем выше должна быть производительность. Однако следует учитывать, что с ростом количества входов увеличивается и количество сравнений адресов и, следовательно, время обслуживания запроса в память. В целом кэш-память с прямым отображением объемом М имеет такой же коэффициент удачных обращений, что и двухвходовой ассоциативный кэш объемом М/2. Поэтому при выборе компьютера следует обращать внимание не только на объем кэша, но и на его тип.